NVIDIA TensorRT

TensorRT 是 NVIDIA 的专有推理 SDK，提供图优化、精度校准、CUDA 内核选择和 C++/Python 运行时。