TensorRT (TensorRT™) 是 NVIDIA 推出的一个高性能深度学习推理库,可以用于在生产环境中加速深度学习推理。在 Ubuntu 上使用 TensorRT,可以参考以下资源:
-
NVIDIA 官方文档:NVIDIA 提供了详细的 TensorRT 文档,包括安装指南、示例代码、性能优化等内容。可以在 NVIDIA 的官方网站上找到相关文档:https://docs.nvidia.com/deeplearning/tensorrt/archives/tensorrt-7.2.2/
-
TensorRT GitHub 仓库:TensorRT 的源代码托管在 GitHub 上,可以在该仓库中找到最新的代码、示例和文档:https://github.com/NVIDIA/TensorRT
-
TensorRT 开发者社区:TensorRT 有一个活跃的开发者社区,可以在 NVIDIA 的开发者论坛上找到相关讨论和资源:https://forums.developer.nvidia.com/c/accelerated-computing/tensorrt/
-
TensorFlow to TensorRT 转换工具:对于使用 TensorFlow 的开发者,可以使用 NVIDIA 提供的 TensorFlow to TensorRT 转换工具,将 TensorFlow 模型转换为 TensorRT 可以加速推理的格式。可以在 NVIDIA 的 GitHub 仓库中找到该工具:https://github.com/NVIDIA/TensorRT
希望以上资源能够帮助你在 Ubuntu 上使用 TensorRT 进行深度学习推理加速。