2025年10月29日
tensor RT/onnx runtime 进行cpu/gpu 推理加速/模型部署
摘要： TensorRT，由NVIDIA精心打造，是一款专为深度学习推理任务设计的高效优化工具。它能够显著降低应用的延迟同时提升处理速度，是大规模数据中心、嵌入式设备以及自动驾驶技术等领域推理加速的理想选择。TensorRT的兼容性广泛，支持包括TensorFlow、Caffe、Mxnet和Pytorch在 阅读全文
posted @ 2025-10-29 16:02 wangssd 阅读(417) 评论(0) 推荐(0)