2025年5月16日
【TensorRT 10 C++ inference example】最新版本TensorRT c++ api的推理部署教程
摘要： TensorRT是英伟达推出的部署框架，我的工作经常需要封装我的AI算法和模型给到桌面软件使用，那么tensorRT对我来说就是不二之选。TensorRT和cuda深度绑定，在c++版本的推理教程中需要使用cuda进行数据的显存绑定，由于10之前的写法比较固定，我自己基于tensorRT和cuda写 阅读全文
posted @ 2025-05-16 10:44 萧霍之 阅读(1525) 评论(2) 推荐(0)