二、TensorRT


TensorRT Sample Support Guide(v7.0)

(二)基于C++ ::(21个)

  环境配置:tensorRT_V7.0,n-GPU,cuda,cudnn,cudblas,vs2015,C++基础知识。

trtexec 快速开发TensorRT的工具,无需开发自己的应用程序。
  TensorRT的“ Hello World” 逐层构建简单的MNIST网络
导入TensorFlow模型并运行推理 ONNX的TensorRT的“ Hello World”
在TensorRT中构建和运行GoogleNet 逐层构建RNN网络
使用自定义校准在INT8中执行推理 在INT8 Precision中执行推理
在TensorRT中向网络添加自定义层 更快的R-CNN进行目标检测
使用TensorFlow SSD网络进行对象检测 使用神经协同过滤器(NCF)的移动预测
使用MPS(多进程服务)的移动预测 使用SSD进行目标检测
多层感知器(MLP)的“ Hello World” 使用免费重新格式化的I / O API指定I / O格式
在TensorRT中向网络添加支持INT8 I / O的自定义层 TensorRT中具有动态形状的数字识别
使用序列到序列(seq2seq)模型的神经机器翻译(NMT) 使用TensorFlow Mask R-CNN网络进行对象检测和实例分割
使用TensorFlow更快的R-CNN网络进行对象检测  

(1)TensorRT的“ Hello World”(sampleMNIST)。

  sampleMNIST 是一个简单的hello world示例,该示例使用Caffe解析器执行TensorRT的基本设置和初始化。

(2)

(3)

(4)

(5)

(6)

(7)

(8)

(9)

(10)

(11)

(12)

(13)

(14)

(15)

(16)

(17)

(18)

(19)

(20)

(21)

(22)

 

posted on 2021-05-11 19:03  _小程序  阅读(182)  评论(0)    收藏  举报