二、TensorRT
TensorRT Sample Support Guide(v7.0):
(二)基于C++ ::(21个)
环境配置:tensorRT_V7.0,n-GPU,cuda,cudnn,cudblas,vs2015,C++基础知识。
| trtexec: | 快速开发TensorRT的工具,无需开发自己的应用程序。 |
| TensorRT的“ Hello World” | 逐层构建简单的MNIST网络 |
| 导入TensorFlow模型并运行推理 | ONNX的TensorRT的“ Hello World” |
| 在TensorRT中构建和运行GoogleNet | 逐层构建RNN网络 |
| 使用自定义校准在INT8中执行推理 | 在INT8 Precision中执行推理 |
| 在TensorRT中向网络添加自定义层 | 更快的R-CNN进行目标检测 |
| 使用TensorFlow SSD网络进行对象检测 | 使用神经协同过滤器(NCF)的移动预测 |
| 使用MPS(多进程服务)的移动预测 | 使用SSD进行目标检测 |
| 多层感知器(MLP)的“ Hello World” | 使用免费重新格式化的I / O API指定I / O格式 |
| 在TensorRT中向网络添加支持INT8 I / O的自定义层 | TensorRT中具有动态形状的数字识别 |
| 使用序列到序列(seq2seq)模型的神经机器翻译(NMT) | 使用TensorFlow Mask R-CNN网络进行对象检测和实例分割 |
| 使用TensorFlow更快的R-CNN网络进行对象检测 | |
(1)TensorRT的“ Hello World”(sampleMNIST)。
sampleMNIST 是一个简单的hello world示例,该示例使用Caffe解析器执行TensorRT的基本设置和初始化。
(2)
(3)
(4)
(5)
(6)
(7)
(8)
(9)
(10)
(11)
(12)
(13)
(14)
(15)
(16)
(17)
(18)
(19)
(20)
(21)
(22)
浙公网安备 33010602011771号