2020年2月19日
TensorRT加速原理记录
摘要： TensorRT是什么？ TensorRT是NVIDIA公司推出的模型加速工具，类似于常用的工具库。 TensorRT做什么？ TensorRT负责模型的推理（inference）过程，不用TensorRT训练模型。 TensorRT能加速的原因是什么？ （1）TensorRT支持kFLOAT（fl 阅读全文
posted @ 2020-02-19 14:55 我们都是大好青年 阅读(3068) 评论(0) 推荐(0) 编辑