默写年华

摘要： TensorRT 是 NVIDIA 提出的用于统一模型部署的加速器，可以应用于 NVIDIA 自家设计的硬件平台比如 NVIDIA Tesla A100 显卡，JETSON Xavier 开发板等，它的输入可以是来自各个流行的训练框架，比如 Tensorflow, Pytorch 等训练得到的模型结 阅读全文

摘要： 通常我们在训练模型时可以使用很多不同的框架，比如有的同学喜欢用 Pytorch，有的同学喜欢使用 TensorFLow，也有的喜欢 MXNet，以及深度学习最开始流行的 Caffe等等，这样不同的训练框架就导致了产生不同的模型结果包，在模型进行部署推理时就需要不同的依赖库，而且同一个框架比如tens 阅读全文