终端部署pytorch模型

pytorch的c++接口官方包名为libpytorch  支持在android 与ios，只要支持c++即可

 

ios： pytorch-》onnx-》coreml->ios

 

android：

pytorch-》onnx-》ncnn-》android

pytorch-》onnx-》tensorflow->android

 

 

部署在服务端：

Flask&django 

nvidia‘s triton

torchserve

 

Torchscript是一种从pytorch代码创建可序列化和可优化模型的方法