【MindSpore】Ascend310基于MindSpore Serving部署resnet推理服务

基于MindSpore Serving部署推理服务

官方链接：https://www.mindspore.cn/tutorial/inference/zh-CN/master/serving_example.html

1.安装mindspore serving

下载：https://www.mindspore.cn/versions
https://ms-release.obs.cn-north-4.myhuaweicloud.com/1.1.1/Serving/ascend/ubuntu_x86/mindspore_serving-1.1.1-cp37-cp37m-linux_x86_64.whl

pip install mindspore_ascend-1.1.1-cp37-cp37m-linux_aarch64.whl

pip install mindspore_serving-1.1.1-cp37-cp37m-linux_aarch64.whl

配置环境变量

2. resnet工程推理

git工程

git clone https://gitee.com/mindspore/serving.git

导出模型 在../resnet50/1 目录下生成 resnet50_1b_imagenet.mindir

python3 export_model/export_resnet.py

部署serving推理服务

目前MS提供了2中接口方式：gRPC 和RESTful

执行client.py推理