摘要:前一篇讲过环境的部署篇,这一次就讲讲从代码角度如何导出pb模型,如何进行服务调用。 1 hello world篇 部署完docker后,如果是cpu环境,可以直接拉取tensorflow/serving,如果是GPU环境则麻烦点,具体参考前一篇,这里就不再赘述了。 cpu版本的可以直接拉取tenso 阅读全文
posted @ 2019-01-03 21:05 xingoo 阅读 (3539) 评论 (1) 编辑
摘要:最近在研究Tensorflow Serving生产环境部署,尤其是在做服务器GPU环境部署时,遇到了不少坑。特意总结一下,当做前车之鉴。 1 系统背景 系统是ubuntu16.04 或者 显卡是Tesla的P40 TensorFlow则是当下最新的1.12.0版本。 2 背景知识 在介绍如何部署之前 阅读全文
posted @ 2019-01-03 20:21 xingoo 阅读 (4529) 评论 (0) 编辑