Fork me on GitHub
2022年5月19日
利用java加载bert模型进行加速推理
摘要： 这里利用java加载onnx模型，并进行推理。 项目地址：https://github.com/jiangnanboy/onnx-java 步骤 1.利用java加载onnx模型，并进行推理预测。这里采用roberta模型的onnx版。 2.pytorch模型从这里 下载。 3.pytorch模型转 阅读全文
posted @ 2022-05-19 19:29 石头木 阅读(1493) 评论(0) 推荐(0)