2019年9月10日
如何让FasterTransformer支持动态batch和动态sequence length
摘要： FasterTransformer 算子 nvidia在开源的FasterTransformer的代码中，提供tensorrt和tensorflow的自定义算子编译和py调用示例，详见 FasterTransformer.py 。但是如果使用tensorflow的自定义算子十分不方便，其batch 阅读全文
posted @ 2019-09-10 20:21 aCodeBear 阅读(693) 评论(0) 推荐(0) 编辑