摘要: Python Backend Triton 提供了 pipeline 的功能,但是 Triton 的 pipeline 只能将输入和输出串联到一起,太过于简单静态了,不支持控制流,比如循环、判断等,模型和模型之间的数据格式不灵活,只能是向量。pipeline 太死板了,有没有办法支持更加灵活的操作呢 阅读全文
posted @ 2021-11-10 21:42 楷哥 阅读(10703) 评论(3) 推荐(0)