摘要: 训练框架(编译器)和推理框架的一些区别 前辈口头经验 和前辈聊天的时候,他随口说的几句话,就包含了一些非常重要的信息,值得记录一下 CUDA编程、TensorRT都要去学 推理框架 vs 编译器 推理框架相当于编译器后端的一部分,专注于执行Pass,算子融合,计算等过程; 编译器往往需要生成多平台的 阅读全文
posted @ 2025-02-27 10:53 Gold_stein 阅读(299) 评论(0) 推荐(0)