2025年4月25日
大模型评估排障指南 | 关于推理
摘要： 大模型评估排障指南 | 关于推理 这是 大模型评估排障指南 系列文章的第一篇，敬请关注系列文章: 关于推理 关于 \(\LaTeX\) 公式解析 关于可复现性 模型运行非常慢怎么办？ 调整 batch size 如果你想要评估结果完全可复现 (在特定的输入 prompt 和硬件条件下)，你可以把 batch size 可以设为 1。 阅读全文
posted @ 2025-04-25 15:25 HuggingFace 阅读(438) 评论(0) 推荐(1)