2026年10月21日
DeepSeek 开源 DeepInfer：155 万亿 Token/天，靠的是「不重算」
摘要： DeepSeek 开源 DeepInfer：155 万亿 Token/天，靠的是「不重算」 155 万亿 Token/天是一份缓存命中率的成绩单，不是一份算力的成绩单。 DeepSeek 把支撑线上服务的推理框架 DeepInfer 开源了，Apache 2.0，一周不到 1.2 万 star。官方 阅读全文
posted @ 2026-10-21 09:02 iTech 阅读(71) 评论(0) 推荐(0)
AI 技术日报 - 2026-10-21
摘要： AI 技术日报 - 2026-10-21 Top 10 AI 技术要闻 DeepSeek 开源内部推理框架 DeepInfer：单集群日服务 155 万亿 Token DeepSeek 把支撑其线上服务的自研推理框架 DeepInfer 全面开源。官方数据显示单集群一天可服务 155 万亿 Toke 阅读全文
posted @ 2026-10-21 08:07 iTech 阅读(58) 评论(0) 推荐(0)