摘要: 440MB 端侧翻译模型开源之后,很多人把模型拉下来了。但「能跑」和「该用哪个量化版本」之间隔着一层——社区里量化格式碎片化严重(GGUF、ONNX、AWQ、GPTQ 各说各话),怎么选?别信榜单,自己测。给一套我常用的实测方法,半小时能跑完。 第一步:固定测试集,别用官方案例 准备三个「刁难型」样 阅读全文
posted @ 2026-09-24 09:43 吴键WJ 阅读(21) 评论(0) 推荐(0)
摘要: 昨天说到本地离线翻译的三个工程门槛(术语、格式、资源),今天看到新变量:440MB 的端侧翻译模型开源了。这个体量意味着什么?手机能跑、老笔记本能跑、连树莓派都够——本地离线翻译的门槛第一次降到了「普通人也能装」的位置。 这值得展开讲讲:端侧模型成熟之后,前面三个门槛哪些会被抹平,哪些反而更陡。 被 阅读全文
posted @ 2026-09-24 07:59 吴键WJ 阅读(14) 评论(0) 推荐(0)