闲置旧手机跑翻译模型:7 个实测数字
端侧系列续篇。前面树莓派跑翻译模型验证了「百元设备能翻」——这篇换个更大众的硬件:抽屉里吃灰的旧手机。相比开发板,旧手机有三个天然优势:自带电池、自带屏幕、量特别大(谁家没两台)。一周实测,7 个数字交底。
实验设备
骁龙 855 旗舰(2019 年,现二手价约一部红米的零头)、8GB 内存、Android 11,不root、不刷机,装 Termux 跑量化后的 7B 翻译模型(Q4 量化,权重约 4GB)。
数字 1:4.1 GB——内存占用
7B Q4 模型加载后常驻约 4.1GB。8GB 机型可跑(系统占 3GB 后仍余量充足);6GB 机型勉强(后台会被杀);4GB 机型放弃。「什么旧手机能跑」的分界线就是运行内存 8GB,2019 年后的旗舰基本都过线。
数字 2:9~14 tokens/s——生成速度
英文→中文约 14 tokens/s,中→英约 9(中文 token 化更碎)。体感:一句 20 词的翻译 3 秒内出。够用于「查词式」交互,不够「整页即时渲染」——整页翻译会等 30 秒以上,得配流式输出+缓存。
数字 3:31°C→42°C——温度曲线
连续翻译 30 分钟,机身从 31°C 升到 42°C(室温 24°C)。不降频、不烫手。被动散热的手机扛得住翻译负载——它不像游戏那样同时拉 GPU,只有 CPU 中负载。
数字 4:-11%/小时——耗电
屏幕常亮+持续翻译,每小时掉电 11%。一夜待机(模型不加载)掉电 3%。当 7×24 翻译服务器用,挂着充电线即可——42°C 温度曲线就是充电+负载的实测值,电池健康角度这个温度安全。
数字 5:0 次——外网请求
一周使用里,出网请求 0 次——所有推理本地完成。这是旧手机方案和「连手机也上云翻译」的本质区别:数据从头到尾没离开这台设备。拿到断网环境(地铁/飞机)验证:翻译功能完全正常,这是云端方案做不到的。
数字 6:87%——与云端大模型的质量一致率
同一批 200 句技术文本,旧手机 7B vs 云端旗舰模型,人工盲评「质量可接受」一致率 87%——分歧集中在长难句和文化梗(这批里旧手机 26 句判为「可用但不顺」)。日常技术文档场景,端侧小模型已经够用;追求文学性再走云端。
数字 7:6 小时——从吃灰到能用
部署总耗时 6 小时(含踩坑):Termux 环境 1 小时、模型下载与转换 2 小时、量化加载调优 2 小时、API 封装 1 小时。有现成教程可压到 3 小时。门槛评级:会命令行就能干,不需要 Android 开发背景。
结论与适用人群
旧手机跑翻译模型:速度可用、温度安全、隐私满分、质量 87 分——最适合两类人:①隐私敏感场景(合同、内部文档)②想要一个断网可用的随身翻译器。不适合:整页即时翻译的重度用户(速度瓶颈)。
上一篇的结论复用一次:端侧推理不是替代云端,是分层里的新层——旧手机是这个分层里成本很低的一格。
写文里这些翻译场景,来自我日常在用的「随心翻译」:Edge/Chrome 浏览器插件,本地优先架构,不用不花钱。官网 suanlinfang.cn/translate?from=cnblogs-jiushou
浙公网安备 33010602011771号