会员
周边
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
soft
LxFly
相信技术会改变一切!
博客园
首页
新随笔
联系
订阅
管理
2026年8月17日
四卡 4090 实测最强小模型:Qwen3.8 27B
摘要: 一台 4×RTX 4090 上的 vLLM + Qwen3.8-27B-AWQ,从首 token 延迟到大海捞针,一次聊透。 局域网里新起了一台推理服务器。与其看跑分,不如直接按在地上测一遍:性能压到 128 路并发、智商做一套带陷阱的题、256K 上下文真塞满试试。以下是一个下午的完整"体检报告"
阅读全文
posted @ 2026-08-17 08:18 AiFly
阅读(498)
评论(0)
推荐(0)