摘要： 消费级显卡能不能稳稳接住 27B 的生产流量？我们把升级 vLLM、开投机解码、双实例拓扑、1 亿 Token 产能全部实测了一遍。 BF16 权重 55.6GB，一张卡装不下；AWQ 量化后又担心"智力掉分"。本文在单机 4×RTX 4090 上完成了一次全维度实测：升级 vLLM 0.25→0. 阅读全文