2026年8月27日
海光K100_AI的VLLM十二倍提速小记（Qwen3.5架构）
摘要： 遇到了啥问题 笔者使用海光的镜像跑vllm（harbor.sourcefind.cn:5443/dcu/admin/base/vllm:0.18.1-ubuntu22.04-dtk26.04-py3.10），对应的模型是qwen3.5-27b和qwen3.5-4b，发现他们能跑，也有正确性保障，但是 阅读全文
posted @ 2026-08-27 14:21 AlphaInf 阅读(76) 评论(0) 推荐(2)