会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
Xu_Lin
Do more; Learn more; Be more
博客园
首页
新随笔
联系
订阅
管理
2025年10月11日
【vLLM】使用vLLM部署Qwen3-VL-30B-A3B-Instruct
摘要: 环境与设备配置:H20*8(96G) MODEL_ID=Qwen/Qwen3-VL-30B-A3B-Instruct MODEL_NAME=Qwen3-VL-30B-A3B-Instruct python3 -m vllm.entrypoints.openai.api_server \ --mode
阅读全文
posted @ 2025-10-11 18:29 Xu_Lin
阅读(1622)
评论(3)
推荐(0)
公告