摘要: 1. 创建环境 conda create -n vllm python=3.10 2. 安装vllm pip install -U vllm --pre --extra-index-url https://wheels.vllm.ai/nightly 3. 下载模型 modelscope downl 阅读全文
posted @ 2025-12-20 10:37 Dsp Tian 阅读(388) 评论(0) 推荐(0)