2025年4月3日
vllm 参数分类
摘要： 配置参数说明 微调相关 --enable-lora：启用 LoRA 适配器。 --enable-lora-bias：启用 LoRA 偏置。 --max-loras：单批次最大 LoRA 数量。 --max-lora-rank：最大 LoRA 等级。 --lora-extra-vocab-size：L 阅读全文
posted @ 2025-04-03 19:19 xiezhengcai 阅读(1329) 评论(0) 推荐(0)