摘要：
1、创建虚拟环境 conda create --name lora python=3.10.8 2、pytorch版本pip install torch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 --index-url https://download 阅读全文
posted @ 2025-07-13 15:43
傲云萧雨
阅读(26)
评论(0)
推荐(0)
摘要：
1、训练注意参数 2、导出量化参数： 3、验证注意参数 4、微调deepseekR1-Qwen-1.5B使用vllm在llamafactory推理结果跟单独使用vllm推理模型的效果不一致： 原因是因为是提示词模板不一致 构建jinjia后缀的提示词模板 # mytest.py import sys 阅读全文
posted @ 2025-07-13 14:01
傲云萧雨
阅读(55)
评论(0)
推荐(0)
浙公网安备 33010602011771号