傲云萧雨 - 博客园

2025年7月13日

llamafactory0.9.1dev版本

摘要： 1、创建虚拟环境 conda create --name lora python=3.10.8 2、pytorch版本pip install torch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 --index-url https://download 阅读全文

posted @ 2025-07-13 15:43 傲云萧雨阅读(26) 评论(0) 推荐(0)

llamafactory配置

摘要： 1、训练注意参数 2、导出量化参数： 3、验证注意参数 4、微调deepseekR1-Qwen-1.5B使用vllm在llamafactory推理结果跟单独使用vllm推理模型的效果不一致：原因是因为是提示词模板不一致构建jinjia后缀的提示词模板 # mytest.py import sys 阅读全文

posted @ 2025-07-13 14:01 傲云萧雨阅读(54) 评论(0) 推荐(0)

2025年7月12日

linux安装miniconda

摘要： 1、下载miniconda wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh 2、安装 bash Miniconda3-latest-Linux-x86_64.sh 3、从安装路径默认是 /root/ 阅读全文

posted @ 2025-07-12 18:03 傲云萧雨阅读(107) 评论(0) 推荐(0)

使用llamafactory遇到的坑

摘要： 1、可以训练模型，加载模型，报错，老是提示缺少transformers.model或其他子包无论怎么改变transformers的版本都无效，原因在于远程环境的python是3.9.0，解决方式，建立虚拟环境，3.10.0 pytorch2.1.0 python3.10 cuda 12.1 2、量阅读全文

posted @ 2025-07-12 00:50 傲云萧雨阅读(40) 评论(0) 推荐(0)

训练4090的24GB跟2080TI魔改22G速度对比

摘要： 1、4090速度，平均30s一步 2、魔改2080速度，平均6分钟一步速度为12倍。阅读全文

posted @ 2025-07-12 00:01 傲云萧雨阅读(80) 评论(0) 推荐(0)

2025年7月11日

安装auto-gptq注意版注意cuda版本和pytoch

摘要：总体：阅读全文

posted @ 2025-07-11 20:43 傲云萧雨阅读(20) 评论(0) 推荐(0)

2025年7月10日

llamaFactory 安装包冲突

摘要： 1、vllm和gptq会冲突，先安装gptq，再批量安装剩下的包。阅读全文

posted @ 2025-07-10 20:52 傲云萧雨阅读(13) 评论(0) 推荐(0)

2025年6月24日

python解决包冲突

摘要： 1、当conda安装，出现依赖冲突 conda install -c pytorch faiss-cpu=1.9.0 2、首先把里层的openai和numpy卸载掉 conda uninstall openai conda uninstall numpy 3、再安装faiss-cpu 4、最后再安装阅读全文

posted @ 2025-06-24 21:17 傲云萧雨阅读(40) 评论(0) 推荐(0)

2025年6月12日

linux cetos7安装mysql

摘要：转载https://blog.csdn.net/qq_45938544/article/details/139599165 坑点：查看mysql状态，有的是mysqld，有的是mysql systemctl restart mysqld systemctl restart mysql 远程连不上，阅读全文

posted @ 2025-06-12 23:39 傲云萧雨阅读(4) 评论(0) 推荐(0)

2025年1月1日

安装c语音编辑器

摘要： 1、64位下载连接 https://sourceforge.net/projects/mingw-w64/files/Toolchains%20targetting%20Win64/Personal%20Builds/mingw-builds/8.1.0/threads-posix/sjlj/ 32 阅读全文

posted @ 2025-01-01 10:15 傲云萧雨阅读(26) 评论(0) 推荐(0)

轻语

公告