摘要: 1.构建虚拟环境 conda create --name xtuner-env python=3.10 -y conda activate xtuner-env 拉取xtener git clone https://github.com/InternLM/xtuner.git 然后安装依赖的软件,这 阅读全文
posted @ 2025-07-15 21:19 傲云萧雨 阅读(12) 评论(0) 推荐(0)
摘要: 1、创建虚拟环境 conda create --name lora python=3.10.8 2、pytorch版本pip install torch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 --index-url https://download 阅读全文
posted @ 2025-07-13 15:43 傲云萧雨 阅读(6) 评论(0) 推荐(0)
摘要: 1、训练注意参数 2、量化参数: 阅读全文
posted @ 2025-07-13 14:01 傲云萧雨 阅读(4) 评论(0) 推荐(0)
摘要: 1、下载miniconda wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh 2、安装 bash Miniconda3-latest-Linux-x86_64.sh 3、从安装路径默认是 /root/ 阅读全文
posted @ 2025-07-12 18:03 傲云萧雨 阅读(52) 评论(0) 推荐(0)
摘要: 1、可以训练模型,加载模型,报错,老是提示缺少transformers.model或其他子包 无论怎么改变transformers的版本都无效,原因在于远程环境的python是3.9.0,解决方式,建立虚拟环境,3.10.0 pytorch2.1.0 python3.10 cuda 12.1 2、量 阅读全文
posted @ 2025-07-12 00:50 傲云萧雨 阅读(6) 评论(0) 推荐(0)
摘要: 1、4090速度,平均30s一步 2、魔改2080速度,平均6分钟一步 速度为12倍。 阅读全文
posted @ 2025-07-12 00:01 傲云萧雨 阅读(7) 评论(0) 推荐(0)
摘要: 总体: 阅读全文
posted @ 2025-07-11 20:43 傲云萧雨 阅读(3) 评论(0) 推荐(0)
摘要: 1、vllm和gptq会冲突,先安装gptq,再批量安装剩下的包。 阅读全文
posted @ 2025-07-10 20:52 傲云萧雨 阅读(1) 评论(0) 推荐(0)
摘要: 1、当conda安装,出现依赖冲突 conda install -c pytorch faiss-cpu=1.9.0 2、首先把里层的openai和numpy卸载掉 conda uninstall openai conda uninstall numpy 3、再安装faiss-cpu 4、最后再安装 阅读全文
posted @ 2025-06-24 21:17 傲云萧雨 阅读(12) 评论(0) 推荐(0)
摘要: 转载https://blog.csdn.net/qq_45938544/article/details/139599165 阅读全文
posted @ 2025-06-12 23:38 傲云萧雨 阅读(2) 评论(0) 推荐(0)
点击右上角即可分享
微信分享提示