2024年4月19日
搭建清华ChatGLM2-6B
摘要： 一、环境配置 ChatGLM2-6B至少需要13G GPU（虽然官网说12G即可），int8需要8G，int4需要4G。 Win10系统，GTX1060显卡6GB（只能用int4模型，亲测开启GLM2时占了5GB以上） 1、git 2、conda 3、python 3.9 4、pip 5、CUDA 阅读全文
posted @ 2024-04-19 16:40 Auler 阅读(25) 评论(0) 推荐(0) 编辑