2023年6月5日
ChatGLM-6B int4的本地部署与初步测试
摘要： ### 0. 前言 本次笔记是对于实习初期，初次接触到LLM大模型的一些记录。内容主要集中在对于环境的配置的模型的运行。 本人的硬软件配置如下： GPU: RTX3060 6GB显存 内存: 32GB 系统: Windows 11 ### 1. Anaconda3 + Pycharm 的环境搭建 我 阅读全文
posted @ 2023-06-05 14:18 Dijkstra·Liu 阅读(979) 评论(0) 推荐(0) 编辑