摘要: https://zhuanlan.zhihu.com/p/350550546?utm_id=0 一、方案一——随用随改型 输入“pip install xxx”时插入国内镜像源地址,变为“pip install -i 地址 xxx”并回车。 几个常用镜像源: 阿里云:http://mirrors.a 阅读全文
posted @ 2023-10-06 17:19 tommickey 阅读(445) 评论(0) 推荐(0)
摘要: 一、推理:显存计算 推理的显存大头就是:参数量,参数类型版本一般有以下四种: float 32位 浮点数 4 字节 half / BF16 16位 浮点数 2 字节 int8 8位 整数 1 字节 int4 4位 整数 0.5 字节 以 7B-BF16 版本为例,需要显存 = 数量 * 类型大小 = 阅读全文
posted @ 2023-10-03 20:30 tommickey 阅读(7124) 评论(0) 推荐(1)
摘要: 安装好了Linux子系统,用户目录是/home/user,C盘目录是/mnt/c。但是这个子系统其实是在C盘上的,如果你要在上面配置一些环境可能会大量占用C盘空间,未来保证系统盘空间充足,我们还要将其迁移到非系统盘。需要一个WSL的管理工具叫LxRunOffline进行迁移。 或者在github下载 阅读全文
posted @ 2023-10-01 00:18 tommickey 阅读(235) 评论(1) 推荐(0)
摘要: https://blog.csdn.net/sky_jiangcheng/article/details/130982867?spm=1001.2101.3001.6650.2&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault% 阅读全文
posted @ 2023-10-01 00:03 tommickey 阅读(5988) 评论(1) 推荐(2)
摘要: https://deepinout.com/wsl-tutorials/37_installing_wsl2_on_windows_10.html win10 安装wsl2 WSL(Windows Subsystem for Linux)是 Windows 10 中一项十分强大的功能,它可以使用户在 阅读全文
posted @ 2023-09-29 22:52 tommickey 阅读(2131) 评论(0) 推荐(0)
摘要: 1、下载langchain-chatchat git clone https://github.com/chatchat-space/Langchain-Chatchat.git 2、下载llama2-7b-chat-hf git lfs installgit clone https://huggi 阅读全文
posted @ 2023-09-14 22:52 tommickey 阅读(553) 评论(0) 推荐(0)
摘要: apt install nvidia-cuda-toolkit nvcc --version nvidia-smi 阅读全文
posted @ 2023-09-14 21:57 tommickey 阅读(34) 评论(2) 推荐(0)
摘要: conda create -n kinggpt023 python==3.8 conda init conda activate kinggpt023 阅读全文
posted @ 2023-09-14 21:14 tommickey 阅读(78) 评论(0) 推荐(0)
摘要: 下载安装程序: 在下载页面上,复制链接并使用 wget 命令下载 Miniconda 安装程序。请将链接替换为您选择的版本链接。例如: wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh 运行安装程序: 阅读全文
posted @ 2023-09-14 21:03 tommickey 阅读(1697) 评论(1) 推荐(0)
摘要: https://www.libreoffice.org/get-help/install-howto PPT等格式向量化时,可能会需要安装libreoffice 阅读全文
posted @ 2023-09-10 21:59 tommickey 阅读(48) 评论(0) 推荐(0)