摘要: 检查torch是否是gpu版本 1. 查看PyTorch版本: 打开Python交互式环境,导入torch包,使用命令torch.__version__查看PyTorch版本,如果版本名称中包含“cuda”,则表示是GPU版本。 例如,如果版本名称为“1.7.0+cu101”,则是支持CUDA 10 阅读全文
posted @ 2023-09-10 21:01 tommickey 阅读(5786) 评论(0) 推荐(0)
摘要: huggingface托管的大模型文件较大,用git拉取需要LFS支持,速度比较慢,也容易断线,需要不断尝试,费时费力。 某些模型可以使用镜像网站 https://aliendao.cn 下载,逐个文件下载比较麻烦,如果有python环境,建议用下载器model_download.py下载,下载速度 阅读全文
posted @ 2023-09-09 07:25 tommickey 阅读(3149) 评论(1) 推荐(0)
摘要: 问题描述 创建新环境时,报错,创建不成功 Collecting package metadata (current_repodata.json): doneSolving environment: done CondaHTTPError: HTTP 000 CONNECTION FAILED for 阅读全文
posted @ 2023-08-29 22:21 tommickey 阅读(406) 评论(0) 推荐(0)
摘要: LangChains 是一个用于开发由语言模型驱动的应用程序的框架。他主要拥有 2 个能力:可以将 LLM 模型与外部数据源进行连接&允许与 LLM 模型进行交互。这个库目前非常活跃,每天都在迭代,已经有 22k 的 star,更新速度飞快。 基础功能 LLM 调用 支持多种模型接口,比如 Open 阅读全文
posted @ 2023-07-25 17:31 tommickey 阅读(76) 评论(0) 推荐(0)
摘要: 1、新建frpc.service文件 vim /lib/systemd/system/frpc.service 2、 填写以下内容,配置文件信息根据自己的frpc文件路径更改 [Unit]Description=Frpc Client ServiceAfter=network.target [Ser 阅读全文
posted @ 2023-06-19 22:00 tommickey 阅读(589) 评论(0) 推荐(0)
摘要: 项目启动选项 usage: langchina-ChatGLM [-h] [--no-remote-model] [--model MODEL] [--lora LORA] [--model-dir MODEL_DIR] [--lora-dir LORA_DIR] [--cpu] [--auto-d 阅读全文
posted @ 2023-06-18 08:37 tommickey 阅读(250) 评论(0) 推荐(0)
摘要: // Copy 制整个文件夹或单个文件 func Copy(from, to string) error {​​​ f, e := os.Stat(from) if e != nil {​​​​​​​​​​ fmt.Println("没有找到要拷贝的路径:", from) return e }​​​ 阅读全文
posted @ 2023-06-15 16:27 tommickey 阅读(220) 评论(0) 推荐(0)
摘要: 方法1: 编写一个url.list文件,一次都下载。 wget -i url.list -o [log_file] -P [target_dir] 方法2: 编写代码可能并不是好办法。 import datetime import os import threading from huggingfa 阅读全文
posted @ 2023-06-15 16:08 tommickey 阅读(460) 评论(0) 推荐(0)
摘要: anaconda pytorch cuda pip3 install --upgrade pip git clone -b main --single-branch https://github.com/OpenBMB/CPM-Bee.git source /etc/network_turbo (a 阅读全文
posted @ 2023-06-15 16:06 tommickey 阅读(193) 评论(0) 推荐(0)
摘要: 中文预训练模型下载原版:https://huggingface.co/models Google原版bert:https://github.com/google-research/bert 中文XLNET预训练模型:https://github.com/ymcui/Chinese-XLNet (只有 阅读全文
posted @ 2023-06-15 16:03 tommickey 阅读(812) 评论(0) 推荐(1)