DB-GPT搭建

1. 安装anaconda3

• 参考：https://blog.csdn.net/qq_44173974/article/details/125336916
• 安装目录:/home/fubo/anaconda3

## 地址配置这个，不然用不了
vim ~/.condarc
channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

show_channel_urls: true
ssl_verify: true
allow_conda_downgrades: true

• pip地址配置这个，可以正常使用

---

2.创建虚拟环境

conda create -n dbgpt_env python=3.10
## 打包命令：conda pack -n dbgpt_env -o ./dbgpt_env.tar.gz --ignore-missing-files
## 参考：https://blog.csdn.net/m0_46505453/article/details/128239585
tar -zxvf pytorch_py37.tar.gz -C /home/fubo/anaconda3/envs/dbgpt_env/   
conda activate dbgpt_env
## 如果不加载打包好的虚拟环境，需要pip install -r requirements.txt，可用install.py续传

3.模型合并

python3 -m fastchat.model.apply_delta \
    --base-model-path ./decapoda-research/llama-7b-hf \   ## 下载地址：https://huggingface.co/decapoda-research/llama-7b-hf
    --target-model-path /path/to/output/vicuna-7b \   ## 输出文件夹
    --delta-path lmsys/vicuna-7b-delta-v1.1 \       ##  下载地址：https://huggingface.co/lmsys/vicuna-7b-delta-v1.1
    --low-cpu-mem

4.使用docker安装mysql

docker run --name=mysql -p 3306:3306 -e MYSQL_ROOT_PASSWORD=aa123456 -dit mysql:latest  ## 密码与.env文件的一致
docker exec -it container_id /bin/bash  ## 第一次进入手动输入密码

5.配置启动文件

• 配置.env文件

---

6.启动语言模型服务

cd pilot/server
python llmserver.py

7.启动前端服务

$ python webserver.py