2025-02-01 - 通用人工智能技术 - RAG - 企业知识库 Dialoqbase - 流雨声

摘要

2025-02-01 周六 杭州 细雨微风

小记: 论文排版搞得脑袋炸炸的,系统的回顾下大模型的本地应用集成开发。

课程实践

  • 环境配置
# 更新系统依赖软件
sudo apt update
sudo apt upgrade
# 获取 git 工具
sudo apt install git -y
sudo apt install docker-compose
  • 本地大模型启动
# 根据模型大小运行适合的模型
ollama.exe run deepseek-r1:7b
  • 获取 OPENAI_API_KEY 的值
# 网址: https://platform.openai.com/api-keys
  • 获取 DB_SECRET_KEY 的值
# 网址: https://supabase.com 

  • 知识库系统
# 下载 dialoqbase,可以调试本地的知识文件
git clone https://github.com/n4ze3m/dialoqbase.git
cd dialoqbase/docker

#修改 .env 文件,设置 DB_SECRET_KEY 的值,需要申请
# DB_SECRET_KEY 申请网址: 
vim .env

#启动
docker-compose up -d

# 访问
http://localhost:3000

备注: 默认账户密码为 admin/admin

备注: 这里有大坑,因为我在使用校园网进行的测试,默认API只允许本机访问,因此 Windows 环境需要配置环境变量使得 OlLama 的 API 接口可以正常访问(其他操作系统类似)。

# 不是 127.0.0.1 和 0.0.0.0 哈,默认只允许本机调试
OLLAMA_HOST=内网IP地址

  • 自定义知识库
1.小黄的中文名字是什么?流雨声
2.流雨声掌握哪些技能?并行计算
3.流雨声的年龄有多大?豆蔻年华
4.流雨声喜欢玩什么游戏?围棋
5.什么东西不可辜负?红烧肉

备注: 如果提示密钥不正确,需要去官网申请数据集密钥。

总结

网络太慢了,搞死人啦!!!
Dialoqbase 资源依赖太多了,不好玩。

posted @ 2025-02-01 17:43  流雨声  阅读(35)  评论(0)    收藏  举报