合集-知识库

FastGPT（知识库）+One-API（统一接口管理）+ChatGLM3（本地大模型）+M3E（向量模型）
摘要：本文技术路线为：利用ChatGLM3-6b作为基座大模型，M3E作为向量模型，基于FastGPT建立用户知识库，One-API做统一API接口管理。 其中ChatGLM3和M3E模型都是在windows下部署的，FastGPT和One-API是在Linux下部署。 在私有化和客制化大模型庞大需求推动 阅读全文
posted @ 2024-12-24 10:24 快乐小王子帅气哥哥 阅读(492) 评论(0) 推荐(0)
Docker部署MaxKB详细步骤（window系统）
摘要：面章节已经实现了ollama里部署llama3，并实现了一些简单的问答，但是问答的界面是在命令提示符中，交互很不友好，也不方便局域网其他用户访问，所以这节用docker部署MaxKB实现网页访问llama3，首先电脑上需要安装docker，window系统需要开启虚拟化后才能安装docker，这个可 阅读全文
posted @ 2024-12-27 11:21 快乐小王子帅气哥哥 阅读(2691) 评论(0) 推荐(0)

Loading