这是一个可以运行完全在本地服务器的`RAG`(`Retrieval Augmented Generation`)系统,它主要包含以下功能: 
- 使用本地大语言模型做语言翻译
- 使用本地大语言模型做专业领域的知识问答  

从系统架构来看,本系统包含了前端、API网关、后台服务三大部分:

功能
前端使用`vue3`和`vuetify3`开发,脚本主要是使用`组合式API`写的,主要功能有:
- 基于`OAuth2.0`和`JWT`标准的用户认证
- 翻译组件
- 问答聊天组件
前端代码还包含了`本地会话管理`、`请求拦截`的通用模块、`切换主题`等常用功能,使用了很多`veutify3`控件。
API网关使用`FastAPI`实现,主要实现以下功能:
- 基于`OAuth2.0`和`JWT`规范的用户认证 
- 请求代理转发
后台服务主要基于本地大语言模型提供服务,包括:
- 使用`Ollama`平台,在本地部署和使用`Ollama3.1`开源大语言模型
- 使用`Chroma`做本地矢量数据存储和检索
- 使用`Ollama3.1`或者`nomic-embed-text`进行矢量化
- 使用本地大语言模型`Ollama3.1`实现增强生成
- 使用`langchian`将以上功能整合起来提供服务
如果您不了解`vuetify`,您可以先看看下面的入门教程: 
🔗[Veutify3入门实战]
查看完整代码
- [gitee]
- [github]
- [gitcode]
🪐祝好运🪐
                    
                
        这是一个可以运行完全在本地服务器的`RAG`(`Retrieval Augmented Generation`)系统,它主要包含以下功能:  
- 使用本地大语言模型做语言翻译
- 使用本地大语言模型做专业领域的知识问答
    
                
            
        
浙公网安备 33010602011771号