Loading

智能助手客户端

智能助手是一个使用React和TypeScript开发的Electron应用程序，通过对接Ollama、LM Studio、DeepSeek和阿里云实现的人工智能。

一、安装

下载地址：https://pan.baidu.com/s/1_AX3UWTX6LOWj5QtXTRiKw?pwd=t973

二、配置

1、Ollama配置

Ollama是一个开源跨平台大模型工具。他可以让用户在本地部署私有的大语言模型。
下载地址：https://ollama.com/
github地址：https://github.com/ollama/ollama

1.1、 快速入门

选取需要的大模型执行命令即可

ollama run DeepSeek-R1

如只需拉取模型

ollama pull DeepSeek-R1

1.2 配置智能助手

安装并打开智能助手，点击左下角的设置功能

选择已拉取的模型，保存设置即可

2、DeepSeek配置

DeepSeek平台地址：https://platform.deepseek.com/usage
DeepSeek文档：https://api-docs.deepseek.com/zh-cn/
模型&价格：https://api-docs.deepseek.com/zh-cn/quick_start/pricing

2.1 申请API Key

申请地址：https://platform.deepseek.com/api_keys

2.2 配置智能助手

安装并打开智能助手，点击左下角的设置功能

选择提供商为DeepSeek，填写API Key，然后选择模型，保存设置

3、Aliyun配置

阿里云大模型平台地址：https://www.aliyun.com/product/tongyi
阿里云文档地址：https://help.aliyun.com/zh/model-studio/getting-started/what-is-model-studio?spm=a2c4g.11186623.help-menu-2400256.d_0_0.dfe76ff2ysoygi
模型列表及价格：https://help.aliyun.com/zh/model-studio/getting-started/models?spm=a2c4g.11186623.help-menu-2400256.d_0_2.72b6b0a8aSKtb2

3.1 申请API Key

申请地址：https://bailian.console.aliyun.com/?apiKey=1#/api-key

3.2 配置智能助手

安装并打开智能助手，点击左下角的设置功能

选择提供商为Aliyun，填写API Key，然后填写模型，保存设置

4、LM Studio配置

LM Studio 是一款桌面应用程序，用于在计算机上本地开发和试验 LLM。
下载地址：https://lmstudio.ai/

4.1 下载安装

下载安装LM Studio之后，搜索下载对应的模型

4.2 启动开发模式

4.3 配置智能助手

选择LM Studio，及相关模型保存即可

三、创建会话

3.1 在智能助手中创建一个会话，并设置好提示词，要求AI扮演角色，并满足你的要求

3.1 开始跟AI对话


四、文本检索生成（RAG）

配置

1、在向量数据库中选择数据库，目前仅实现了内存数据库，之后将加入Redis、Chroma、LanceDB等其他向量数据库

2、配置嵌入首选项

阿里云的相关配置参考：https://help.aliyun.com/zh/model-studio/developer-reference/text-embedding-synchronous-api?spm=a2c4g.11186623.help-menu-2400256.d_2_5_0.1a621c901K5A9m&scm=20140722.H_2712515._.OR_help-T_cn~zh-V_1#4c08e887c12ru

3、配置好之后即可使用RAG功能了，选择文件然后等待一段时间，尽量选择30M以下的文件，文件越大加载越慢，等文件加载到数据库后即可进行文件相关对话

五、ToDo

posted @ 2025-04-24 23:19  黄明基  阅读(73)  评论(0)    收藏  举报