deepseek基础篇--本地知识库推理

 

一.Ollama 搜索安装 dmeta-embedding-zh

https://ollama.com/shaw/dmeta-embedding-zh

dmeta-embedding-zh 是一个仅含 4 亿参数的中文嵌入模型，适用于多种场景。它在 MTEB 基准测试中表现出色，尤其适合语义检索、RAG 和其他 LLM 应用。

 

 安装成功

二、使用工具 Cherry Studio 

1.添加Ollama模型 dmeta-embedding-zh 

 

 

 2.添加模型成功后添加配置

配置API

 

2.知识库添加文档

 

3.选择配置好的知识库 ，可以开始训练

 

小课堂：

模型下载地址 （魔塔社区）

https://www.modelscope.cn/models/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B/files

Modelzoo:

https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/MindIE/LLM/DeepSeek/DeepSeek-R1