Mac本地部署DeepSeek(简洁版)

1. 下载ollama

image

2. 安装ollma

无脑安装
image

image

3. 8b安装

那么最小的1.5b模型就拥有15亿的参数量，而最大的671b则有6710亿个参数，我们要使用的是前面这6个规模较小的模型。
image

ollama run deepseek-r1:8b

image
要等一会
安装完成：
image

4. AnythingLLM。

AnythingLLM用来替代终端，完成你和AI大模型之间的对话工作，同时它还提供了一样更厉害的能力：检索增强生成，简称RAG，它允许大模型理解你投喂给它的文件，并根据文件中的内容回答你提出的问题，RAG是我们搭建个人知识库的基础。
image
纯聊天的Chatbox，同样可以用来搭建知识库的Dify、Ragflow、Cherry Studio等等，大多数都是免费的
image
image

posted @ 2025-02-27 23:38  菜就多练forever  阅读(53)  评论(0)    收藏  举报