windows 本地部署DeepSeek

一:前言:
那么为什么要本地部署,主要就是企业或者个人为了数据安全和防止受限网络等其
  • 数据安全:数据不用上传到外面,在本地处理,不用担心数据泄露,像金融、医疗这些对数据安全要求高的行业特别需要。
功能方面
  • 定制:可以根据自身业务需求和用户特点对模型进行个性化改造,比如制造业调整生产流程等
使用体验方面
  • 不依赖网络:在网络不好或者没网的地方也能正常使用。
 
windows 本地部署deepseek 通常使用 Lm studio 和 ollama 大模型框架进行部署
今天说一说 ollama 进行本地部署deepseek
环境:我的机器也是一台老笔记本, 12G 内存,4G集显+2G独显(NVIDIA),cpu(Intel(R) Core(TM) i5-7200U CPU @ 2.50GHZ),为了学习研究一下,所以我选择了deepseek 目前最小的 模型 deepseek-r1:1.5b 作为尝试。
 
二:ollama部署
ollama 是一个开源大模型框架 ,我们可以从这个地址进行下载https://ollama.com/
0
 
这个安装比较简单,下载下来之后,直接按照提示一直下一步,右下角出现
0
 
表示启动成功了。
注:看到一些博主分享,N卡和A卡可能需要按照不同的情况,下载不同的ollama版本,这个我没有深入研究,我是官网一路下载,安装。有兴趣的同学可以深入了解一下。
 
三:deepseek 大模型拉取
打开cmd窗口,输入复制命令 ollama run deepseek-r1:1.5b
会有下载过程,需要等待一下,下载完成,最后会显示send a message,表示拉取成功,你可以在cmd窗口直接进行对话了
0
 
0
 
 
四:大模型UI操作界面集成
我们现在已经有了大模型,但是cmd窗口交互不是很方便,所以我们需要一些交互工具去呈现
Pageassist 、dify 、 RagFlow 等都可以集成ollama 框架,进行深度使用,包括不限于桌面UI、流程、智能体、知识库。
我们先说一个轻量的 Pageassist 的 chome或者firefox 插件。dify 等其他集成文档,可以持续关注后续文章。
效果:
pageassist
0
 
dify安装好之后
0
 
 
chrome 由于需要科学地上网,你可以直接从这里下载 下载地址,拖到chrome 的扩展里。
firefox 可以直接在扩展里搜索 pageassist 进行安装。
 
安装好之后,打开浏览器扩展,修改语言
0
 
搜索用sogou
0
 
 
ollama设置中设置地址:http://127.0.0.1:11434
0
 
设置完成之后,就可以正常通过pageassist 使用大模型进行对话了
 
 公众号"AI创变坊"文章本地部署Deepseek 
 
posted @ 2025-03-17 13:10  周捷Jay  阅读(510)  评论(0)    收藏  举报