搭建AI服务器完整指南:Ubuntu + DeepSeek-R1
目标:将一台闲置旧电脑改造为局域网 AI 服务器,部署 DeepSeek R1 大模型,实现局域网内任意设备通过 Chatbox 随时调用。
适用场景:旧电脑再利用、家庭/小团队私有化 AI 部署、不依赖云服务的本地大模型方案。
目录
- 准备工作
- 第一步:制作 Ubuntu 安装盘
- 第二步:安装 Ubuntu 系统
- 第三步:设置自动登录
- 第四步:安装 Ollama
- 第五步:下载 DeepSeek R1 模型
- 第六步:配置 Ollama 开机自启与局域网监听
- 第七步:配置静态 IP
- 第八步:配置防火墙
- 第九步:在 PC 端连接并测试
- 常见问题排查
准备工作
硬件要求
| 项目 | 最低要求 | 推荐配置 |
|---|---|---|
| CPU | x86_64 架构 | Intel/AMD 多核处理器 |
| 内存 | 16GB | 32GB+(运行 14B 模型建议 16GB 以上) |
| 硬盘 | 50GB 可用空间 | SSD 优先,模型加载更快 |
| 显卡 | 无硬性要求 | 有 NVIDIA 显卡可启用 GPU 加速 |
| 网络 | 有线网卡 | 确保与 PC 在同一局域网 |
软件准备(在 Windows 电脑上完成)
- Rufus:USB 启动盘制作工具,官网下载 → https://rufus.ie
- Ubuntu 镜像:官网下载 Desktop 版(ISO 文件)→ https://ubuntu.com/download/desktop
- U 盘:容量 8GB 以上,制作安装盘会被格式化,请提前备份数据
第一步:制作 Ubuntu 安装盘
- 将 U 盘插入 Windows 电脑。
- 打开 Rufus,软件会自动识别 U 盘。
- 点击「选择」按钮,找到下载好的 Ubuntu ISO 镜像文件。
- 其余选项保持默认,点击「开始」。
- 弹出警告提示"U 盘数据将被清除",确认后等待制作完成。
💡 提示:Rufus 支持"一键制作",无需手动配置分区方案,默认设置即可兼容绝大多数电脑。
第二步:安装 Ubuntu 系统
- 将制作好的 U 盘插入目标服务器电脑。
- 开机时按下启动菜单键(常见为
F12、F2、Del、Esc,具体取决于主板品牌),选择从 U 盘启动。 - 进入 Ubuntu 安装界面后,选择语言为「中文(简体)」,点击「安装 Ubuntu」。
- 在「安装类型」页面,选择 「清除整个磁盘并安装 Ubuntu」(即格式化硬盘全新安装)。
- 确认分区方案后,点击「现在安装」,等待系统安装完成。
- 安装过程中按提示设置用户名和密码。
- 安装完成后拔掉 U 盘,重启进入新系统。
⚠️ 注意:「清除整个磁盘」会永久删除硬盘上的所有数据,请提前备份重要文件!
第三步:设置自动登录
这一步非常关键——设置自动登录后,服务器每次开机都会直接进入桌面,无需人工输入密码,从而确保 Ollama 等后台服务能够自动启动。
- 打开「设置」→「用户」(或
Settings→Users)。 - 点击右上角的「解锁」按钮,输入密码。
- 将「自动登录」(Automatic Login)开关打开。
- 关闭密码登录要求。
💡 为什么要做这一步:如果不设置自动登录,每次重启服务器后系统会停在登录界面,Ollama 服务不会启动,局域网内的设备也就无法连接。
第四步:安装 Ollama
Ubuntu 桌面版自带应用商店(App Center / GNOME Software),可以直接搜索安装。
- 打开应用商店。
- 搜索
ollama。 - 点击「安装」,等待安装完成。
💡 为什么选应用商店:Ollama 官方安装脚本需要从 GitHub 下载文件,国内网络环境经常无法连接。应用商店安装绕过了这个问题,是最省心的方式。
第五步:下载 DeepSeek R1 模型
打开终端(快捷键 Ctrl + Alt + T),执行以下命令下载模型:
ollama run deepseek-r1:14b
- 首次运行会自动下载模型文件(14B 参数版本约 9GB),请耐心等待。
- 下载完成后会自动进入对话界面,输入任意内容即可测试。
- 输入
/bye退出对话。
💡 模型版本选择:
deepseek-r1:1.5b— 约 1.1GB,适合低配机器快速体验deepseek-r1:7b— 约 4.7GB,平衡性能与质量deepseek-r1:14b— 约 9GB,推荐配置,效果较好deepseek-r1:32b— 约 20GB,需要 32GB 以上内存
第六步:配置 Ollama 开机自启与局域网监听
默认情况下,Ollama 只监听本机(127.0.0.1),局域网内的其他设备无法连接。我们需要做三项配置:
6.1 设置开机自启
sudo snap set ollama autostart=true
⚠️ 这一步至关重要:如果不设置开机自启,每次重启服务器后 Ollama 服务不会自动运行,局域网内的设备就无法连接。设置后,服务器每次开机 Ollama 都会自动在后台启动,无需任何人工干预。
6.2 设置监听所有网络接口
sudo snap set ollama host=0.0.0.0:11434
6.3 设置允许跨域请求
sudo snap set ollama origins=*
⚠️ 为什么需要设置
origins=*:Chatbox 等客户端在请求模型列表时,浏览器/客户端会发送跨域请求。如果不设置此项,客户端将无法获取到可用模型列表,模型选择框会显示为空。
6.4 重启 Ollama 使配置生效
sudo snap restart ollama
6.5 验证配置
# 查看配置是否生效
snap get ollama
# 确认监听地址
sudo ss -tlnp | grep 11434
正常输出应包含 0.0.0.0:11434,表示已在监听所有网络接口。
第七步:配置静态 IP
服务器每次开机 IP 可能会变化(DHCP 动态分配),这会导致 PC 端的连接地址失效。我们需要将 IP 固定下来。
7.1 查看网卡名称和当前网关
# 查看网卡名称(找状态为 UP 的有线网卡,如 ens33、enp3s0 等)
ip a
# 查看当前网关地址
ip route show default
7.2 编辑 Netplan 配置文件
sudo nano /etc/netplan/01-netcfg.yaml
💡 如果文件是空的或不存在,直接新建即可,将下面的内容完整粘贴进去。
7.3 写入静态 IP 配置
network:
version: 2
renderer: NetworkManager
ethernets:
ens33: # 替换为你的实际网卡名称
dhcp4: no
addresses:
- 192.168.10.255/22 # 替换为你想要的固定 IP 和子网掩码
routes:
- to: default
via: 192.168.10.1 # 替换为你的实际网关 IP
nameservers:
addresses:
- 8.8.8.8
- 114.114.114.114
⚠️ YAML 格式注意事项:
- 绝对不要使用 Tab 键,必须全部使用空格缩进。
- 每一级缩进为 2 个空格。
- 冒号
:后面必须有一个空格。
子网掩码对照表:
| 子网掩码 | CIDR 写法 |
|---|---|
| 255.255.255.0 | /24 |
| 255.255.252.0 | /22 |
| 255.255.0.0 | /16 |
7.4 应用配置
# 安全模式:120 秒内无确认会自动回滚(推荐先用这个)
sudo netplan try
# 确认无误后,正式应用
sudo netplan apply
7.5 验证
ip addr show ens33 # 替换为你的网卡名
确认 IP 已变为设定的固定地址,且重启后依然不变。
第八步:配置防火墙
Ubuntu 自带的 UFW 防火墙需要放行 Ollama 的通信端口,否则局域网设备无法连接。
# 放行 Ollama 默认端口
sudo ufw allow 11434/tcp
# 重新加载防火墙规则
sudo ufw reload
第九步:在 PC 端连接并测试
9.1 安装 Chatbox
前往 Chatbox 官网( https://chatboxai.app )下载并安装 桌面版(推荐)。
💡 桌面版 vs 网页版:桌面版不受浏览器跨域限制,能自动获取模型列表,体验更稳定。网页版可能会遇到模型列表为空的问题。
9.2 配置连接
打开 Chatbox,进入设置页面:
- 模型提供方:选择
Ollama API。 - API Host:填写
http://192.168.10.255:11434(替换为你的服务器固定 IP)。- ✅ 正确:
http://192.168.10.255:11434 - ❌ 错误:
192.168.10.255:11434(缺少http://) - ❌ 错误:
http://192.168.10.255:11434/(末尾多了斜杠)
- ✅ 正确:
9.3 获取模型
- 桌面版:点击模型下拉框,应该能自动列出
deepseek-r1:14b。 - 网页版:如果下拉框为空,在模型输入框中手动输入
deepseek-r1:14b,按回车保存。
9.4 开始对话
选择模型后,直接在聊天框输入问题,即可开始与 DeepSeek R1 对话!
9.5 快速验证服务器状态
在任意 PC 的浏览器地址栏输入:
http://192.168.10.255:11434
如果页面显示 Ollama is running,说明服务器端一切正常。
常见问题排查
❌ 问题:Chatbox 无法获取模型列表
原因:跨域限制或 API 地址填写错误。
解决方案:
- 确认服务器端已执行
sudo snap set ollama origins=*并重启。 - 确认 Chatbox 中 API Host 格式正确(带
http://,末尾无斜杠)。 - 尝试手动输入模型名称
deepseek-r1:14b。
❌ 问题:PC 浏览器访问 http://IP:11434 无响应
原因:防火墙未放行或 Ollama 未监听外部地址。
解决方案:
- 在服务器执行
sudo ufw allow 11434/tcp && sudo ufw reload。 - 在服务器执行
sudo snap set ollama host=0.0.0.0:11434并重启。 - 在服务器执行
sudo ss -tlnp | grep 11434,确认监听地址为0.0.0.0:11434而非127.0.0.1:11434。
❌ 问题:每次重启后 IP 变化
原因:未配置静态 IP,系统使用 DHCP 动态获取。
解决方案:参考第七步:配置静态 IP。
❌ 问题:Ollama 官方脚本安装失败(国内网络)
原因:安装脚本从 GitHub 下载文件,国内无法连接。
解决方案:直接使用 Ubuntu 应用商店安装,无需命令行操作。
最终效果
完成以上所有步骤后,你将获得一台:
- ✅ 开机即用:服务器通电即自动启动,无需人工登录操作。
- ✅ 固定 IP:每次开机 IP 地址不变,方便其他设备连接。
- ✅ 局域网共享:同一网络下的任何电脑、手机都可以通过 Chatbox 连接使用。
- ✅ 完全私有:所有数据留在本地,不经过任何第三方服务器,隐私安全。
📌 日常使用:只需打开服务器电源 → 等待 1-2 分钟系统启动完成 → 在 PC 上打开 Chatbox 即可开始对话。
本文来自作者:西湖摸鱼,转载请注明原文链接:https://www.cnblogs.com/conne/p/22893804

浙公网安备 33010602011771号