本地 Ollama 模型接入 OpenClaw

本地 Ollama 模型接入 OpenClaw 的优势:

🔒 1. 数据隐私与安全

  • 完全本地化:所有对话和数据处理都在你自己的服务器上完成,不会将任何敏感信息(如企业数据、个人隐私)发送到外部 API 服务商
  • 避免数据泄露:无需担心第三方服务记录或滥用你的对话内容,尤其适用于处理机密文档、内部知识库等场景

💰 2. 零 API 成本

  • 永久免费:不再需要为每次模型调用按 Token 付费,只需一次性投入硬件资源。长期使用下来可节省大量费用
  • 无用量限制:不受外部 API 配额限制,可以随意进行大量测试、批量处理或高频对话

🌐 3. 离线可用

  • 无需互联网:即使在没有网络的环境(如内网、远程地点、隔离区),OpenClaw 依然可以正常工作,保证业务连续性

🚀 4. 更低延迟

  • 本地推理:省去了网络传输时间,响应速度更快,尤其适合需要实时交互的场景
  • 优化体验:与 OpenClaw 结合后,整个交互链路都在本地,流畅度显著提升

🎛️ 5. 完全控制权

  • 模型自由选择:可以使用 Ollama 支持的任何开源模型(如 Llama 3、Qwen、Mistral 等),甚至自己微调的专属模型
  • 版本锁定:不用担心外部模型升级导致行为变化,可以稳定使用特定版本
  • 自定义参数:可随意调整推理参数(温度、上下文长度等)以适配具体任务

🔧 6. 易于集成与扩展

  • 兼容 OpenAI 接口:Ollama 自 0.1.26 起原生支持 /v1/chat/completions 端点,OpenClaw 可直接配置为自定义供应商,无需复杂代理
  • 无缝切换:可同时配置多个本地模型,根据任务需求动态切换(例如用轻量模型处理简单查询,大模型处理复杂推理)

🖥️ 7. 硬件资源充分利用

  • GPU/CPU 灵活部署:可以根据现有硬件选择合适规模的模型(如 7B、13B、32B),在性能和资源消耗之间取得平衡
  • 可扩展性:可运行多个模型实例,或通过负载均衡支持高并发访问

📦 8. 适合开发与测试

  • 快速迭代:在本地调试 OpenClaw 技能、提示词时,无需等待 API 响应或消耗额度
  • 模拟生产环境:可以先在本地验证模型效果,再决定是否迁移到云端

# Ollama 部署本地模型可参考:Linux 安装配置 Ollama

# 要将本地部署的 Ollama 模型接入 OpenClaw,需要让 OpenClaw 能够通过 OpenAI 兼容的 API 调用 Ollama

# 通过 curl 直接测试 Ollama 的 OpenAI 兼容接口是否正常

curl -s http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3:32b",
"messages": [{"role": "user", "content": "Hello"}]
}' | jq -r '.choices[0].message.content'

image

image

# openclaw onboard

image

# ollama server 查看 API Key

image

# 配置 API Key

image

image

image

image

image

image

# Web UI 可查看 Token 使用情况

image

# Token 是模型用来表示自然语言文本的基本单位,也是计费单元,可以直观的理解为 "字" 或 "词" ;通常 1 个中文词语、1 个英文单词、1 个数字或 1 个符号计为 1 个 token。

一般情况下模型中 token 和字数的换算比例大致如下:

  • 1 个英文字符 ≈ 0.3 个 token
  • 1 个中文字符 ≈ 0.6 个 token

但因为不同模型的分词不同,所以换算比例也存在差异,每一次实际处理 token 数量以模型返回为准

# 若选择公网 API 服务商,训练和使用 OpenClaw 需要消耗大量的 token(money)

# 常见 API 服务商 token 价格表:

按量计费 - MiniMax 开放平台文档中心

模型 & 价格 | DeepSeek API Docs

posted @ 2026-03-10 10:42  demoduan  阅读(419)  评论(0)    收藏  举报