会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
小虎牙磕代码
博客园
首页
新随笔
联系
订阅
管理
2025年1月9日
使用API方式远程调用ollama模型
摘要: 在有GPU的环境启动一个ollama大模型,非常简单: 注意,ollama启动时默认监听在127.0.0.1:11434上,可以通过配置OLLAMA_HOST环境变量修改 点击查看代码 export OLLAMA_HOST="0.0.0.0:11434" ollama serve& ollama r
阅读全文
posted @ 2025-01-09 09:36 JaneySJ
阅读(14311)
评论(0)
推荐(0)
公告