docker 部署的dify连接 ollama 失败,出现An error occurred during credentials validation: API request failed with status code 502 可能原因及解决方案
docker 部署的dify连接 ollama 失败可能原因及解决方案
当前环境:部署在docker 中的dify 部署在本地的ollama
先前在尝试dify连接ollama时,一直失败,左上角出现An error occurred during credentials
validation: API request failed with status code 502:
出现该问题首先我们要确认ollama顺利运行,windows的防火墙会拦截ollama的流量,如果我们访问本地的
11434地址没有看到ollama run ,那很有可能就剩被防火请拦截, 我们需要设置进站规则或则直接关闭防火请,
其次要保证模型名称正确,建议去ollama官网直接复制模型名称, 其次因为我们的dify部署在
docker 中,所以模型配置中的基础url不能指向localhost,而是:http://host.docker.internal:11434
再接着要保证ollama监听端口正确,同样由于我们的dify部署在docker 所以不能监听本机的11434
检测方式为先运行ollama
tasklist | findstr "ollama.exe"
获得ollama的pid,如果pid是12345
接下来
netstat -ano | findstr "LISTENING" | findstr "12345"
获得监听地址
如果发现监听地址是本机地址,那应该将监听地址设置为0.0.0.0 来监听所有的地址
直接设置系统环境变量OLLAMA_HOST 将其设置为0.0.0.0 即可,接着返回dify去配置ollama ,发现成功了,问题顺
利解决。

浙公网安备 33010602011771号