Hermes接入本地Gemma4(Ollama)模型

安装Ollama和gemma4

下载安装ollama： https://ollama.com/

Context Length一定不能太低，上图4K是不行的，会报错，后面改为了128K

安装gemma4模型

https://ollama.com/library/gemma4

ollama run gemma4:12b

测试使用

安装Hermes

官网：https://hermes-agent.nousresearch.com/

#安装
irm https://hermes-agent.nousresearch.com/install.ps1 | iex
#配置
hermes setup

hermes配置model

#进入模型配置选项，选择Custom endpoint (enter URL manually)
hermes model

先查本机IP，11434为ollama端口，得出URL配置为 http://172.19.16.1:11434/v1