使用ollama本地部署gemma记录
1.官网https://ollama.com/安装ollama
2.先配置一下环境变量

不然下载的东西会默认丢在C盘里
3.cmd执行ollama run gemma:2b
(使用后推荐直接下7b,2b有点不够用

后续解决:打开debug,读一下server.log,自己排错,我这里是GPU的问题,最后把GPU选项关闭就好了
1.官网https://ollama.com/安装ollama
2.先配置一下环境变量

不然下载的东西会默认丢在C盘里
3.cmd执行ollama run gemma:2b
(使用后推荐直接下7b,2b有点不够用

后续解决:打开debug,读一下server.log,自己排错,我这里是GPU的问题,最后把GPU选项关闭就好了