使用ollama本地部署gemma记录

1.官网https://ollama.com/安装ollama

2.先配置一下环境变量

不然下载的东西会默认丢在C盘里

3.cmd执行ollama run gemma:2b

(使用后推荐直接下7b,2b有点不够用

 

后续解决:打开debug,读一下server.log,自己排错,我这里是GPU的问题,最后把GPU选项关闭就好了

posted @ 2024-04-16 10:21  天启A  阅读(278)  评论(0)    收藏  举报