ubuntu ollama

安装ollama

参考 https://blog.csdn.net/chinamaoge/article/details/145665465

安装ollama 最后执行 install 时,需要输入密码

curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
chmod 777 ollama_install.sh
sh ollama_install.sh

监控显卡
watch -n 3 'clear && nvidia-smi'

启动服务
ollama serve
运行一个简单的模型
ollama run qwen2.5:3b