ollama docker 部署

官网地址

https://ollama.com/

部署命令

docker run -d  --name ollama -p 11434:11434  -e OLLAMA_HOST=0.0.0.0:11434  -v ./ollama/data:/root/.ollama  ollama/ollama:latest

部署模型

docker exec -it ollama bash
ollama pull llama3.2:3b   (查看ollama 官网可获取可支持的模型名称)
ollama list (查看运行中的模型)
ollama rm  模型名称 （删除模型）

 ollama 支持的模型库

https://ollama.com/search

和Ollama-webui 搭配（有可视化界面，像聊天窗口一样更舒服）

#运行
docker run -d -p 3000:3000 --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main

打开浏览器 ，输入http://localhost:3000，就能看到聊天界面，模型选择「name」，就是我们的专属模型啦～