基于Ollama+OpenWebUI搭建
1、https://ollama.com/download官网下载对应的Ollama安装包
2、双击安装Ollama
3、cmd运行ollama run llava:13b命令安装对话模型
4、cmd运行ollama pull milkey/dmeta-embedding-zh:f16 安装中文向量模型
5、cmd运行 ollama list 查看已安装的模型列表
6、参照https://docs.openwebui.com/运行docker命令,安装OpenWebUI
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://ip:8000/ -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
ollama模型存放位置:C:\Users\ychen\.ollama\models
本文来自博客园,作者:CelonY,转载请注明原文链接:https://www.cnblogs.com/CelonY/articles/18231286
浙公网安备 33010602011771号