在VMware的kali虚拟机中安装docker + ollama + open-webui 流程

一、docker安装

升级kali

apt-get update && apt-get upgrade && apt-get dist-upgrade

清缓存

apt-get clean

安装docker

apt-get install wmdocker docker-compose

启动docker

service docker start

二、ollama安装

安装ollama

curl -fsSL https://aliendao.cn/ollama/install.sh | sh\n

启动ollama

systemctl start ollama

安装模型,内存不足时无法运行,注意内存分配

ollama run qwen2.5

暴露API到局域网

vim /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload
systemctl restart ollama

三、open-webui安装

查看IP

ifconfig

安装open-webui (192.168.X.X替换成kali的IP)

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.X.X:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

大功告成,访问虚拟机3000端口查看结果

http://localhost:3000
posted @ 2024-11-18 08:36  百事无糖可乐  阅读(737)  评论(0)    收藏  举报