2025 年 12月 9 日随笔档案 - centosboy

2025年12月9日

摘要：采用docker进行部署 https://github.com/langgenius/dify/ cd dify-main/docker/ chmod 777 volumes/app/storage/ docker compose up -d docker compose logs docker c 阅读全文

posted @ 2025-12-09 22:22 centosboy 阅读(5) 评论(0) 推荐(0)

ubuntu docker运行大模型

摘要：安装docker 安装依赖 sudo apt-get update sudo apt-get install -y ca-certificates curl gnupg lsb-release 添加官方 Docker 源 sudo mkdir -p /etc/apt/keyrings curl -f 阅读全文

posted @ 2025-12-09 21:48 centosboy 阅读(2) 评论(0) 推荐(0)

vllm部署

摘要： python环境配置 (推荐) 创建一个新的 uv 环境。使用 --seed 在环境中安装 pip 和 setuptools。 uv venv llm --python 3.12.9 --seed source vllm/bin/activate 首先，请安装huggingface_hub库： pi 阅读全文

posted @ 2025-12-09 21:38 centosboy 阅读(3) 评论(0) 推荐(0)