摘要： 操作系统配置指南：Ubuntu 22.04 LTS + NVIDIA 驱动 + Docker + vLLM ⚠️ 重要提示：本系统为带有定制驱动的 Ubuntu 22.04 LTS，务必锁定内核并关闭自动更新，避免驱动与内核版本不兼容导致系统故障。 🔐 一、内核锁定与自动更新管理 1.1 锁定当前 阅读全文

摘要： docker run -d -v /mnt/data0:/data \ -p 8000:8000 \ -e TZ=Asia/Shanghai \ --gpus all \ --ipc=host \ --name qwen35 \ vllm/vllm-openai:latest-cu130 /data 阅读全文

摘要： 如果需要长期稳定、后台运行且开机自启动，那么使用 Dante (danted) 配合 systemd 是 Linux 环境下的最优解。 相比于临时隧道，Dante 作为一个专门的守护进程（Daemon），拥有完善的日志记录、稳定性保障和权限管理。 第一步：安装 Dante 在主流系统中安装非常简单： 阅读全文

摘要： 1. 确认未分配空间 确认： /dev/sda 总大小：20 GiB 已用到扇区 20969471（约 10 GiB 处） 剩余空间：从 20969472 到 41943039（约 10 GiB） 2. 创建新分区（使用 fdisk） sudo fdisk /dev/sda 交互式操作如下： Com 阅读全文

摘要： startup with desktop: systemctl set-default graphical.target startup without desktop: systemctl set-default multi-user.target used for debian 阅读全文

摘要： 使用docker在4090上部署运行Qwen2.5-VL模型 拉取docker镜像：docker pull pytorch/pytorch:2.7.0-cuda12.6-cudnn9-runtime Qwen2.5-VL-7B-Instruct 7B模型只需要一张4090（24G显存）即可 运行do 阅读全文