Docker运维基础（1）

1.镜像导入

如何验证.tar包是docker镜像

导入大模型服务镜像（产品镜像）

docker load -i llm-service-v2.1.0-arm64.tar

导入后验证

docker images | grep llm-service
harbor.internal/ai/llm-service v2.1.0 a1b2c3d4e5f6 2 hours ago 4.2GB

2.镜像运行

1️⃣ 确认镜像已成功加载

docker images | grep -E "llm|embedding"

示例输出：

harbor.internal/ai/llm-service v2.1.0-arm64 a1b2c3d 2 hours ago 4.2GB

2️⃣ 启动容器（关键参数详解）

docker run -d
--name llm-service \ # 容器命名（便于管理）
-p 8000:8000 \ # 端口映射：宿主机:容器
-v /data/models:/app/models \ # 挂载模型文件（避免容器内存储）（冒号前是宿主机，冒号后是容器内的文件系统目录）
-v /logs/llm:/app/logs \ # 挂载日志目录
--memory=16g \ # 限制内存（大模型必需！）
--cpus=4 \ # 限制CPU核心数
--restart=unless-stopped \ # 宕机自动重启
--log-driver=json-file \ # 日志驱动（便于ELK收集）
--log-opt max-size=100m \ # 单文件日志大小
harbor.internal/ai/llm-service:v2.1.0-arm64（镜像名）

3️⃣ 验证运行状态

docker ps -f name=llm-service # 检查容器状态
docker logs -f llm-service # 实时查看启动日志（容器名）
curl http://localhost:8000/health # 测试健康接口（按实际接口调整）