随笔分类 -  工作记录 / ai

使用docker部署运行Qwen2.5-VL模型
摘要：使用docker在4090上部署运行Qwen2.5-VL模型 拉取docker镜像：docker pull pytorch/pytorch:2.7.0-cuda12.6-cudnn9-runtime Qwen2.5-VL-7B-Instruct 7B模型只需要一张4090（24G显存）即可 运行do 阅读全文
posted @ 2025-06-17 17:38 evanbp 阅读(1390) 评论(0) 推荐(0)