理解 Qwen Image 2.1 GGUF：本地运行、量化选择与组件说明

Qwen Image 2.1 是一款支持文生图和图像编辑的模型。GGUF 版本是社区将其生成权重转换后的量化文件，可供兼容的本地推理工具加载。

只下载一个 GGUF 文件还不能开始生成。完整流程还需要推理运行时、文本编码器，以及负责把图像表示解码成像素的 VAE。

本文说明 GGUF 改变了什么、怎样选择量化版本，以及本地运行时要准备哪些文件。命令来自项目维护者的文档，本文没有在特定电脑上进行性能实测。

一、GGUF 改变了什么

可以把模型想成一套装在盒子里的绘图工具。量化会用更少的位数存储模型权重，让文件变小；代价是数值精度会有损失。

社区维护的 Qwen Image 2.1 GGUF 仓库提供的是转换文件，不是 Qwen 团队另行训练的模型。官方模型卡介绍的视觉生成组件有 70 亿参数，原始模型支持文生图、图像编辑和透明 RGBA 图像。实际能否使用这些功能，还要看转换文件对应的运行时是否实现。

二、怎样选择量化版本

仓库列出了多个量化文件。下载体积可以用来估算磁盘空间，但不能直接当作显存需求。

量化版本	文件大小	适合的起点
Q2_K	2.56 GB	存储空间非常有限时
Q3_K	3.27 GB	想使用较小文件，同时多保留一些细节
Q4_0 / Q4_K	4.20 GB	许多本地环境可以优先尝试的平衡点
Q5_0	5.07 GB	可以分配更多内存时
Q6_K	6.00 GB	更看重图像细节且资源充足时
Q8_0	7.69 GB	文件较大、精度较高的选择

通常，位数较高的权重保留更多数值细节，同时占用更多存储空间。最终画面还会受到提示词、分辨率、运行时和硬件影响，因此不存在适合所有任务的固定答案。

4.20 GB 是文件下载大小，不代表推理只需要 4.20 GB 显存。文本编码器、VAE、中间图像数据和运行时缓冲区也会占用内存。分辨率越高，工作内存需求通常也越大。可以先选择适合磁盘空间的版本，再用目标分辨率检查实际速度和显存占用。

三、GGUF 只是推理流程的一部分

扩散模型根据提示词构造图像表示；文本编码器把提示词转换成模型输入；VAE 再把图像表示解码为像素。

按照 stable-diffusion.cpp 的 Qwen Image 2.1 文档，需要准备三类文件：

1. 扩散模型权重，例如 qwen_image_2.1-Q4_K.gguf。
2. Qwen3-VL-8B-Instruct 文本编码器。维护者的示例使用 Qwen3VL-8B-Instruct-Q4_K_M.gguf。
3. 对应的 VAE：qwen_image_2.1_vae_bf16.safetensors。

不要用早期 Qwen Image 或 Wan 2.2 的 VAE 替代这个文件。若要使用基于 GGUF 文本编码器的图像编辑流程，文档还要求加载相配套的视觉投影文件，例如 mmproj-Qwen3VL-8B-Instruct-F16.gguf。

四、运行一个文生图示例

下面的命令展示如何把扩散模型、文本编码器和 VAE 传给 sd-cli。示例取自维护者的文档，路径需要按本机目录调整。

sd-cli \
  --diffusion-model ../models/diffusion_models/qwen_image_2.1-Q4_K.gguf \
  --vae ../models/vae/qwen_image_2.1_vae_bf16.safetensors \
  --llm ../models/text_encoders/Qwen3VL-8B-Instruct-Q4_K_M.gguf \
  -p "A small mountain observatory after fresh snowfall, warm window light, quiet winter dusk" \
  --cfg-scale 6.0 \
  --sampling-method euler \
  --offload-to-cpu \
  -o qwen-image-2.1.png

--diffusion-model 指向 GGUF 扩散权重，--llm 和 --vae 分别加载文本编码器和 VAE。显存不足时，CPU offload 可能有帮助，但通常会降低速度。维护者文档还要求图像宽、高都是 32 的倍数。

如果使用 ComfyUI，GGUF 仓库提供了文生图工作流，并推荐 leejet/ComfyUI-GGUF 自定义节点。请按节点仓库的说明安装，并确认自己的 ComfyUI 版本兼容。

五、常见误区

1. 把扩散 GGUF 当成完整模型。 它不能代替文本编码器、VAE 或兼容的运行时。
2. 只看文件名猜 VAE 是否可用。 应使用 Qwen Image 2.1 文档列出的 VAE；早期模型的 VAE 不能互换。
3. 用下载大小估算显存。 下载体积只说明磁盘空间，推理还需要工作内存，分辨率也会影响占用。
4. 以为量化会改变模型许可。 GGUF 仓库说明转换文件沿用原模型许可。Qwen Research License仅授权非商业用途；商业使用需要另行取得 Qwen 许可。

结语

Qwen Image 2.1 GGUF 让兼容的本地运行时可以加载经过量化的图像生成权重。完整配置包括扩散 GGUF、Qwen3-VL 文本编码器和匹配的 VAE。选择量化文件时要同时考虑磁盘空间、画质和目标分辨率下的实际内存需求。

查看最新文件名和兼容说明，可以从 GGUF 仓库与运行时文档开始。