5 分钟上手：用 LLaMA Factory 微调 Qwen3-0.6B

环境前提

• Docker Desktop 已安装，且支持 GPU
• 已拉取 LLaMA Factory 镜像：hiyouga/llamafactory:latest

（参考上一篇文章LLaMA-Factory 全面指南：从入门到实战部署）

 

一、数据准备（NekoQA-10K）

数据集地址：AI-ModelScope/NekoQA-10K

https://www.modelscope.cn/datasets/AI-ModelScope/NekoQA-10K/files

 

 

下载NekoQA-10K.json文件

将这个文件保存到 D:\ai\weitiao\llamafactory\LLaMA-Factory\data

在dataset_info.json增加

{
  "NekoQA-10K": {
    "file_name": "NekoQA-10K.json",
    "columns": {
      "prompt": "instruction",
      "response": "output"
    }
    ...
 }

 

二、启动 LLaMA Factory Web UI

启动llamafactory容器，进入容器，启动webui

docker compose exec -it llamafactory /bin/bash

llamafactory-cli webui

访问 http://localhost:7860

 

三、训练配置（LoRA 微调）

1. Dataset 标签页：选择NekoQA-10K
2. Train 标签页 → 新建任务，填写参数：

 

 

 

点击 Start，等待训练完成。

 

 

 训练后生成的文件

 

文件说明

文件/文件夹名称	类型	功能分类	详细说明
adapter_config.json	文件	核心模型配置	LoRA 适配器的配置文件。记录了微调参数（如 rank, alpha 等）以及所依赖的基础模型名称，加载模型时必需。
adapter_model.safetensors	文件	核心模型权重	最关键的文件。保存了微调训练出的 LoRA 增量权重。它体积较小，使用时需与原始基础大模型合并加载。
tokenizer.json	文件	分词器	分词器的词表文件，用于将文本转换为模型可理解的 token。
tokenizer_config.json	文件	分词器	分词器的配置文件，定义了分词的具体规则和特殊 token。
chat_template.jinja	文件	对话模板	规定了多轮对话的格式（如系统提示、用户输入、AI回复的拼接方式），推理时框架会按此模板处理输入。
training_loss.png	文件	训练过程记录	训练损失（Loss）曲线图。直观展示模型训练是否收敛、有无过拟合。
trainer_log.jsonl	文件	训练过程记录	训练日志文件，逐行记录了每一步（step）的 loss、学习率、耗时等详细数据。
trainer_state.json	文件	训练过程记录	记录了训练器（Trainer）的全局状态，如当前的 epoch、step、最佳指标等。
all_results.json	文件	训练过程记录	训练结束后的整体评估指标汇总。
train_results.json	文件	训练过程记录	训练集上的最终评估结果指标。
running_log.txt	文件	训练过程记录	运行时的文本日志，包含训练过程中的详细终端输出和可能的警告/错误信息。
training_args.bin	文件	训练参数配置	保存了本次训练使用的超参数（如 batch size, learning rate, epoch 数量等），用于复现训练。
training_args.yaml	文件	训练参数配置	同上，是超参数的可读 YAML 格式版本。
llamaboard_config.yaml	文件	框架配置	LLaMA-Factory 特有的配置文件，用于在 WebUI 中加载和管理此次训练任务。
checkpoint-100	文件夹	训练中间检查点	第 100 步时的模型中间保存状态，可用于恢复训练或使用早期模型。
checkpoint-160	文件夹	训练中间检查点	第 160 步时的模型中间保存状态。
README.md	文件	说明文档	模型卡片或说明文档，通常包含微调目的、数据集介绍和使用说明。

 

四、导出完整模型

导出路径为
/app/saves/Qwen3-0.6B-miao

 

在 Export 标签页，选择模型路径和 adapter 路径，点击导出。

 

 导出的文件目录

 

 

 

五、验证效果

加载刚才导出的模型，Chat下提问： 你是谁

 

 

总结

全文核心就这三步：数据格式化(已经格式化) → Web UI 训练 → 导出合并。动手试试，几分钟拥有你的猫娘 Qwen。