全参数微调的灾难性遗忘问题：Nova Forge 数据混合策略的工程分析

问题定义

大语言模型的全参数微调（Full-rank SFT）存在一个固有矛盾：参数空间是共享的，学习领域特定模式时会不可避免地干扰原有的通用能力编码。这就是灾难性遗忘（Catastrophic Forgetting）。

表现为：微调后领域任务指标提升，但 MMLU 等通用基准分数显著下降，指令遵循和推理能力退化。

数据混合的工程思路

Amazon Nova Forge 提供了一种自动化的数据混合方案：在微调过程中，将用户的领域数据与 Nova 精选的通用训练数据按动态比例混合，联合优化两个目标。

与手动混合的区别

维度	手动混合	Nova Forge
通用数据来源	自己找	Nova 精选语料
混合比例	手动调参	自动优化
实验成本	多次试错	一次到位
跨领域适配	每次重调	自动适应

处理流程

领域训练数据（JSONL）
       ↓
上传 S3
       ↓
Nova Forge API（create_model_customization_job）
       ↓
自动数据混合 + 联合训练
       ↓
定制模型（部署到 Bedrock 端点）

实验设计

任务

客户评论分类（VOC）：14511 条训练样本，861 条测试样本，1420 个叶子类别，四级分类体系。长尾分布。

评估维度

1. 领域性能：VOC 分类准确率
2. 通用能力：MMLU 基准测试（14000 条，覆盖人文/社科/自然科学/STEM）

结果

方案	VOC 准确率	MMLU
基础模型	基线	正常
全参 SFT（无混合）	显著提升	明显下降
Nova Forge（数据混合）	显著提升	基本持平

数据混合在提升领域性能的同时有效缓解了灾难性遗忘。

代码示例

训练数据准备

import json

sample = {
    "messages": [
        {"role": "system", "content": "You are a classification system. Return JSON with level_1 through level_4."},
        {"role": "user", "content": "这个摄像头安装很简单，说明书写得很清楚"},
        {"role": "assistant", "content": json.dumps({
            "level_1": "安装与配置",
            "level_2": "初始设置引导", 
            "level_3": "安装流程",
            "level_4": "安装过程简单"
        }, ensure_ascii=False)}
    ]
}

创建微调任务

import boto3

bedrock = boto3.client('bedrock', region_name='cn-northwest-1')

job = bedrock.create_model_customization_job(
    jobName='voc-classifier-v1',
    customModelName='nova-voc-classifier',
    roleArn='arn:aws-cn:iam::123456789012:role/BedrockCustomizationRole',
    baseModelIdentifier='amazon.nova-pro-v1:0',
    trainingDataConfig={'s3Uri': 's3://bucket/voc/train.jsonl'},
    outputDataConfig={'s3Uri': 's3://bucket/voc/output/'},
    customizationType='FINE_TUNING',
    hyperParameters={
        'epochCount': '3',
        'batchSize': '8', 
        'learningRate': '0.00001'
    }
)

工程考量

1. 数据规模：实验使用 14511 条样本。数据过少（<几百条）时，数据混合效果可能不如 PEFT
2. 训练成本：全参 SFT + 数据混合的计算量大于 PEFT，适合有充分数据和预算的场景
3. 长尾分布：VOC 数据集的长尾特征（少数类别样本极少）对模型提出额外挑战，数据混合不直接解决类别不平衡
4. 评估方法：双维度评估（领域 + 通用）是验证数据混合效果的关键，只看领域指标会遗漏通用能力退化

适用边界

• 数据充足（>1000 条）、需要全参微调 → 推荐 Nova Forge 数据混合
• 数据较少、预算有限 → 优先考虑 PEFT
• Prompt Engineering 能解决 → 不需要微调
• 需要多任务通用性 → 数据混合比单任务 SFT 更合适

总结

数据混合是解决全参微调灾难性遗忘的工程化方案。Nova Forge 将这个过程自动化，省去了手动寻找通用数据和调优混合比例的实验成本。对于需要在领域能力和通用能力之间取得平衡的模型定制场景，是目前比较实用的选择。

---

Amazon Nova Forge：https://aws.amazon.com/cn/nova/forge/
Amazon Bedrock：https://aws.amazon.com/cn/bedrock/
MMLU Benchmark：https://huggingface.co/datasets/cais/mmlu