寒假第十一天

大模型选择与微调准备

• 任务：选择合适的大模型，准备微调数据。

• 进展：经过讨论，我们选择开源模型Qwen2-Math，因其在数学任务上的表现优异。我们从知识库中提取数学问题及其解答，准备微调数据。

• 问题：微调数据量不足。

• 解决方案：使用数据增强技术，生成更多训练样本。