【应用技巧】大模型生成结果优化技巧

大模型生成结果优化

RAG(retrieval augmented generation,检索增强生成)

• 在生成式自然语言模型的基础之上，增加了检索外部知识库的机制，以应对“ai幻觉”；
  

微调

• 在预训练模型（如 BERT、GPT）的基础上，使用特定任务的数据继续训练，调整模型参数，使其适应新任务（如法律文件输出、医疗文本分类）。
• 主流微调方案：
  • 全量微调：深度适配模型参数，用特定数据重新训练大模型，让它更擅长某个领域，训练成本高；
  • Lora微调：仅训练少量新增参数来适配下游任务，同时冻结预训练模型原有的参数，性价比高，性能比全量微调差；

蒸馏

• 模型压缩技术，以大模型作为监督信号训练小模型，实现快速训练；

联网搜索技术

提示词

• 提示词工程；
• 可以理解为提问技巧：角色+背景+任务+要求

大模型开发框架：

LangChain

Lang