反幻觉（Anti-Hallucination）

反幻觉（Anti-Hallucination）的核心目标

• 问题本质：生成模型（如大语言模型）可能虚构信息（幻觉），需通过技术手段约束其输出，使其更忠实于事实或输入数据。
• 常见方法：

  • 知识增强：引入外部知识库（如检索数据库、向量数据库）辅助生成。

  • 事实检查模块：通过后处理验证输出准确性。

  • Prompt设计：通过输入提示引导模型行为。

Prompt方式在反幻觉中的作用

• 约束性Prompt：在输入中加入明确指令，例如：

  • “请仅基于提供的信息回答问题，避免猜测。”
  • “如果答案不确定，请说明并建议查阅来源。”

• 示例引导：提供符合事实的示例，帮助模型理解期望的输出模式。

• 结构化输入：将输入信息分解为可验证的片段（如时间、地点、人物），减少模型自由发挥空间。