RAG为什么能治大模型幻觉？检索增强的完整链路拆解

​

大模型会“一本正经地胡说”，根源在于它是概率生成器：不知道答案时，它会合理猜测。RAG（检索增强生成）的思路很朴素——“先搜，再答”：先到知识库检索证据，再让模型基于证据作答。本文拆解这条链路里的五个关键环节。

第一环：幻觉从哪来

模型的每个Token都是概率采样，训练语料覆盖不到的知识，它只能“编”。不解决信息来源问题，模型再大也会幻觉。RAG的核心贡献，就是给生成过程外挂了一个可信来源。

第二环：文档怎么“进脑子”——切块与向量化

RAG先把知识库文档切成小块，用Embedding模型把每块转成高维向量，存入向量数据库；查询时把问题同样转成向量，在向量库中做近似最近邻搜索（ANN），找出语义最接近的Top-K个片段。

第三环：混合检索——关键词与语义双通道

纯向量检索对“概念相近”敏感，却可能漏掉精确术语和代码。工程实践常做混合检索：BM25走关键词通道，向量走语义通道，再用RRF（倒数排名融合）把两路结果按“排名”而非“分数”融合——两路打分量纲完全不同（BM25是0到25以上，向量分数是0到1），只有看排名才能公平比较。

第四环：重排——精筛出真正能用的证据

初召回可能带回几十条，全塞给模型会稀释注意力。重排环节用Cross-Encoder把“问题+片段”成对做深度交叉语义打分，筛出最核心的Top 3再交给生成模型。检索层的质量直接决定RAG的上限：搜得好，模型答得靠谱；搜得烂，模型只能硬编。

第五环：生成与防幻觉

生成模型以“问题+检索片段”为上下文作答，并要求只依据上下文输出。工程上还会叠加引用溯源与置信度阈值，让模型在证据不足时明确说“不知道”，而不是硬答。

局限与改进方向

切块粒度影响召回精度；知识库更新需要增量同步；检索片段过多会挤占上下文窗口。这也是RAG系统至今仍在“切块策略、混合检索、重排”三个环节上持续迭代的原因。

免责声明：本文为技术原理科普，仅作学习参考，不代表任何产品立场。