8种RAG系统架构

image

核心共性理念(THE SHARED IDEA)

所有 RAG 架构的底层逻辑均围绕同一条主线展开:用户提问(Question) + 检索到的证据(Retrieved evidence) → 大语言模型推理(Language model) → 有据可依的回答(Grounded answer)。不同架构的演进本质上是为了解决不同业务场景下的“检索失效模式(Failure Mode)”。

01

Naive RAG(基础检索增强生成)

单次检索,直接生成(Retrieve once, then generate.)

核心工作流

• 离线索引阶段(INDEX):原始文档(Documents) → 文本切块(Chunks) → 向量化嵌入(Embeddings) → 构建向量索引(Vector index)。
• 在线查询阶段(QUERY):将用户问题向量化(Embed) → 执行向量相似度搜索并召回 Top-K 文本块(Vector search + top chunks) → 将“原始问题 + 召回文本块”拼接输入大语言模型(LLM)生成最终回答。

技术原理剖析

最经典的线性流水线(Pipeline)架构。依赖单一稠密向量(Dense Vector)的语义相似度匹配,无查询改写、重排序或反馈修正机制。

适用场景 (USE)

针对单一文档集合的简单事实性问答(Simple questions over a document collection)。

风险与注意 (WATCH)

检索阶段的遗漏或召回偏差(Retrieval misses)会直接传导至生成阶段,导致模型产生幻觉或回答不完整。

02

Multimodal RAG(多模态检索增强生成)

跨文本、图像、音频和视频的联合检索(Retrieve across text, images, audio and video.)

核心工作流

• 多源数据接入:同时处理文本(Text)、图像(Images)、音频(Audio)和视频(Video)四类异构数据。
• 统一表征与检索:对多模态内容进行联合编码或生成文本描述后建立索引(Encode / describe + index) → 根据用户查询检索混合模态证据(Query → retrieve mixed evidence) → 输入支持多模态理解的模型(Compatible model,如 VLM/MLLM)生成回答。

技术原理剖析

打破纯文本限制,通常采用两条技术路线:一是利用 CLIP/ImageBind 等跨模态编码器将不同模态映射至同一向量空间;二是先用多模态模型将图表、音视频转化为文本摘要后再检索。

适用场景 (USE)

包含大量架构图、产品手册插图、会议录音或视频资料的知识库问答(Documents with diagrams, recordings or visuals)。

风险与注意 (WATCH)

必须确保编码器(Encoders)与下游生成模型(Models)能够严格匹配并兼容对应的模态数据类型。

03

HyDE(假设性文档嵌入检索)

利用假设性文档引导精准检索(Use a hypothetical document to guide retrieval.)

核心工作流

• 假设生成:接收用户查询(Query) → 由 LLM 先凭自身参数知识生成一篇“假设性回答文档”(LLM generates a hypothetical document)。
• 假设检索与真实生成:对该假设文档进行向量嵌入(Embed draft) → 用假设文档向量去真实语料库中检索最相似的真实证据(Search real corpus → retrieve real evidence) → 将“原始问题 + 真实证据”送入 LLM 输出最终答案。

技术原理剖析

核心在于解决“短查询(Query)与长文档(Document)语义空间不对称”问题。通过“文档搜文档(Doc-to-Doc)”替代“问题搜文档(Query-to-Doc)”,显著提升语义对齐度。

适用场景 (USE)

用户提问方式口语化、抽象,与知识库原文措辞差异较大的场景(Questions that do not resemble source wording)。

风险与注意 (WATCH)

LLM 生成的假设性草稿可能包含虚构信息(The generated draft is not factual evidence),切勿直接将其作为事实依据输出,仅可用作检索向量锚点。

04

Corrective RAG / CRAG(纠错型检索增强生成)

使用证据前先进行质量评估与动态修正(Evaluate evidence before using it.)

核心工作流

• 检索与评估:用户查询(Query) → 初始检索(Retrieve) → 引入轻量级评估器对召回证据进行相关性打分(Evaluate retrieved evidence)。
• 分支路由机制:若评估为高质量(GOOD),则保留相关段落(Keep relevant passages);若评估为低质量或混杂噪声(WEAK / MIXED),则触发外部网络搜索并提炼信息(Web search + refine) → 汇总清洗后的上下文(Context)交由 LLM 生成答案。

技术原理剖析

引入“自我反思与纠错(Self-Correction)”机制。通过检索评估器(Retrieval Evaluator)充当质量守门员,在内部知识库失效时自动降级或补充外部搜索引擎(Web Search)进行知识兜底。

适用场景 (USE)

私有语料库覆盖不全、时效性差,或经常返回弱相关、高噪声片段的场景(Corpora that return weak or noisy passages)。

风险与注意 (WATCH)

增加了证据评估与额外的网络检索环节,会显著拉高系统的端到端响应延迟(Latency)。

05

Graph RAG(图谱检索增强生成)

检索互联事实与图谱社区摘要(Retrieve connected facts and graph summaries.)

核心工作流

• 图谱构建阶段:从原始数据源(Sources)中抽取实体与关系(Extract entities + relationships) → 构建知识图谱并生成层级社区摘要(Knowledge graph + summaries)。
• 图谱检索阶段:结合用户查询(Query),同时检索图谱中的关联子图上下文与原始源证据(Retrieve graph context + source evidence) → 输入 LLM 进行全局或局部推理并输出回答。

技术原理剖析

弥补传统向量检索“只见树木(孤立切片)、不见森林(全局拓扑)”的短板。通过实体关系网络支持多跳推理(Multi-hop Reasoning),并利用社区摘要(Community Summaries)回答宏观总结类问题。

适用场景 (USE)

涉及复杂实体关联推理或跨文档宏观主题归纳的问题(Questions about relationships or broad themes)。

风险与注意 (WATCH)

知识图谱的实体关系抽取(依赖大量 LLM Token 消耗)以及图谱的增量更新维护成本远高于普通向量库。

06

Hybrid RAG(混合检索增强生成)

融合精确关键词匹配与深层语义理解(Combine exact keywords with semantic meaning.)

核心工作流

• 双路并行召回:用户查询(Query)同时进入两条检索通道——通道一执行 BM25 稀疏检索以匹配精确关键词(BM25 search: Exact keywords);通道二执行向量检索以捕捉语义相似性(Vector search: Semantic meaning)。
• 结果融合与生成:使用倒数排序融合等算法合并两路排名(Fuse ranks, e.g. RRF) → 将融合后的最优上下文交由 LLM 生成回答。

技术原理剖析

结合稀疏检索(Sparse Retrieval,如 BM25/SPLADE)的字面精确性与稠密检索(Dense Retrieval)的语义泛化能力,常配合 RRF(Reciprocal Rank Fusion)算法及 Cross-Encoder 重排序器(Reranker)进一步提纯。

适用场景 (USE)

查询中同时包含特定型号、产品编码、专有名词与自然语言描述的场景(Queries mixing product codes and natural language)。

风险与注意 (WATCH)

需要精细调整双路融合权重(Tune fusion),并在高精度要求下考虑引入 Reranking(重排序)作为可选的增强步骤。

07

Adaptive RAG(自适应检索增强生成)

根据问题复杂度动态分配检索算力(Choose the retrieval effort for each question.)

核心工作流

• 复杂度路由:接收用户查询(Query) → 通过分类路由器评估问题难度(Route by complexity)。
• 三级动态策略:简单常识问题直接跳过检索(No retrieval);中等事实问题执行单步标准检索(One retrieval step);复杂多跳问题启动多轮迭代检索(Iterative retrieval) → 最终统一由 LLM 合成回复(LLM reply)。

技术原理剖析

在“回答准确率”与“系统计算成本/延迟”之间寻求帕累托最优。避免对常识问题执行繁重的检索流程,也防止用单次检索应付复杂分析题。

适用场景 (USE)

真实业务中简单寒暄、常规查询与复杂推理混合出现的负载场景(Mixed workloads: simple and complex questions)。

风险与注意 (WATCH)

路由分类器(Router)一旦误判(Bad routing),将高难度问题分配至“免检索”分支,会直接导致事实性错误。

08

Agentic RAG(智能体检索增强生成)

自主规划、工具检索、证据核验与按需循环(Plan, retrieve, inspect — and repeat when needed.)

核心工作流

• 规划与多工具执行:接收复杂查询(Query) → Agent 进行任务拆解与行动规划(Plan) → 调用多种异构工具进行检索(Retrieve),涵盖文档库(Docs)、结构化数据库(SQL)及外部网络工具(web tools)。
• 反思循环与输出:检查已获取的证据是否充分(Check evidence) → 若证据不足(More evidence needed),自动返回重新规划并补充检索;若证据充足(ENOUGH),则生成最终答案(Final answer)。

技术原理剖析

将 RAG 从静态数据流水线升级为具备自主决策能力的智能体(Agent)。支持多步推理、跨数据源联合查询(非结构化文档 + 结构化 SQL + 实时 API)及基于 ReAct/Plan-and-Solve 范式的动态迭代。

适用场景 (USE)

需要跨多个异构数据源、分多步骤拆解才能完成的复杂业务分析问题(Multi-step questions across data sources and tools)。

风险与注意 (WATCH)

必须严格设置工具访问权限(Permissions)、最大循环步数限制(Step limits)以及 Token/API 成本预算(Cost budgets),防止智能体陷入死循环或越权操作。

架构选型与工程落地总结(选型速查表)

架构模式

解决的核心痛点

典型业务场景

主要代价 / 风险

01 Naive RAG

快速搭建基础外部知识库问答

单文档集合简单问答

召回遗漏直接导致幻觉

02 Multimodal RAG

非纯文本数据的理解与检索

含图表、音视频的知识库

编码器与生成模型需严格对齐

03 HyDE

用户提问与源文档措辞差异大

抽象、口语化查询检索

假设草稿非事实,严禁直接输出

04 Corrective RAG

内部知识库噪声多或信息过时

低质量语料库、需联网兜底

评估与外部搜索增加响应延迟

05 Graph RAG

跨文档多跳推理与全局主题总结

复杂关系网络、宏观归纳

图谱构建与维护 Token 成本高

06 Hybrid RAG

专有名词/编码匹配与语义理解兼顾

产品型号 + 自然语言混合查询

需调优融合权重,建议配重排序

07 Adaptive RAG

不同难度问题的算力与延迟平衡

简单与复杂查询混合的流量

路由误判可能跳过必要检索

08 Agentic RAG

跨多数据源的复杂多步任务拆解

Docs + SQL + API 联合分析

需严控权限、步数上限与预算

架构演进核心原则

(CHOOSE THE PATTERN THAT FIXES YOUR FAILURE MODE)

没有绝对完美的单一架构,只有最匹配失效模式的组合方案:在工程实践中,应当持续度量【检索质量(Retrieval quality)】、【回答忠实度(Answer faithfulness)】、【系统延迟(Latency)】与【推理成本(Cost)】四大核心指标,并在必要时将多种模式组合使用(例如:Hybrid RAG + Rerank + Corrective 评估,或 Adaptive 路由 + Agentic 工具调用)。

posted on 2026-11-21 11:08  PetterLiu  阅读(8)  评论(0)    收藏  举报