8种RAG系统架构
核心共性理念(THE SHARED IDEA)所有 RAG 架构的底层逻辑均围绕同一条主线展开:用户提问(Question) + 检索到的证据(Retrieved evidence) → 大语言模型推理(Language model) → 有据可依的回答(Grounded answer)。不同架构的演进本质上是为了解决不同业务场景下的“检索失效模式(Failure Mode)”。 |
01 | Naive RAG(基础检索增强生成) 单次检索,直接生成(Retrieve once, then generate.) | |
核心工作流 | • 离线索引阶段(INDEX):原始文档(Documents) → 文本切块(Chunks) → 向量化嵌入(Embeddings) → 构建向量索引(Vector index)。 | |
技术原理剖析 | 最经典的线性流水线(Pipeline)架构。依赖单一稠密向量(Dense Vector)的语义相似度匹配,无查询改写、重排序或反馈修正机制。 | |
适用场景 (USE) | 针对单一文档集合的简单事实性问答(Simple questions over a document collection)。 | |
风险与注意 (WATCH) | 检索阶段的遗漏或召回偏差(Retrieval misses)会直接传导至生成阶段,导致模型产生幻觉或回答不完整。 |
02 | Multimodal RAG(多模态检索增强生成) 跨文本、图像、音频和视频的联合检索(Retrieve across text, images, audio and video.) | |
核心工作流 | • 多源数据接入:同时处理文本(Text)、图像(Images)、音频(Audio)和视频(Video)四类异构数据。 | |
技术原理剖析 | 打破纯文本限制,通常采用两条技术路线:一是利用 CLIP/ImageBind 等跨模态编码器将不同模态映射至同一向量空间;二是先用多模态模型将图表、音视频转化为文本摘要后再检索。 | |
适用场景 (USE) | 包含大量架构图、产品手册插图、会议录音或视频资料的知识库问答(Documents with diagrams, recordings or visuals)。 | |
风险与注意 (WATCH) | 必须确保编码器(Encoders)与下游生成模型(Models)能够严格匹配并兼容对应的模态数据类型。 |
03 | HyDE(假设性文档嵌入检索) 利用假设性文档引导精准检索(Use a hypothetical document to guide retrieval.) | |
核心工作流 | • 假设生成:接收用户查询(Query) → 由 LLM 先凭自身参数知识生成一篇“假设性回答文档”(LLM generates a hypothetical document)。 | |
技术原理剖析 | 核心在于解决“短查询(Query)与长文档(Document)语义空间不对称”问题。通过“文档搜文档(Doc-to-Doc)”替代“问题搜文档(Query-to-Doc)”,显著提升语义对齐度。 | |
适用场景 (USE) | 用户提问方式口语化、抽象,与知识库原文措辞差异较大的场景(Questions that do not resemble source wording)。 | |
风险与注意 (WATCH) | LLM 生成的假设性草稿可能包含虚构信息(The generated draft is not factual evidence),切勿直接将其作为事实依据输出,仅可用作检索向量锚点。 |
04 | Corrective RAG / CRAG(纠错型检索增强生成) 使用证据前先进行质量评估与动态修正(Evaluate evidence before using it.) | |
核心工作流 | • 检索与评估:用户查询(Query) → 初始检索(Retrieve) → 引入轻量级评估器对召回证据进行相关性打分(Evaluate retrieved evidence)。 | |
技术原理剖析 | 引入“自我反思与纠错(Self-Correction)”机制。通过检索评估器(Retrieval Evaluator)充当质量守门员,在内部知识库失效时自动降级或补充外部搜索引擎(Web Search)进行知识兜底。 | |
适用场景 (USE) | 私有语料库覆盖不全、时效性差,或经常返回弱相关、高噪声片段的场景(Corpora that return weak or noisy passages)。 | |
风险与注意 (WATCH) | 增加了证据评估与额外的网络检索环节,会显著拉高系统的端到端响应延迟(Latency)。 |
05 | Graph RAG(图谱检索增强生成) 检索互联事实与图谱社区摘要(Retrieve connected facts and graph summaries.) | |
核心工作流 | • 图谱构建阶段:从原始数据源(Sources)中抽取实体与关系(Extract entities + relationships) → 构建知识图谱并生成层级社区摘要(Knowledge graph + summaries)。 | |
技术原理剖析 | 弥补传统向量检索“只见树木(孤立切片)、不见森林(全局拓扑)”的短板。通过实体关系网络支持多跳推理(Multi-hop Reasoning),并利用社区摘要(Community Summaries)回答宏观总结类问题。 | |
适用场景 (USE) | 涉及复杂实体关联推理或跨文档宏观主题归纳的问题(Questions about relationships or broad themes)。 | |
风险与注意 (WATCH) | 知识图谱的实体关系抽取(依赖大量 LLM Token 消耗)以及图谱的增量更新维护成本远高于普通向量库。 |
06 | Hybrid RAG(混合检索增强生成) 融合精确关键词匹配与深层语义理解(Combine exact keywords with semantic meaning.) | |
核心工作流 | • 双路并行召回:用户查询(Query)同时进入两条检索通道——通道一执行 BM25 稀疏检索以匹配精确关键词(BM25 search: Exact keywords);通道二执行向量检索以捕捉语义相似性(Vector search: Semantic meaning)。 | |
技术原理剖析 | 结合稀疏检索(Sparse Retrieval,如 BM25/SPLADE)的字面精确性与稠密检索(Dense Retrieval)的语义泛化能力,常配合 RRF(Reciprocal Rank Fusion)算法及 Cross-Encoder 重排序器(Reranker)进一步提纯。 | |
适用场景 (USE) | 查询中同时包含特定型号、产品编码、专有名词与自然语言描述的场景(Queries mixing product codes and natural language)。 | |
风险与注意 (WATCH) | 需要精细调整双路融合权重(Tune fusion),并在高精度要求下考虑引入 Reranking(重排序)作为可选的增强步骤。 |
07 | Adaptive RAG(自适应检索增强生成) 根据问题复杂度动态分配检索算力(Choose the retrieval effort for each question.) | |
核心工作流 | • 复杂度路由:接收用户查询(Query) → 通过分类路由器评估问题难度(Route by complexity)。 | |
技术原理剖析 | 在“回答准确率”与“系统计算成本/延迟”之间寻求帕累托最优。避免对常识问题执行繁重的检索流程,也防止用单次检索应付复杂分析题。 | |
适用场景 (USE) | 真实业务中简单寒暄、常规查询与复杂推理混合出现的负载场景(Mixed workloads: simple and complex questions)。 | |
风险与注意 (WATCH) | 路由分类器(Router)一旦误判(Bad routing),将高难度问题分配至“免检索”分支,会直接导致事实性错误。 |
08 | Agentic RAG(智能体检索增强生成) 自主规划、工具检索、证据核验与按需循环(Plan, retrieve, inspect — and repeat when needed.) | |
核心工作流 | • 规划与多工具执行:接收复杂查询(Query) → Agent 进行任务拆解与行动规划(Plan) → 调用多种异构工具进行检索(Retrieve),涵盖文档库(Docs)、结构化数据库(SQL)及外部网络工具(web tools)。 | |
技术原理剖析 | 将 RAG 从静态数据流水线升级为具备自主决策能力的智能体(Agent)。支持多步推理、跨数据源联合查询(非结构化文档 + 结构化 SQL + 实时 API)及基于 ReAct/Plan-and-Solve 范式的动态迭代。 | |
适用场景 (USE) | 需要跨多个异构数据源、分多步骤拆解才能完成的复杂业务分析问题(Multi-step questions across data sources and tools)。 | |
风险与注意 (WATCH) | 必须严格设置工具访问权限(Permissions)、最大循环步数限制(Step limits)以及 Token/API 成本预算(Cost budgets),防止智能体陷入死循环或越权操作。 |
架构选型与工程落地总结(选型速查表)
架构模式 | 解决的核心痛点 | 典型业务场景 | 主要代价 / 风险 |
01 Naive RAG | 快速搭建基础外部知识库问答 | 单文档集合简单问答 | 召回遗漏直接导致幻觉 |
02 Multimodal RAG | 非纯文本数据的理解与检索 | 含图表、音视频的知识库 | 编码器与生成模型需严格对齐 |
03 HyDE | 用户提问与源文档措辞差异大 | 抽象、口语化查询检索 | 假设草稿非事实,严禁直接输出 |
04 Corrective RAG | 内部知识库噪声多或信息过时 | 低质量语料库、需联网兜底 | 评估与外部搜索增加响应延迟 |
05 Graph RAG | 跨文档多跳推理与全局主题总结 | 复杂关系网络、宏观归纳 | 图谱构建与维护 Token 成本高 |
06 Hybrid RAG | 专有名词/编码匹配与语义理解兼顾 | 产品型号 + 自然语言混合查询 | 需调优融合权重,建议配重排序 |
07 Adaptive RAG | 不同难度问题的算力与延迟平衡 | 简单与复杂查询混合的流量 | 路由误判可能跳过必要检索 |
08 Agentic RAG | 跨多数据源的复杂多步任务拆解 | Docs + SQL + API 联合分析 | 需严控权限、步数上限与预算 |
架构演进核心原则(CHOOSE THE PATTERN THAT FIXES YOUR FAILURE MODE) 没有绝对完美的单一架构,只有最匹配失效模式的组合方案:在工程实践中,应当持续度量【检索质量(Retrieval quality)】、【回答忠实度(Answer faithfulness)】、【系统延迟(Latency)】与【推理成本(Cost)】四大核心指标,并在必要时将多种模式组合使用(例如:Hybrid RAG + Rerank + Corrective 评估,或 Adaptive 路由 + Agentic 工具调用)。 |

浙公网安备 33010602011771号