大模型agent开发之RAG消除幻视

Retrieval -Augmented Generation(RAG):检索增强

传统知识库只能根据已有知识库进行检索。但是这样的缺点就是，已有知识库有限，大多数时候 可能无法检索出有效信息。RAG通过检索和生成来克服这个问题，具体来说RAG会根据输入的 question先从知识库中检索到信息，然后嵌入到生成式模型中，把它作为一个上下文让模型知道 它回答问题的依据是什么，然后自行组织语言返回答案。

 

为LLM提供来自外部知识源的额外信息的概念。它们生成更准确和有上下文的答案，同时减少幻觉。 （1）检索：外部相似搜索（2）增强：提示词更新（3）生成：更详细的提示词输入LLM

 

langchain中RAG的整体实现流程

Source（资源连接）->Loader(加载) ->Transformer(转换) ->Embed(向量嵌入，向量化) - >Store(向量数据库) ->Retrieve(检索信息)