hello every world!

Rag&AI&作用

  做AI相关开发绕不开RAG,那么为什么需要RAG和RAG能做什么就是首先要弄明白的问题。

  1、为啥需要RAG

  其实,这个问题在所有RAG技术中说的都很明白了,简单一句话,大模型的知识有限。尤其是国内的模型。而且在用模型的时候,模型的版本和token消耗,是必须要考虑的问题。模型好推理和知识相对都好,token消耗少,但是单个token费用高;模型差点的推理和知识就相对落后,但是token消耗便宜。所以一般情况下在垂直知识领域,一般选择token便宜的,因为模型的知识基本不能满足需要,必须通过RAG喂给模型,以达到相对较好的效果。

  2、RAG能做啥

  rag,相对讲起来是个非常庞大和系统的知识整理过程,简单一句话,就是对问题进行意图理解后,根据意图找到模型回答需要的语料。极端一些,RAG库做好了,直接提供检索服务都是一个很好的应用方向。

  rag包含的技术,包括知识扩展比如graphRAG,menuRAG和QARAG等;知识匹配,主要向量检索配合传统关键词检索以及图数据库检索等。

  3、怎么定位AI

  一句话,辅助和整理。毕竟大模型不能保证完全正确。因为很多作业知识需要很长很有逻辑的上下文。以及专业人员长年累月的经验判断,这个是大模型不能做到的。所以还是定位到辅助上,不要想着替代xxx。

posted on 2024-08-27 17:13  强(灰尘)  阅读(42)  评论(0)    收藏  举报