大模型入门

趣味

我是Boss,LLM是员工
初始阶段只能Boss问,LLM答【一问一答，不能追问】我的提问就是prompt:提示词
prompt划分为两部分：一部分是背景信息，一部分是最终指示背景信息就是上下文Context
由于LLM只能一问一答，所以每次都把前面的提问当做Contxxt，这就是Memory 记忆
Memory可以调用大模型进行总结，减少上下文长度

由于LLM不能联网，所以你搞了个应用可以帮忙LLM进行联网的，你每次只需跟这个应用【Agent智能体】进行对话即可
获取模型参数信息以外的能力
1.Search 搜索
2.RAG 检索增强生成：搜索本地文档或数据库

function calling：Agent和LLM之间关于工具调用所约定的对话格式

大模型入门-初级篇

提示词与提示词工程介绍【评级：入门、概念】

什么是提示词？--提示词就是用户与大模型之间的沟通桥梁。
为什么需要提示词？--
大模型掌握的知识太多，如果没有明确的提示，无法集中回答特定的需求。
不明确答案的范围，返回的问题相关但不符合预期。

游戏角色扮演与提示词【评级：入门、举例】

大模型+系统提示词【可选+知识库】=特定角色

提示词工程优化【评级：实用】

1.设定角色
2.指定步骤
3.提供参考
4.分割内容
5.包含细节

案例演示【评级：重要、架构】

大模型入门-中级篇

智能体核心概念与智能体平台介绍【评级：重要概念】

智能体：LLM+记忆【长期、短期】+工具【代码、API、搜索引擎】+规划【反思、自我批评】

智能体工具调用：Function Call

智能体规划：React 模型

Coze 产品平台功能介绍【评级：看看就好】

RAG与知识库应用【评级：重点】

大模型的局限性：

1. 模型幻觉。生成的内容不准
2. 时效性。内容不是最新
3. 数据安全。敏感信息泄露

知识库问答

RAG 结合大模型的生成能力和外部知识库的检索机制
1.文档索引
2.用户输入
3.检索
4.生成
5.答案生成与输出

文档处理

倒排索引：词条在哪个文本中
TFIDF：关键词权重计算方法
一个词在一篇文档中出现的次数越多（TF高），同时在所有文档中出现的次数越少（IDF高），这个词对这篇文档就越重要。

文本索引类似于词典，告诉你哪个词出现在哪些文本中
向量索引会先提炼文本语义，生成数学坐标，根据语义的坐标距离来判断相关度

检索：多路召回=文本检索+向量检索-->加权排序

大模型的意图识别与多模型协作

如何实现意图识别：售前与售后

如何实现意图识别？
模型通过学习不同“标签”的特征，来判断出用户的需求类型。
在意图识别中，模型会将文字转换为“向量”并映射到空间中，通过计算“距离”来判断相似度。