大模型应用开发基础

大模型应用开发基础

1. 需要会的AI技术
2. 就业需要认知到的算法原理

多种大模型之间的结合运用（当成操作系统来看待）

• 首先了解AI的模型和技术应用知识
• 熟练使用AI的开发工具
• 构建AI驱动的原型，将概念转化为实际应用
• 保持AI最新技术的技能同步
• 需要不断地进行学习与实战

目前行业使用到的AI技术有哪些？

1. Prompt（提示词工程）
2. RAG（从外部资源或数据库中纳入相关信息来实现）（大多数场景下，做到这里就足够了）
3. Function Calling （与外部函数或API交互的能力）
4. Agent（智能体）[可以通过独立思考，调用工具]
5. Finetuning
6. LLM（大语言模型）

多Agent协作

1. 上下级协作
2. 师生式协作
3. 竞争式协作

Finetuning强化学习：

1. 收集示范数据，并实行监督政策，准备很多prompt
2. 收集比较数据，训练奖励模型Finetuning（数据的量需大于质）
3. 使用强化学习针对奖励模型优化策略
4. 循环迭代

重点：升读理解原理+应用技术+项目实操经验

目标：至少达到中级的水平，意味着上面的AI技术都得融会贯通

算法原理

LLM运行模式：理解现有文字，预测下一个字（Next Token Prediction）

在LLM中，理解是最重要的

需要掌握的概念：向量，空间，特征

可以通过向量的内部关联将相关度系数低的语句的相关性提高

列如：向量a内部空间的语句是我，向量b内部空间语句是修仙者

向量a和b的相关性低，将a和b合成一个新的向量c，之后就可以通过c来提高a和b的关联性，最后将这三个向量结合起来即可预测出将a和b进行连接的字最后组成我是修仙者这句话。