第2章 大白话快速简单过一遍 Ai 大模型

第2章 大白话快速简单过一遍 Ai 大模型

2-1 大模型咋就懂咱说啥 ？

2.1.1 举例

我在一间咖啡馆里，我想要杯星巴克，这里的星巴克指的是什么？

咖啡馆 + 星巴克 = 印品 ， 推断出是想要一杯星巴克的饮品

我看到很多人拿着星巴克，感觉很好看，我也想要个星巴克

好看 + 星巴克 = 杯子

2.1.2 输入

1.用户输入（提示词（prompt）） -> 2.大模型推理计算（Transformer） -> 3.大模型输出

输入：分词、向量化

　　ToKen（将句子包括标点符号切割为单词，切割后的单词为 ToKen ）：语言大模型处理的最小单位，每个 token 会有唯一 ID，所有 token 唯一 ID 经过嵌入层后，将 token 映射为向量

　　向量化：将 ToKen 映射为向量

为什么要转化为向量化？

　　1.语言大模型只处理计算机语言 0、1，所以需要将口语语言转化为计算机语言

　　2.向量包含很多参数，例如 猫：灵活、吃老鼠、吃鱼，狗：忠心、吃骨头、看门，参数能包含物体的特征，当特征即参数越多，物体越具体，大模型越能够理解

　　3.向量存在于向量空间，各向量有独特的参数，因此在向量空间中有唯一的点指向向量，语言大模型的推理、计算皆在向量空间中进行

 

2-2 大模型的信息分析器：Transformer层

我在一间咖啡馆里，我想要杯星巴克，这里的星巴克指的是什么？  --->  饮料

我看到很多人拿着星巴克，感觉很好看，我也想要个星巴克  --->  杯子

GPT 3 ：96 Transformer层

GPT 4：120 Transformer层

QWen 3：64 Transformer层

Grok（马斯克旗下的‌xAI 公司‌研发推出）：64 Transformer层

根据用户的输入，一层一层推理出用户的真实意图（复杂的数据公式），经过Transformer层，每个文字都有一个唯一的向量指代这个文字

例如：我在一间咖啡馆里，我想要杯星巴克 这句话在经过分词、向量化后，拆分成单个字

　　1.在经过前面几个Transformer层后，会将一些单词重新组装（例如：咖啡馆、想要、星巴克），组装后的单词在向量空间中有唯一的向量ID

咖啡馆 与 星巴克 在向量空间中挨得很近，因为他们的参数（特征）会有重叠

　　2.再经过几个Transformer层后，会找到这句话中的关键词（例如：咖啡馆、杯），从而推断出，星巴克不指代咖啡馆或Logo，而是指代饮料，并且是咖啡相关的饮料

在向量空间中，与咖啡馆相靠近的是，慕斯蛋糕、轻音乐、咖啡、小资人群，与杯相靠近的是 咖啡

过程1：先找到关键词（咖啡馆、杯）

过程2： 在向量空间中，比较这两个单词靠的比较近的物体（慕斯蛋糕、轻音乐、咖啡、小资人群），因此可以推断出星巴克是与咖啡相关的饮料

 Transformer层作用：

　　1.词语组装

　　2.根据语义分析，找到关键词语

 

2-3 大模型的大脑中枢：自注意力机制

大语言模型如何找出重点词语？

算法：自注意力机制，重点关注哪些信息？

🔑钥匙1：Query（查询的词的特征）

🔑钥匙2：Key（其他词的特征）

🔑钥匙3：Value（权重值）

Query 逐个与句子里词语的特征来进行计算，从而计算出权重值（注意：不单单是词的特征，而是词语的特征）

1.Query（查询的词的特征）

星巴克 的特征：咖啡 品牌 价格高 聊天 电脑

2.Key （其他词的特征）

其他词的特征：

咖啡馆 咖啡 慕斯蛋糕 聊天

杯 咖啡 量词 喝的东西 

在 动作助词 里 位置助词

想要 动作 ， 语句分割

3.Value 值

星巴克 词语逐个与句子里面的其他词语进行数学的计算（主要计算星巴克特征与其他词语的特征）

根据特征计算出权重值

咖啡馆 = 48%

杯 = 38%

里 = 1.8%，在 = 1.9%

想要 = 1.3%

， = 2.4%

 

2-4 大模型的回应咋就这么体贴呢

 

 

2-5 大模型是弹药库，智能体则是武器

 

 

 

———————————————————————————————————————————————————————————————————————————

                                                                                                                         无敌小马爱学习