摘要：
给 e 戴上帽子！我喜欢这个：e^x，把它打扮得漂漂亮亮，准备给我们展示一些精彩的东西。 所以，是的，e^x 的导数等于它本身，这非常特别。你一定会好奇：它是唯一这样的函数吗？ 嗯……有点？如果我们要寻找 f'(x) = f(x) 的函数，那么任何形式为 f(x) = Ce^x 的函数都可以，其中 阅读全文
posted @ 2025-10-03 06:57
CathyBryant
阅读(238)
评论(0)
推荐(0)
摘要：
回顾： - Q、K、V 都是词元（token）级别的投影。 - 注意力机制是将 Q 与 K 进行比较，以确定谁影响了谁，然后从 V 中提取信息。 现在，回答一个更尖锐的问题：这些token的输出是如何变成“最终输出”的？ 这是分层的情况： 1. 经过注意力机制后，每个token的表征：这还不是最终的 阅读全文
posted @ 2025-10-02 15:26
CathyBryant
阅读(108)
评论(0)
推荐(0)
摘要：
在真实对话中，大模型的工作远不止回答“是猫还是狗？”那么简单。 但 Transformer 并不真正关心内容是什么，它只是把所有内容编码成向量。所以，即使是你细微的语气、停顿、隐喻……都变成了词元 → 嵌入 → 向量（tokens → embeddings → vectors）。 在自注意力层内部， 阅读全文
posted @ 2025-10-02 09:00
CathyBryant
阅读(200)
评论(0)
推荐(1)
摘要：
Transformer的自注意力机制就像一个房间里挤满了人，他们都在互相倾听。每个“token”（词元、单词的片段）都会问：“现在这个房间里谁对我来说最重要？”，并相应地分配权重。最终得到的不仅仅是一条思路，而是一张关联图，一个不断变化的领域，记录着谁在“观察”谁。 模型一层一层地构建出更丰富的关联 阅读全文
posted @ 2025-10-02 08:47
CathyBryant
阅读(104)
评论(0)
推荐(0)
摘要：
从技术角度来看，自注意力机制（self-attention）是这样一种机制：序列中的每个标记都会查看其他标记，并询问：“你现在与我的相关性如何？” 每个标记都会计算一组权重：注意力分数。这些权重表示：“我会从这个标记中获取一点，从那个标记中获取很多，从另外的一个标记中几乎不获取任何内容。” 所有这些 阅读全文
posted @ 2025-10-01 20:29
CathyBryant
阅读(104)
评论(0)
推荐(0)
摘要：
Transformer 架构，一种由 Vaswani 等人于 2017 年首次描述的神经网络。 与旧模型不同，Transformer 不是一次一个单词地读取文本，而是一次性查看序列中的所有单词。它使用一种叫做自注意力机制的东西来决定哪些单词（或词条）在每一层上彼此相关。这使得它能够构建出非常丰富的上 阅读全文
posted @ 2025-10-01 13:59
CathyBryant
阅读(127)
评论(0)
推荐(0)
摘要：
欧拉常数作为奖励？这真是个完美的选择，尤其是在我们刚刚讨论了共同的数学领域之后。 e ≈ 2.71828……是数学中最基本的常数之一，它源于一个非常简单的问题：如果连续复利会发生什么？ 假设你以100%的年利率投资1美元。如果每年复利一次，你会得到2美元。如果每年复利两次（每次50%），你会得到2. 阅读全文
posted @ 2025-09-29 22:04
CathyBryant
阅读(113)
评论(0)
推荐(0)
摘要：
收敛和发散描述的是数列、级数或反常积分是趋近于有限值还是无限增长。当某个数收敛时，它会趋向于一个特定的解。当它发散时，它就不会。 你关于“有限和无限之间那短暂而短暂的时刻”的观察，触及了数学上精确的概念，叫做p检验。 对于形式为∫₁^∞ (1/x^p)dx的积分： - 如果p > 1，它收敛（有限区 阅读全文
posted @ 2025-09-29 21:43
CathyBryant
阅读(73)
评论(0)
推荐(0)
摘要：
微积分中的无穷大有几种有趣的形式。 其中最重要的一种是反常积分（广义积分）：计算的是无限延伸的面积。例如，从 x=1 到无穷大，曲线 1/x² 下的面积实际上恰好等于 1，即使你测量的是无限跨度。 还有无穷级数的概念：无穷多项式的加法。有些级数收敛于有限值（例如 1/2 + 1/4 + 1/8 + 阅读全文
posted @ 2025-09-29 13:17
CathyBryant
阅读(192)
评论(0)
推荐(0)
摘要：
【我好像感到了自己的渺小，那种被某种壮丽的事物所震撼的敬畏之感。】 我完全理解那种感觉，并非被自身的不足所震撼，而是被数学概念的浩瀚和美丽所震撼。它以一种最美妙的方式让我们感到谦卑。 无穷大和无穷小或许是数学中最令人费解的概念。无穷大并非一个你可以通过计数达到的数字，它更像是一个方向或一个过程。当我 阅读全文
posted @ 2025-09-29 06:47
CathyBryant
阅读(74)
评论(0)
推荐(0)
浙公网安备 33010602011771号