摘要：
问题 1 \(p(w_j \| w_c)\) 和 \(\hat{y}_j\) 数学含义 解答 在 Word2Vec 和机器学习的数学 notation 中，符号 \(\hat{y}_j\) 有非常明确的约定含义： 1. 符号拆解 符号 名称 含义 \(y_j\) 真实标签 (Ground Truth 阅读全文
posted @ 2026-08-31 23:07
立体风
阅读(13)
评论(0)
推荐(0)
摘要：
在 Word2Vec（特别是 Skip-gram 模型）中，反向传播与随机梯度下降（SGD）是训练的核心引擎。虽然现代实现通常使用“负采样”来加速，但理解原始 Softmax + 交叉熵损失的反向传播是掌握其数学原理的基石。 以下是对这一过程的详细拆解、数学推导及直观示例。 1. 简要模型架构回顾 阅读全文
posted @ 2026-08-31 23:02
立体风
阅读(9)
评论(0)
推荐(0)
摘要：
要理解 Word2Vec 的反向传播（Backpropagation），我们先要明确它到底在“反向”传播什么。简单来说，它传播的是“误差”（Loss）。网络预测错了，它需要一种机制顺着计算路径往回找，告诉路径上的每一个权重：“你该增大一点，还是减小一点，才能让下次的预测更准？” 这个寻找的过程，靠的 阅读全文
posted @ 2026-08-31 21:52
立体风
阅读(7)
评论(0)
推荐(0)
浙公网安备 33010602011771号