上一页 1 2 3 4 5 6 7 8 9 ··· 80 下一页
摘要: 问题 公式: \[L= \log\sigma(v'_o{}^Tv_i) + \sum_{j=1}^{k} \log\sigma(-v'_{n_j}{}^Tv_i) \]如果负样本碰巧是和中心词c极度相关的,向量相乘就会得到一个极大的数,sigmoid函数作用下就会变成0,而最终log0是一个无穷小, 阅读全文
posted @ 2026-08-29 16:09 立体风 阅读(6) 评论(0) 推荐(0)
摘要: Word2Vec 完整学习方案:从数学原理到模型推理 第一阶段:数学基础(约 1~2 周) 在正式进入 Word2Vec 之前,需要夯实以下数学工具: 主题 需要掌握的内容 为什么需要 线性代数 向量点积、矩阵乘法、转置、Embedding 矩阵的本质 词向量本质上就是矩阵的行/列 概率论 条件概率 阅读全文
posted @ 2026-08-29 15:41 立体风 阅读(12) 评论(0) 推荐(0)
摘要: 以 Word2Vec 作为神经网络的入门起点,是非常完美的决定! Word2Vec 本质上是一个没有激活函数的浅层(单隐藏层)神经网络。它剥离了现代深度学习中复杂的多层网络堆叠,把核心直接指向了神经网络的本质:矩阵乘法、梯度下降和特征表示。如果你能吃透它,后续学习 CNN、RNN 甚至 Transf 阅读全文
posted @ 2026-08-29 15:39 立体风 阅读(9) 评论(0) 推荐(0)
摘要: 1. 矩阵 $$h_{\text{fox}} = \begin{bmatrix} h_1 \\ h_2 \\ \vdots \\ h_{300} \end{bmatrix}$$ 在这段 Latex 代码中,每个带有反斜杠 \ 的词都是一个指令。以下是这段公式里各个符号和命令的详细拆解: 1. 环境与 阅读全文
posted @ 2026-08-29 07:13 立体风 阅读(16) 评论(0) 推荐(0)
摘要: 在 Windows 里写代码,在 WSL(Linux)里跑服务,之所以能顺畅通信,核心原理用一句话概括就是:微软在底层把这两套系统家的“大门”和“网络”偷偷打通了。 我们可以把 Windows 想象成“客厅”,把 WSL 想象成“地下室”。这两个房间虽然是隔开的,但有一条专用通道相连。 原理篇:它们 阅读全文
posted @ 2026-08-29 06:44 立体风 阅读(19) 评论(0) 推荐(0)
摘要: 目标 我想以 word2vec 为神经网络学习起点,从数学原理到模型训练到模型推理的学习计划。 计划 如果你的目标不是“会调用 Word2Vec”,而是把 Word2Vec 当成真正理解神经网络的第一块基石,我非常赞成这个路线。因为 Word2Vec 足够小:一个 embedding 层、一个点积、 阅读全文
posted @ 2026-08-28 22:23 立体风 阅读(8) 评论(0) 推荐(0)
摘要: 向量点积(Dot Product),又称内积(Inner Product)或数量积(Scalar Product),是线性代数和几何学中最基础、也最重要的运算之一。 要透彻理解点积,我们可以从代数定义、几何意义以及在AI中的核心应用三个维度来剖析。 1. 代数定义:数字层面的“对应相乘再求和” 在代 阅读全文
posted @ 2026-08-27 16:57 立体风 阅读(29) 评论(0) 推荐(0)
摘要: 把两个向量看成一个三角形的两条边,然后利用余弦定理计算第三条边的长度。 1. 先理解 $\vec a - \vec b $ 表示什么 假设: \[\vec a=(a_x,a_y) \]\[\vec b=(b_x,b_y) \]把两个向量都放在坐标原点: A / / a / O B b 其中: (O) 阅读全文
posted @ 2026-08-27 14:23 立体风 阅读(13) 评论(0) 推荐(0)
摘要: 核心概念:Word2Vec 词向量模型 Word2Vec 是自然语言处理(NLP)领域的一项核心技术,用于获取词语的向量表示。这些向量基于“分布语义学”原理,通过词语周围的上下文来捕捉其语义信息。模型训练完成后,可用于寻找语义相似的词语,其生成的词嵌入(Embeddings)还可作为搜索引擎、文本分 阅读全文
posted @ 2026-08-26 16:16 立体风 阅读(10) 评论(0) 推荐(0)
摘要: Word2vec 模型现在仍然存在,而且仍然可以使用。但是它在现代 NLP(自然语言处理)中的地位已经发生了变化: Word2vec 没有消失,它从“主流语言模型”退居为“基础词向量工具”。 现在它主要用于学习 Embedding、教学、一些传统 NLP 任务和资源受限场景。(维基百科) 1. Wo 阅读全文
posted @ 2026-08-26 16:15 立体风 阅读(15) 评论(0) 推荐(0)
上一页 1 2 3 4 5 6 7 8 9 ··· 80 下一页