摘要: ##Word2Vec: word2vec的一个精髓是把语言模型的那一套softmax加速方法也给顺便优化了,用一个看似开脑洞的“负采样”方法来代替传统的层级softmax和NCE做法。而这个名字高大上的“负采样”到底是什么呢? ###负采样: 我们知道对于训练语言模型来说,softmax层非常难算, 阅读全文
posted @ 2021-04-13 10:35 zzflybird 阅读(1503) 评论(0) 推荐(0)