2025年3月5日
14.2.2 层序softmax
摘要： 在层序softmax中，不是只有叶子节点才代表一个词元吗？那么为什么计算条件概率的时候要去看非叶子节点？非叶子节点代表什么？为什么非叶子节点有词向量？对此，deepseek的解释如下 在层序Softmax（Hierarchical Softmax）中，非叶子节点虽然不直接代表词元，但它们通过构建二叉 阅读全文
posted @ 2025-03-05 19:35 最爱丁珰 阅读(46) 评论(0) 推荐(0)