摘要: Hierarchical Softmax是一种对输出层进行优化的策略,输出层从原始模型的利用softmax计算概率值改为了利用Huffman树计算概率值。一开始我们可以用以词表中的全部词作为叶子节点,词频作为节点的权,构建Huffman树,作为输出。从根节点出发,到达指定叶子节点的路径是的。Hier 阅读全文
posted @ 2019-02-18 21:42 wen_robert 阅读(283) 评论(0) 推荐(0) 编辑