2025年6月12日
交叉熵与交叉熵损失
摘要： 熵 熵的定义:无损编码事件信息的最小平均编码长度 对熵的直接计算与意义 这里直接给出一些结论.对于某一事件,其发生的概率越小,那么其信息量越大;发生的概率越大,那么其信息量越小(最小不小于0).因此，有信息量公式如下: \(h(x)=-\log_2 p(x)\) 熵的公式: \(H(X)=-\sum 阅读全文
posted @ 2025-06-12 08:52 Merlin·Lee 阅读(28) 评论(0) 推荐(0)