PyTorch交叉熵损失函数详解

注意点:
- torch.nn.CrossEntropyLoss中的ignore index 是作用在target上
- torch.nn.CrossEntropyLoss 最终交叉熵的值是平均值
- 统计平均值的时候,不会统计ignore index的
- 公式中的值是以自然数e为底
- 对于 C 类分类任务,交叉熵损失的初始值通常在 log(C) 附近 log(1w) = 9.2
e为底
知识是我们已知的
也是我们未知的
基于已有的知识之上
我们去发现未知的
由此,知识得到扩充
我们获得的知识越多
未知的知识就会更多
因而,知识扩充永无止境

浙公网安备 33010602011771号