交叉熵损失函数

1. Cross entropy

交叉熵损失函数用于二分类损失函数的计算,其公式为:

其中y为真值,y'为估计值.当真值y为1时,

函数图形:

可见此时y'越接近1损失函数的值越小,越接近0损失函数的值越大.

当真值y为0时,

函数图形:

可见此时y'越接近0损失函数的值越小,越接近1损失函数的值越大.

2. Binary_crossentropy

Binary_crossentropy为二分类的交叉熵损失函数,如果网络最后一层是二分类的输出,比如激活函数是Sigmoid,就采用Binary_crossentropy.

3. Categorical_crossentropy

Categorical_crossentropy为多分类的交叉熵损失函数,如果网络最后一层是多分类的输出,比如激活函数是Softmax,就采用Categorical_crossentropy.

posted @ 2019-07-28 17:26  MSTK  阅读(...)  评论(...编辑  收藏