交叉熵损失函数

二分类问题中，真实的样本标签为0,1，分别表示负类和正类，模型最后一般都会经过sigmoid函数，输出概率值，反映了预测为正类的可能性，概率越大，可能性越大；

 

 

 （这里最后一个公式丢了个负号，y为标签，y^为预测的概率）

 

多分类问题的拓展：

 

 其中：
-  ——类别的数量
-  ——符号函数（  或  ），如果样本  的真实类别等于  取  ，否则取 
-  ——观测样本  属于类别  的预测概率