摘要：CrossEntropy交叉熵基础 1、定义 度量两个分布的相似度 2、公式原理 3、应用 分类：onehot+crossentropy 为何在分类问题种使用ce而不是用mse， 1）mse对于分类问题的loss不准确 如 0.2，0.2，0.6 与0.0，0.4，0.6 y1的loss为0.24， 阅读全文

摘要：PYTORCH基本功-ResNet 一、结构 二、原理 为什么计算差值会比计算fx更容易优化 极端的例子是 真实的目标函数就是红线，训练集是上方的曲线，减去红线变为下方的 曲线。 1 训练可以减少资源 2 减法后的残差，量级减少，模型更可以专注 局部或者外轮廓的变化，会拟合得更好。 技巧：如果需要改 阅读全文