摘要：swish激活函数 函数公式 函数图像 函数特点 对比mish激活函数 函数公式 函数图像 当β 取不同的值时，函数图像如下： Swish函数的求导过程为： 导数图像如下： 函数特点 1.Swish函数和其一阶导数都具有平滑特性；2.有下界，无上界，非单调。 对比mish激活函数 mish激活函数参 阅读全文

摘要：规范化技术一般用于解决模型的过拟合问题，本文将深入浅出的介绍几种常见的正则化技术。首先来看看什么是过拟合。 1、什么是过拟合 生活中我们常听到一些地域性偏见的话，如“河南人偷井盖”，“东北人都是黑社会”，“投资不过山海关”等等。但是每个省份这么多人，有好人有坏人，真的就一句话概括了吗？显然这犯了“以 阅读全文

摘要：前言 在监督式机器学习中，无论是回归问题还是分类问题，都少不了使用损失函数（Loss Function）。**损失函数（Loss Function）**是用来估量模型的预测值 f(x) 与真实值 y 的不一致程度。 若损失函数很小，表明机器学习模型与数据真实分布很接近，则模型性能良好；若损失函数很大 阅读全文