2018年5月20日

摘要： 一、Loss加入L2正则对参数的影响 根据在最优解处的泰勒展开，L2正则化会让某些参数缩小，但不会到0 二、为什么参数缩小可以减少过拟合 过拟合的函数在小区间里变化剧烈，这就需要有很大的导数，由于自变量的值可大可小，只有系数特别大才能保证导数很大 阅读全文

摘要： 一、L1正则会给参数带来什么影响 L1正则会产生稀疏解，可以根据在最优解处的二阶泰勒展开推导得到 二、对解决过拟合的影响 模型的偏差，是指经验风险，即拟合训练数据。模型的方差，是指结构风险，就是指参数是不是小 阅读全文

摘要： 一、曲线过滤器 二、过滤器作用于图像 对于过滤器识别的特征，将计算得到很大的值 不符合过滤器的特征，将得到很小的值 三、高层特征 对原图进行的第一次卷积，经过池化以后得到的特征图，是特征激活图。第二层的卷积，就是被激活特征的组合 阅读全文