摘要: 正则化是一种回归的形式,它将系数估计(coefficient estimate)朝零的方向进行约束、调整或缩小。也就是说,正则化可以在学习过程中降低模型复杂度和不稳定程度,从而避免过拟合的危险。 一、数学基础 1. 范数 范数是衡量某个向量空间(或矩阵)中的每个向量以长度或大小。范数的一般化定义:对 阅读全文
posted @ 2019-10-31 20:28 控球强迫症 阅读(1974) 评论(0) 推荐(0) 编辑
摘要: 一、范数的概念 向量范数是定义了向量的类似于长度的性质,满足正定,齐次,三角不等式的关系就称作范数。 一般分为L0、L1、L2与L_infinity范数。 二、范数正则化背景 1. 监督机器学习问题无非就是“minimizeyour error while regularizing your par 阅读全文
posted @ 2019-10-31 15:47 控球强迫症 阅读(4648) 评论(0) 推荐(0) 编辑