杂项 | 机器学习拟合过程思考

线性回归的监督学习特征

根据对线性回归模型的掌握，机器学习就是对于向量化后的数据，先定义一个拟合函数形式与参数，然后定义误差函数，再确定误差函数最小化的方法，最后再根据最小化的情况来确定拟合形式的参数值

也就是监督学习的核心逻辑：用更专业的术语来说，这就是经验风险最小化（Empirical Risk Minimization, ERM） 框架：

给定数据集，寻找一个参数化的函数 使其在代价函数上的损失达到最小

非线性拟合问题

函数形式的选择

基于领域知识的先验假设（最可靠但依赖专业背景）
通过数据探索发现模式（最通用的实践方法）
将非线性问题转化为“伪线性”问题（最常用技巧）
直接使用非线性模型（当特征工程不足时）