[机器学习]继续向前的第七天

      基础的线性回归和逻辑回归之后，下面就开始了进阶内容。

      先是提出机器学习中比较常见的一种导致错误结果的情况——过拟合。过拟合通常发生在特征数量较多而训练数量较少的情况，表现为：虽然能很好的符合训练集，甚至比正常情况还要好，但是对于未知的新的测试例子，并不一定能够比较好的进行预测，因为过拟合会使得决策边界过于苛刻。解决方法就是对多余的参数进行惩罚，使之在下降过程中逐步趋于0，来减少过多的特征对结果的影响。

      再然后就是更加复杂的情况。当遇到非线性问题的时候，传统的机器学习无法满足多分类的要求，因此研究者开始使用神经网络进行分类。神经网络通过将输入进行通常不止一次的计算，通过不断的向前传播来达到目标。