朱磊的计算机技术博客

摘要： 原文地址：https://zhuanlan.zhihu.com/p/146543473 前言 大家好，我是潜心。由于在小组会上提到了“过拟合”现象，发现自己很难给它下一个标准且规范的定义。因此查了一些资料，并简单做了下实验，进行简单整理。 本文约，预计阅读15分钟。 过拟合与欠拟合 以一个简单的线性 阅读全文

摘要： 原文地址：https://www.jianshu.com/p/75518e6a5c64 熵的概念中有信息熵、信息增益、信息增益比、基尼指数，这些统统作为决策树分裂的依据，其中，我们需要知道信息熵与基尼指数的关系。 信息熵与基尼指数的关系 首先看二者的定义： 将 f(x) = −lnx 在 x = 1 阅读全文