happygril3

摘要： （1）建树 1. 选择属性 ID3算法用的是信息增益，C4.5算法用信息增益率；CART算法使用基尼系数 2. 选择属性的最优分割点 ID3算法：使用信息增益作为分裂的规则，信息增益越大，则选取该分裂规则。多分叉树 缺点：归纳偏置问题： ID3算法会偏向于选择类别较多的属性 另外输入变量必须是分类变 阅读全文

摘要： 1. 左边蓝色的圆圈叫“输入层”，中间橙色的不管有多少层都叫“隐藏层”，右边绿色的是“输出层”。 2. 每个圆圈，都代表一个神经元，也叫节点(Node)。 3. 输出层可以有多个节点，多节点输出常常用于分类问题。 4. 理论证明，任何多层网络可以用三层网络近似地表示。 (2) 激活函数 1. Sig 阅读全文

摘要： 梯度下降法(Gradient Descent)： 1.假设有一堆按一定规律分布的样本点，用直线拟合， 2.先随意画一条直线，分别计算每个样本点和直线上对应点的距离(误差)，求出所有点的误差之和，然后不断旋转和平移，直到误差最小时为止 3.在旋转平移过程中，当误差越来越小时，旋转或移动的量也跟着逐渐变 阅读全文