摘要：三、BP神经网络 1、神经网络模型 首先介绍三层神经网络，如下图 输入层（input layer）有三个units（为补上的bias，通常设为1） 表示第j层的第i个激励，也称为单元unit 为第j层到第j+1层映射的权重矩阵，就是每条边的权重 所以可以得到： 隐含层： 输出层： 其中，S型函数，也 阅读全文

摘要：二、逻辑回归 1、代价函数 可以将上式综合起来为： 其中： 为什么不用线性回归的代价函数表示呢？因为线性回归的代价函数可能是非凸的，对于分类问题，使用梯度下降很难得到最小值，上面的代价函数是凸函数的图像如下，即y=1时： 可以看出，当趋于1，y=1，与预测值一致，此时付出的代价cost趋于0，若趋于 阅读全文

摘要：最近在GitHub上学习了有关python实现常见机器学习算法 目录 一、线性回归 1、代价函数 2、梯度下降算法 3、均值归一化 4、最终运行结果 5、使用scikit-learn库中的线性模型实现 二、逻辑回归 1、代价函数 2、梯度 3、正则化 4、S型函数 5、映射为多项式 6、使用的优化方 阅读全文

摘要：根据以上两篇的分析，下面我们还要对数据进行处理，观察Age和Fare两个属性，乘客的数值变化幅度较大！根据逻辑回归和梯度下降的了解，如果属性值之间scale差距较大，将对收敛速度造成较大影响，甚至不收敛！因此，我们需要运用scikit-learn里面的preprocessing模块对Age和Fare 阅读全文