机器学习笔记(四)Logistic回归模型实现
摘要:一、Logistic回归实现 (一)特征值较少的情况 1. 实验数据 吴恩达《机器学习》第二课时作业提供数据1。判断一个学生能否被一个大学录取,给出的数据集为学生两门课的成绩和是否被录取,通过这些数据来预测一个学生能否被录取。 2. 分类结果评估 横纵轴(特征)为学生两门课成绩,可以在图中清晰地画出
阅读全文
机器学习笔记(三)Logistic回归模型
摘要:Logistic回归模型 1. 模型简介: 线性回归往往并不能很好地解决分类问题,所以我们引出Logistic回归算法,算法的输出值或者说预测值一直介于0和1,虽然算法的名字有“回归”二字,但实际上Logistic回归是一种分类算法(classification y = 0 or 1)。 Logis
阅读全文
机器学习笔记(二)线性回归模型实现
摘要:一、向量化 对于大量的求和运算,向量化思想往往能提高计算效率(利用线性代数运算库),无论我们在使用MATLAB、Java等任何高级语言来编写代码。 运算思想及代码对比 的同步更新过程向量化 向量化后的式子表示成为: 其中是一个向量,是一个实数,是一个向量,所以在这里是做一个向量的减法。在将计算向量化
阅读全文
机器学习笔记(一)线性回归模型
摘要:(一)引入—梯度下降算法 1. 线性假设: 2. 方差代价函数: 3. 梯度下降: 4. : learning rate (用来控制我们在梯度下降时迈出多大的步子,值较大,梯度下降就很迅速) 值过大易造成无法收敛到minimum(每一步迈更大) 值较小且适宜的情况下,步子越来越小直到收敛(导数项为零
阅读全文