随笔分类 -  Machine Learning Andrew Ng

摘要:1. Error analysis研究机器学习的东西或者构造机器学习应用程序,最好的实践方法不是建立一个非常复杂的系统拥有多么复杂的变量,而是构建一个简单的算法。这样你可以很快地实现它.通过画出学习曲线以及检验误差来找出算法是否有高偏差和高方差的问题或者别的问题。在这... 阅读全文
posted @ 2018-08-06 18:05 Siucaan 阅读(320) 评论(0) 推荐(0)
摘要:Evaluating a learning algorithm1. Design what to do next在预测房价的学习例子,假如你已经完成了正则化线性回归,也就是最小化代价函数J的值。假如在你得到你的学习参数以后把它应用到放到一组新的房屋样本上进行测试,发现... 阅读全文
posted @ 2018-08-06 15:00 Siucaan 阅读(177) 评论(0) 推荐(0)
摘要:Bias vs Variance1.Diagnosing bias vs variance有关偏差和方差的问题,也就是欠拟合与过拟合的问题。能够判断一个算法是偏差还是方差有问题对于如何改进学习算法的效果非常重要。下面看一个常见的欠拟合与过拟合的例子。 对训练集数据进... 阅读全文
posted @ 2018-08-06 15:00 Siucaan 阅读(280) 评论(0) 推荐(0)
摘要:1. Gradient Checking我们讨论了如何进行前向传播以及后向传播,从而计算导数。但有一个不幸的消息是,它们有很多细节会导致一些BUG。 如果你用梯度下降来计算,你会发现表面上它可以工作,实际上, J虽然每次迭代都在下降,但是可能表面上关于theta的函... 阅读全文
posted @ 2018-08-05 18:50 Siucaan 阅读(262) 评论(0) 推荐(0)
摘要:1. 回顾cost functioncost function for a neural network is: J(Θ)=−1m∑t=1m∑k=1K[yk(t) log⁡(h&#x039... 阅读全文
posted @ 2018-08-05 17:24 Siucaan 阅读(169) 评论(0) 推荐(0)
摘要:1. cost function 这个多类别分类的神经网络和二分类的输出个数不同,二分类只有一个输出,二多分类模型有多个输出。多分类模型的输出也用one-hot码表示。 变量的定义: L = total number of layers in the network ... 阅读全文
posted @ 2018-08-05 12:20 Siucaan 阅读(168) 评论(0) 推荐(0)
摘要:模拟人的神经元建立的感知机模型。1.用神经元表示逻辑回归 需要注意的是输入层有4个unit,实际输入为3个,x0表示偏置,设为1.2.神经网络 主要是要注意每一层的偏置单元在向量化的时候对矩阵尺寸的影响。 从图中我们很容易将表达式转为矩阵相乘的形式。我们在写表达式的... 阅读全文
posted @ 2018-08-04 00:06 Siucaan 阅读(248) 评论(0) 推荐(0)
摘要:Coursera Machine Learning-Andrew Ng 学习笔记 所有图片来自视频截图 部分表述也是原视频表述what is machine learning? “The field of study that gives computers the... 阅读全文
posted @ 2018-06-21 15:27 Siucaan 阅读(305) 评论(0) 推荐(0)