随笔分类 -  机器学习

摘要：在数学中的最优化问题中，拉格朗日乘数法（以数学家约瑟夫·拉格朗日命名）是一种寻找多元函数在其变量受到一个或多个条件的约束时的极值的方法。这种方法可以将一个有n个变量与k个约束条件的最优化问题转换为一个解有n + k个变量的方程组的解的问题。这种方法中引入了一个或一组新的未知数，即拉格朗日乘数，又称拉 阅读全文

摘要：逻辑回归模型 虽然逻辑回归姓 回归，不过其实它的真实身份是二分类器。介绍完了姓，我们来介绍一下它的名字，逻辑斯蒂。这个名字来源于逻辑斯蒂分布： 逻辑斯蒂分布 设X是连续随机变量，X服从逻辑斯蒂分布是指X具有下列的分布函数和密度函数： 上式中，μ 表示位置参数，γ>0 为形状参数。 有没有发现F(x) 阅读全文

摘要：看了andrew ng 老师的机器学习教程，在关于反向传播算法进行讲解时，微分过程被省略掉了，只是说这个过程非常复杂。网上找了一些资料，有一篇比较详细的讲解，在http://axon.cs.byu.edu/resources/backprop_derived.pdf可以下载。这里也贴出来。微分过程中 阅读全文

摘要： 阅读全文