随笔分类 -  机器学习

摘要: 阅读全文
posted @ 2015-09-16 18:28 农民阿姨 阅读(305) 评论(0) 推荐(0)
摘要:主要内容: 回归 1.线性回归 2.Logistic回归 最优问题: 1.梯度下降 2.牛顿法 3.拟牛顿法 了解参数学习算法和非参数学习算法的区别 高斯分布(正态分布) 1. 2.线性回归 考虑2个变量 多变量的情形 3.最小二乘的目标函数 m为样本个数,则一个比较“符合常理”的误差函数为: 符合常理 n最小二乘建立的目标函数,即是在噪声为均值为0的高斯分布下,极大... 阅读全文
posted @ 2015-09-10 19:24 农民阿姨 阅读(198) 评论(0) 推荐(0)
摘要:20.共轭函数 21.凸优化 优化问题的基本形式 告诉几个等式约束求最值 局部最优问题 22.非凸优化问题的变形 23.对偶问题 24.Lagrange对偶函数(dual function) Lagrange 对偶函数 若没有下确界,定义: 根据定义,显然有:对∀λ>0,∀v,若原优化问题有最优值p*,则 进一步:Lagrange对偶函数为凹... 阅读全文
posted @ 2015-09-09 21:43 农民阿姨 阅读(447) 评论(0) 推荐(0)
摘要:2015-09-09 今天买的凸优化刚到。从今天开始学习一些基础的概念。不知道2年的时间能不能学会并且解决实际的问题。 线性函数需要严格满足等式,而凸函数仅仅需要在a和b取特定值得情况下满足不等式。因此线性规划问题也是凸优化问题,可以将凸优化看成是线性规划的扩展。 1.放射集 定义:过集合C内任意两点的直线均在集合C内,则称集合C为仿射集。 例子:直线、平面、超平面 2.仿射包 定... 阅读全文
posted @ 2015-09-09 18:50 农民阿姨 阅读(2213) 评论(2) 推荐(0)
摘要:问题来源与七月学习之 (3.x线性代数与矩阵运算基础) 阅读全文
posted @ 2015-09-06 09:21 农民阿姨 阅读(251) 评论(0) 推荐(0)
摘要:http://ask.julyedu.com/article/32 阅读全文
posted @ 2015-09-05 20:12 农民阿姨 阅读(239) 评论(0) 推荐(0)