随笔分类 - 机器学习
摘要:主要内容: 回归 1.线性回归 2.Logistic回归 最优问题: 1.梯度下降 2.牛顿法 3.拟牛顿法 了解参数学习算法和非参数学习算法的区别 高斯分布(正态分布) 1. 2.线性回归 考虑2个变量 多变量的情形 3.最小二乘的目标函数 m为样本个数,则一个比较“符合常理”的误差函数为: 符合常理 n最小二乘建立的目标函数,即是在噪声为均值为0的高斯分布下,极大...
阅读全文
摘要:20.共轭函数 21.凸优化 优化问题的基本形式 告诉几个等式约束求最值 局部最优问题 22.非凸优化问题的变形 23.对偶问题 24.Lagrange对偶函数(dual function) Lagrange 对偶函数 若没有下确界,定义: 根据定义,显然有:对∀λ>0,∀v,若原优化问题有最优值p*,则 进一步:Lagrange对偶函数为凹...
阅读全文
摘要:2015-09-09 今天买的凸优化刚到。从今天开始学习一些基础的概念。不知道2年的时间能不能学会并且解决实际的问题。 线性函数需要严格满足等式,而凸函数仅仅需要在a和b取特定值得情况下满足不等式。因此线性规划问题也是凸优化问题,可以将凸优化看成是线性规划的扩展。 1.放射集 定义:过集合C内任意两点的直线均在集合C内,则称集合C为仿射集。 例子:直线、平面、超平面 2.仿射包 定...
阅读全文
摘要:问题来源与七月学习之 (3.x线性代数与矩阵运算基础)
阅读全文
摘要:http://ask.julyedu.com/article/32
阅读全文

浙公网安备 33010602011771号