摘要: 1.回顾 凸函数加上梯度,就是最优化中最经典的问题。想象一个碗,向碗里扔一个小球,就能找到全局最低点。 2.概率论基础 3.分组问题: 4.基础概率公式 5.先验概率&后验概率 6.分布 从Taylor公式到泊松分布(任何加和为1的公式都可以看做一种概率分布): 7.sigmoid函数 可视作一个概 阅读全文
posted @ 2016-07-18 22:32 韩国彪 阅读(301) 评论(0) 推荐(0)
摘要: 1.夹逼定理 2.导数 3.常用求导公式 4.Taylor公式(若x0=0,转化为Maclaurin公式) 5.用Taylor公式近似计算熵 f(x)忽略高阶无穷小,H(X)是熵的计算公式。 6.方向导数与梯度 梯度:最优化的工程实现上非常重要的算法--梯度下降法 7.凸函数 直观上讲,函数曲线两点 阅读全文
posted @ 2016-07-18 21:46 韩国彪 阅读(807) 评论(0) 推荐(0)