机器学习中的数学（1）---微积分回顾

1.夹逼定理

2.导数

3.常用求导公式

4.Taylor公式（若x0=0，转化为Maclaurin公式）

 

5.用Taylor公式近似计算熵

f(x)忽略高阶无穷小，H(X)是熵的计算公式。

6.方向导数与梯度

梯度：最优化的工程实现上非常重要的算法--梯度下降法

7.凸函数

直观上讲，函数曲线两点连线都在曲线的上方。