2/23每日总结
所花时间:3小时
代码量:无
博客量:本学期截至目前5篇
了解到的知识点:学习了工程数学。
在今天我上午上了工程数学,然后下午进行了体育考试,之后我继续学习Android stuido 和 四级因为在3/12会考四级。
- 牛顿法
牛顿法是一种利用 Taylor 展开式求解函数最小值的方法,它基于以下思想:如果我们在函数的某个点上能够找到这个函数的切线,那么这个切线与函数的交点可能比原点更接近最小值。
设 $f(x)$ 为待求函数,$x_0$ 为初始点,求解 $f(x)$ 的最小值,迭代过程如下:
-
计算 $f(x)$ 在 $x_0$ 点的一阶导数 $f’(x_0)$ 和二阶导数 $f’'(x_0)$。
-
则函数在 $x_0$ 点的 Taylor 展开式为:
$$f(x) \approx f(x_0) + f’(x_0)(x-x_0) + \frac{1}{2} f’'(x_0)(x-x_0)^2$$
- 将 $f’(x) = 0$ 代入上式,得到下一个极小点的近似值为:
$$x_1 = x_0 - \frac{f’(x_0)}{f’'(x_0)}$$
- 不断重复以上步骤,直到满足停止迭代的条件。
由于牛顿法需要计算二阶导数,因此其计算量较大,但收敛速度相对较快。
- 最速下降法
最速下降法是一种简单的迭代算法,其基本思想是:在当前点处按梯度方向找到一个步长 $\alpha$,更新当前点,使得函数值能够尽可能地减小。
设 $f(x)$ 为待求函数,$x_0$ 为初始点,求解 $f(x)$ 的最小值,迭代过程如下:
-
计算 $f(x)$ 在 $x_0$ 点的梯度向量 $\nabla f(x_0)$。
-
沿着负梯度方向找到一个步长 $\alpha$,更新当前点 $x_0$,计算下一个点 $x_1$:
$$x_1 = x_0 - \alpha \nabla f(x_0)$$
- 不断重复以上步骤,直到满足停止迭代的条件。
最速下降法的优点是计算量较小,但其收敛速度较慢,对于某些复杂函数而言,可能需要较多的迭代次数才能达到最小值。
综上所述,牛顿法和最速下降法是两种常用的求解函数最小值的迭代算法,各有优缺点,需要根据实际问题选择合适的方法。