数值计算复习

数值计算

一、误差和收敛

误差是描述数值计算之中近似值的近似程度
误差按来源可分为：模型误差、观测误差、截断误差、舍入误差

1.模型误差：数学模型通常是由实际问题抽象得到的，一般带有误差，这种误差称为模型误差。（这个误差一般来说是不可避免的）

2.观测误差：数学模型中的一些参数时通过观测和实验得到的，难免带有误差，这种误差称为观测误差。

3.截断误差: 这种模型的准确解和由数值方法求出的近似解之间的误差称为截断误差。因为截断误差是数值计算方法固有的，因此又称方法误差。

4.舍入误差：计算机只能对有限位数进行运算所以产生的误差

定义1.15：如果 $p^*$ 是 $p$ 的近似数，则绝对误差是 $|p - p^*|$ ，相对误差是 $\frac{|p - p^*|}{|p|}$，$p \neq 0$。

定义1.16：数 $p^*$ 称为逼近 $p$ 到 $t$ 位有效数字，如果 $t$ 是最大的非负整数使得 $\frac{|p - p^*|}{|p|}<5\times10^{-t}$。

线性误差：$E_n \approx CnE_0$

指数误差：$E_n\approx C^nE_0$

序列收敛速度：设 $\{\beta_n\}^{\infty}_{n = 1}$ 是一个收敛于0的已知序列，$\{\alpha_n\}^{\infty}_{n = 1}$ 收敛于数 $\alpha$。如果存在一个整数 $K$ 使得

$|\alpha_n - \alpha|\le K|\beta_n|$，对大的 $n$ 成立则称其收敛速度为 $O(\beta_n)$。记为 $\alpha_n = \alpha+ O(\beta_n)$。

函数收敛速度：$\lim_{k\to0}G(h) = 0$和$\lim_{k\to0}F(h) = L$，存在正整数 $K$，满足 $|F(h) - L|\le K|G(h)|$，对于足够小的 $h$ 成立。

二、函数零点

二分法

收敛速度 $|p_n - p| \le \dfrac{|b - a|}{2 ^ n}$

不动点迭代

定理：设 $g\in C[a,b]$ 且 $g(x)\in [a,b]$ 对 $[a,b]$ 内的一切 $x$ 成立。又假设 $g'$ 在 $(a,b)$ 内存在，且存在常数 $0<k<1$ 使对一切 $x\in (a,b)$ 有 $|g'(x) \le k|$，则对 $[a,b]$ 内任意点 $p_0$，由 $p_n = g(p_{n - 1}),n \ge 1$ 定义的序列收敛于 $[a,b]$ 内的唯一不动点 $p$。

误差界：

$|p_n - p|\le k^n \max\{p_0 - a,b - p_0\}$ 且 $|p_n - p|\le \dfrac{k^n}{1 - k}|p_1 - p_0|,n\ge1$

收敛速度：线性收敛

牛顿迭代法

\[f(p) = f(\bar{x}) + f(p - \bar{x})f'(\bar{x}) + \dfrac{(p - \bar{x})^2}{2}f''(\varepsilon(p)) =0 \\ p \approx \bar{x} - \dfrac{f(\bar{x})}{f'(\bar{x})} \]

$p_n = p_{n - 1} - \dfrac{f(p_{n - 1})}{f'(p_{n - 1})}$

$f$ 具有充分好的性质，若 $p\in(a,b),s.t. f(p) = 0,f'(p)\ne 0$ ，则 $\exists \delta>0$，使得初值 $p_0\in[p_0-\delta,p_0+\delta]$ 时，牛顿方法收敛。

收敛速度：至少二阶收敛

正割法

\[f'(p_{n - 1}) = \lim_{x \to p_{n- 1}}\dfrac{f(x) - f(p_{n - 1})}{x - p_{p_{n - 1}}} \\ f'(p_{n - 1}) \approx \dfrac{f(p_{n - 1}) - f(p_{n - 2})}{p_{n - 1} - p_{n - 2}} \]

$p_n = p_{n - 1} - \dfrac{f(p_{n - 1})(p_{n - 1} - p_{n - 2})}{f(p_{n - 1}) - f(p_{n - 2})}$

收敛速度：$\dfrac{1 + \sqrt5}{2}$

试位法：递推同割线法。但在其基础上，要求相邻两个估计值的区间中一定要包含零点。

AITKEN $\Delta^2$ 方法

向前差分：$\Delta p_n = p_{n + 1} - p_n,\Delta^kp_n = \Delta(\Delta^{k - 1}p_n)$

$p = p_n - \frac{(\Delta p_n)^2}{\Delta^2p_n}$

应用于不动点迭代加速到二次

定理：

Steffensen方法

Muller 法

三、多项式插值

拉格朗日插值

\[L_k(x) = \prod_{i = 0 \& i \neq k} ^ {n} \dfrac{x - x_i}{x_k - x_i} \\ P(x) = \sum_{k = 0}^n f(x_k) L_k(x) \]

误差：$\dfrac{f^{(n + 1)}(\xi)}{(n + 1)!}\prod_{i = 0} ^ n (x - x_i)$

注：其中线性插值为一次拉格朗日函数

Newton 插值

\[P_n(x) = f[x_0] + \sum_{k = 1}^n f[x_0 \dots x_{k}](x - x_0) \dots (x - x_k) \]

Newton插值还有前向公式与后向公式两种形式。
上述为前向公式。后向公式即为将 $x_0 \dots x_n$ reverse。
这两种形式实际上是等价的。但出于精度考虑，当要估计点更靠近 $x_0$，我们利用前向公式。而当要估计点更靠近 $x_n$ ，我们利用后向公式。

误差：$\dfrac{f^{(n)}(\xi)}{n!} \prod_{i = 0}^n (x - x_i)$

差商

$f[x_i] = f(x_i),f[x_i,x_{i + 1}] = \dfrac{f[x_i] - f[x_{i + 1}]}{x_i - x_{i + 1}},f[x_i,x_{i + 1},x_{i + 2}] = \dfrac{f[x_i,x_{i + 1}]-f[x_{i + 1},x_{i + 2}]}{x_i - x_{i + 2}}$，以此类推。
其中 $f[x_i,\dots, x_{i + k}]$ 称为 $k$ 阶差商。

Hermite 插值

\[H_{2 n + 1}(x) = \sum_{j = 0}^nf(x_j)H_{n,j}(x) + \sum_{j = 0}^n f'(x_j) \hat{H}_{n,j}(x) \\ H_{n,j}(x) = [1 - 2(x - x_j)L'_{j}(x_j)]L^2_j(x) \\ \hat{H}_{n,j}(x) = (x - x_j)L^2_j(x) \]

误差：$\dfrac{\prod_{i= 0}^n (x - x_i)^2}{(2 n + 2)!}f^{(2 n + 2)}(\xi)$

利用差商简化

将 $x_0\dots x_n$ 转化为 $z_0 \dots z_{2 n + 1}$，其中 $z_{2i} = z_{2i + 1} = x_i,f[z_{2i},z_{2i + 1}]s = f'(x_i)$。
有，$H(x) = f[z_0] + \sum_{k = 1}^{2n + 1}f[z_0,\dots,z_k](x - z_0)\dots(x - z_k)$

Hermite多项式最高是 $2n + 1$ 次的，且必定唯一。

三次样条插值

给定在 $[a,b]$ 上定义的函数 $f$ 和一组节点 $a = x_0\le x_1 \le \cdots \le x_n = b$，$f$ 的三次样条插值 $S$ 满足以下条件：

a.$S(x)$ 在子区间 $[x_j,x_{j + 1}]$ 上是三次多项式，记为 $S_j(x)$。

b.$S(x_j) = f(x_j)$

c.$S_{j + 1}(x_{j + 1}) = S_j(x_{j + 1})$

d.$S'_{j + 1}(x_{j + 1}) = S'_{j}(x_{j + 1})$

e.$S''_{j + 1}(x_{j + 1}) = S''_{j}(x_{j + 1})$

f.$S''(x_0) = S''(x_n) = 0 \text{自然样条}$ 或 $S'(x_0) = f'(x_0) \& S'(x_n) = f'(x_n) \text{固枝边界}$

自然样条插值唯一，区间左右端点可微时固枝边界插值唯一

分段插值

分段线性插值

用折线近似曲线相当于分段用线性插值,称为分段线性插值。每段使用拉格朗日线性插值，如下：

$\phi(x) = \dfrac{x - x_{i + 1}}{x_i - x_{i + 1}}y_i + \dfrac{x - x_i}{x_{i + 1} - x_i}y_{i + 1}$

误差估计：

定理：如果在二阶连续可微，则分段线性插值函数的余项有以下估计 $|R(x)| = |f(x) - \phi(x)|\le \dfrac{h^2}{8}M,h = \max_{0\le i\le n - 1}(x_{i + 1} - x_i), M = \max_{a\le x\le b}|f''(x)|$

分段二次插值

分段抛物线弧段近似,称为分段二次插值。
每段按照拉格朗日插值即可。

误差估计：$|R(x)|\le \max_{k}|f(x) - s_{2k}(x)| \le \frac{h^3}{6}\max_{a\le x\le b}|f'''(x)|$

分段三次插值

分段线性插值的不足之处是，节点处的导数不连续，那么为了让导数能够连续从而让插值曲线看上去更加平滑，需要用到三次Hermite插值（Hermite插值是带导数的插值，三次Hermite插值意味着最高阶次数为3，有4个待定系数）

误差估计：$R(x) = |f(x) - \phi(x)| \le \frac{h^4}{384}\max_{a\le x\le b}|f^{(4)}(x)|$

四、数值微分和积分

Taylor一阶导数计算格式和误差

两点公式：$f'(x_0) = \dfrac{f(x_0 + h) - f(x_0)}{h} - \frac{h}{2}f''(\xi)$，其中 $h > 0$ 为向前差分公式，$h < 0$ 为向后差分公式。

三点公式：

根据拉格朗日插值推到得来

向前差分：$f'(x_0) = \frac{1}{2h}(-3f(x_0) + 4f(x_0 + h) - f(x_0 + 2h)) + \frac{h^2}{3}f^{(3)}(\xi_0)$

向后差分：$f'(x_0) = \frac{1}{2h}(f(x_0 - 2h) - 4f(x_0 + h) + 3f(x_0)) + \frac{h^3}{3}f^{(3)}(\xi_0)$

中心差分：$f'(x_0) = \frac{1}{2h}(-f(x_0-h) + f(x_0 + h)) - \frac{h^2}{6}f^{(3)}(\xi_0)$

五点公式：

$f'(x_0) = \frac{1}{12h}(f(x_0 - 2h) - 8f(x_0 - h) + 8f(x_0 + h) - f(x_0 + 2h)) + \frac{h^4}{30}f^{(5)}(\xi)$

$f'(x_0) = \frac{1}{12h}(-25f(x_0) + 48f(x_0 + h) - 36f(x_0 + 2h) + 16f(x_0 + 3h) - 3f(x_0 + 4h)) + \frac{h^4}{5}f^{(5)}(\xi)$

$n + 1$ 点公式：$f'(x_j) = \sum_{k = 0}^nf(x_k)L'_k(x_j) + \dfrac{f^{(n + 1)(\xi(x_j))}}{(n + 1)!}\prod_{k = 0\&k \neq j}^n(x_j - x_k)$

Taylor二阶导数计算格式和误差

$f''(x_0) = \frac{1}{h}(f(x_0 - h) - 2f(x_0) + f(x_0 + h)) - \frac{h^2}{12}f^{(4)}(\xi)$

梯形法则

$\int_a^b f(x)dx = \frac{h}{2}[f(x_0) + f(x_1)] - \frac{h^3}{12}f''(\xi)$

精确度为 1

辛普森法则

$\int_a^b f(x)dx = \frac{h}{3}[f(x_0) + 4f(x_1) + f(x_2)] - \frac{h^5}{90}f^{(4)}(\xi)$

精确度为 3

N-C 公式

假设 $\sum_{i = 0}^na_i f(x_i)$ 表示具有 $x_0 = a,x_n = b$ 和 $h = \dfrac{(b - a)}{n}$ 的 $n + 1$ 个点闭区间 N-C 公式
$n$ 为偶数：

\[\int_a^b f(x) dx = \sum_{i = 0} ^ n a_i f(x_i) + \dfrac{h^{n + 3}f^{(n + 2)}(\xi)}{(n + 2)!}\int_0^n t^2(t - 1)\cdots (t- n) dt \]

$n$ 为奇数

\[\int_a^b f(x) dx = \sum_{i = 0} ^ n a_i f(x_i) + \dfrac{h^{n + 2}f^{(n + 1)}(\xi)}{(n + 1)!}\int_0^n t(t - 1)\cdots (t- n) dt \]

开区间对应公式

$n$ 为偶数：

\[\int_a^b f(x) dx = \sum_{i = 0} ^ n a_i f(x_i) + \dfrac{h^{n + 3}f^{(n + 2)}(\xi)}{(n + 2)!}\int_{-1}^{n + 1} t^2(t - 1)\cdots (t- n) dt \]

$n$ 为奇数

\[\int_a^b f(x) dx = \sum_{i = 0} ^ n a_i f(x_i) + \dfrac{h^{n + 2}f^{(n + 1)}(\xi)}{(n + 1)!}\int_{-1}^{n + 1} t(t - 1)\cdots (t- n) dt \]

复合梯形法则和 Simpson 法则

复合梯形

\[\int_a^bf(x)dx =\frac{h}{2}(f(a) + 2\sum_{i = 1}^{n - 1}f(a + ih) + f(b)) - \frac{h^2}{12}(b - a)f''(\xi) \]

复合 Simpson

\[\int_a^bf(x)dx =\frac{h}{3}(f(a) + 2\sum_{j = 1}^{n / 2 -1}f(x_{2j}) + 4\sum_{j=1}^{n/2}f(x_{2j +1}) + f(b)) - \frac{h^4}{180}(b - a)f^{(4)}(\xi) \]

五、常微分方程

初值问题基本理论

初值问题：$y'(t) = f(t,y).a \le t \le b,y(a) = a$ 对 $a \le t \le b$。

定理1：函数 $f(t,y)$ 称为关于集合 $D \subset R^2$ 上的变量 $y$ 满足 Lipschiz 条件，如果存在一个常数 $L > 0$ 使得 $ |f(t,y_1) - f(t,y_2)| \le L|y_1 - y_2|$ 对所有的 $(t,y_1),(t,y_2)\in D$ 都成立。常数 $L$ 称为 $f$ 的Lipschitz常数。

凸集：集合 $D\subset R^2$ 称为是凸的，如果只要当 $(t_1,y_1)$ 和 $(t_2,y_2)$ 属于 $D$ 且 $\lambda$ 在 $[0,1]$ 中时，就有点 $((1- \lambda)t_1 + \lambda t_2,(1 - \lambda)y_1 + \lambda y_2)$

定理2：假设 $f(t,y)$ 定义在凸集 $D\subset R^2$ 上。如果存在一个常数 $L > 0$ 使得 $|\dfrac{\partial f}{\partial y}f(t,y)| \le L$ 对一切 $(t,y) \in D$ 成立，则 $f$ 在 $D$ 上关于变量 $y$ 满足 Lipschitz 常数为 $L$ 的 Lipschitz 条件。

定理3：假设 $D = \{(t,y)|a\le t \le b,-\infty < y < \infty\}$，且 $f(t,y)$ 在 $D$ 上连续。如果 $f$ 在 $D$ 上关于变量 $y$ 满足 Lipschitz 条件，则初值问题有唯一解 $y(t)$。

well-posed problem ：初值问题被称为是一个适定的问题，如果：问题存在一个唯一的解 $y(t)$;对任何 $\varepsilon > 0$，存在一个正常数 $k(\varepsilon)$，使得只要当 $|\varepsilon_0| < \varepsilon$，$\delta(t)$ 是连续的且在 $[a,b]$ 上 $|\delta(t)| < \varepsilon$ 时，就有问题 $\frac{dz}{dt} = f(t,z) + \delta(t),a\le t \le b,z(a) = a + \varepsilon_0$ 存在唯一解 $z(t)$，且 $|z(t) - y(t)| \le k (\varepsilon) \varepsilon$ 对一切 $a\le t \le b$ 成立。

定理4：如果满足 $f$ 是连续的且变量 $y$ 满足 Lipschitz 条件，则初值问题是适定的。

Euler 法

令 $h = \frac{b - a}{N},t_i = a + ih$。
$y(t_{i + 1}) = y(t_i) + hf(t_i,y(t_i))$

局部截断误差：$O(h)$

高阶 taylor 方法

\[w_0 = \alpha \\ w_{i + 1} = w_i + hT^{(n)}(t_i,w_i)\\ T^{(n)}(t_i,w_i) = f(t_i,w_i) + \frac{h}{2}f'(t_i,w_i) + \cdots + \frac{h^{n - 1}}{n!}f^{(n - 1)}(t_i,w_i) \]

局部截断误差：$O(h^n)$

Runge-Kutta 方法

二阶

\[w_0 = \alpha\\ w_{i + 1} = w_i + hf(t_i + \frac{h}{2},w_i + \frac{h}{2}f(t_i,w_i)) \]

局部截断误差：$O(h^2)$

四阶

\[w_0 = \alpha\\ k_1 = hf(t_i,w_i)\\ k_2 = hf(t_i + \frac{h}{2},w_i + \frac{k_1}{2})\\ k_3 = hf(t_i + \frac{h}{2},w_i + \frac{k_2}{2})\\ k_4 = hf(t_{i + 1},w_i + k_3)\\ w_{i + 1} = w_i + \frac{1}{6}(k_1 + 2 k_2 + 2 k_3 + k_4)\\ \]

局部截断误差：$O(h^4)$

四阶显式 Adams-Bashforth 技术

\[w_0 = \alpha,w_1 = \alpha_1,w_2 = \alpha_2,w_3 = \alpha_3\\ w_{i + 1} = w_i + \frac{h}{24}[55f(t_i,w_i) - 59f(t_i,w_{i - 1}) + 37 f(t_i,w_{i - 2}) - 9f(t_i,w_{i - 3})] \]

四阶隐式 Adams-Bashforth 技术

\[w_0 = \alpha,w_1 = \alpha_1,w_2 = \alpha_2,w_3 = \alpha_3\\ w_{i + 1} = w_i + \frac{h}{720}[251f(t_{i + 1},w_{i + 1}) + 646f(t_i,w_i) - 264f(t_i,w_{i - 1}) + 106 f(t_i,w_{i - 2}) - 19f(t_i,w_{i - 3})] \]

六、线性方程组和矩阵

向量和矩阵范数

向量范数

$R^n$ 上的向量范数是一个从 $R^n$ 到 $R$ 的函数 $||\dot||$，它满足下列性质：

$||x|| \ge 0(x \in R^n)$；
$||x|| = 0$ 当且仅当 $x = 0$；
$||ax|| = |a|||x||(a\in R \& x\in R^n)$；
$||x + y|| \le ||x|| + ||y||$；

矩阵范数

所有 $n\times n$ 矩阵集合上的矩阵范数是定义在该集合上的一个实值函数 $||\dot||$，它对于所有 $n\times n$ 的矩阵 $A,B$ 及所有实数 $\alpha$ 满足：

$||A|| \ge 0$；
$||A|| = 0$ 当且仅当为全0矩阵；
$||\alpha A|| = |\alpha| ||A||$；
$||A + B|| \le ||A|| + ||B||$
$||AB|| \le ||A||~||B||$

如果 $||\dot||$ 是 $R^n$ 上的一个向量范数，那么 $||A|| = \max_{||x|| = 1}||Ax||$ 是一个矩阵范数。

谱半径，矩阵收敛，圆盘定理

谱半径：$\rho(A) = \max|\lambda|$

$||A||_2 = [\rho(A^tA)]^{1/2}$。

对于任意一个自然范数 $||\dot||$，有 $\rho(A) \le ||A||$。

矩阵收敛：$\lim_{k\to \infty}(A^k)_{i,j} = 0$

与矩阵收敛等价的命题：

对于某些自然范数有 $\lim_{n\to\infty}||A^n|| = 0$；
对于所欲自然范数有 $\lim_{n\to\infty}||A^n|| = 0$；
$\rho(A) < 1$；
对于每一个 $x$ 有 $\lim_{n\to \infty}A^nx = 0$

圆盘定理：$R_i = \{z\in \mathcal{C}| |z - a_{ii}|\le \sum_{j = 1 \& j != i}^n|a_{ij}|\}$，其中 $\mathcal{C}$ 表示复平面。$A$ 的特征值包含在 $R = \cup_{i = 1}^nR_i$ 中。更有，与其余 $n - k$ 个圆盘不相交的任意 $k$ 个圆盘的并集恰好包含 $k$ 个（计入重数）特征值。

LU分解

可以钦定 $L$ 的对角线为 $1$，然后每次解出 $L$ 的一列，$U$ 的一行。

Jacobi

将矩阵 $A$ 分解为 $A = D - L - U$，其中 $D$ 为 $A$ 中对角线元素构成的矩阵，$L$ 为 $A$ 的下三角部分（不包含对角线），$U$ 为 $A$ 的上三角部分（不包含对角线）。

\[Ax = b \Rightarrow (D - L - U) x = b \Rightarrow Dx = (L+U)x + b \Rightarrow x = D^{-1}(L + U)x + D^{-1}b \Rightarrow x^{(k)} = D^{-1}(L + U)x^{(k - 1)} + D^{-1}b \]

其中要保证 $a_{ii} \neq 0$。

Gauss-Seidel

\[Ax = b \Rightarrow (D - L - U) x = b \Rightarrow (D - L)x = Ux + b \Rightarrow x = (D - L)^{-1}Ux + (D - L)^{-1}b \Rightarrow x^{(k)} = (D - L)^{-1}Ux^{(k - 1)} + (D - L)^{-1}b \]

其中要保证 $a_{ii} \neq 0$。

SOR

幂法

$x^{(m)} = \dfrac{A^{m}x^{(0)}}{\prod_{k = 1}^my_{p_k}^{(k)}}$
$\lambda = y_{p_k}^{(k)} $

收敛速度：$O(|\dfrac{\lambda_2}{\lambda_1}|^m)$

反幂法

转化为求 $A^{-1}$ 的模最大特征值 $\frac{1}{\lambda_n}$,特征向量不变。
由于求逆过于复杂转化为求解 $Ax^{(k + 1)} = x^{(k)}$。
$\lambda = q + \dfrac{1}{y_{p_k}^{(k)}}$

对称幂法

$x^{(m)} = \dfrac{A^{m}x^{(0)}}{\prod_{k = 1}^m||y^{(k)}||}$
$\lambda = (x^{(m - 1)})^t y^{(m)}$

收敛速度：$O(|\frac{\lambda_2}{\lambda_1}|^{2m})$

QR分解

Householder

将 $A_{n\times m}$ 拆分成 $m$ 个列向量 $\alpha_i$。
构造向量 $z=(\alpha_{i,1},\cdots,\alpha_{i,i - 1},\alpha,0,\cdots,0)$，其中 $\alpha = ||\alpha_i||_2$。
令 $w = \alpha_i - z$，将 $w$ 单位化。
则有 $H_i = I - 2ww^t$。
因为 $H_i = H_i^{-1}$。
所以有 $A_i = H_i A_{i - 1}$。
上述操作会执行 $m$ 轮，最后 $Q_{n\times n} = H_1H_2\times H_m,R_{n\times m} = A_m$

Givens

Givens 变换实际上是对 Household 的一个分解，每次消除1列中两个不为0的元素，直到将第 $i$ 列中第 $i + 1$ 到 $n$ 个元素消为0。
对于 $a_{i,j}$ 和 $a_{i + 1,j}$，令 $c = \dfrac{a_{i,j}}{\sqrt{a_{i,j}^2 + a_{i + 1,j}^2}},s = \dfrac{a_{i + 1,j}}{\sqrt{a_{i,j}^2 + a_{i + 1,j}^2}}$
构造矩阵

\[H_i = \begin{bmatrix} 1 & \cdots & 0 & 0 &\cdots & 0 \\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots \\ 0 &\cdots &c & s & \cdots & 0\\ 0 &\cdots &s & -c & \cdots & 0\\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & 0 & 0 & 0 & 1 \end{bmatrix} \]

每轮有 $A_{i} = H_{i}A_{i - 1}$
最后有$Q = H_1H_2\dots H_k,R = A_k$

Gram-Schmidt

将 $A_{n\times m}$ 拆分成 $m$ 个列向量 $\alpha_i$。
进行施密特变换 $v_i = \alpha_i - \sum_{j = 1}^{i - 1} \dfrac{(v_j,\alpha_i)}{(v_j,v_j)} v_j$。
以及单位化 $v_i = \dfrac{v_i}{||v_i||_2}$。
令 $Q_{n\times m} = (v_1,v_2,\dots,v_m)$。
有 $Q^TQ = I$，所以有 $R_{m\times m} = Q^TA$。（其中 $R$ 为上三角矩阵）

七、逼近论

最小二乘法

$y = ax + b$
$a = \dfrac{n\sum_{i = 1}^n x_i y_i - \sum_{i = 1}^n x_i \sum_{i = 1}^n y_i}{n(\sum_{i = 1}^n x_i^2) - (\sum_{i = 1}^n x_i)^2} = \dfrac{\sum_{i = 1}^n(x_i y_i) -n\bar x\bar y}{\sum_{i = 1}^n x_i^2 - n\bar x^2}$
$b = \bar y - a \bar x$
高次函数最小二乘
正则方程组中未知数 $a_j$ 的法方程为：

\[\sum_{k = 0}^n a_k\sum_{i = 1}^m x_{j + k} = \sum_{i = 1}^my_ix_i^j \]

切比雪夫多项式

八、其他

病态问题（ill-conditioned problem）：问题的解关于条件非常敏感。条件（或数据）中即使存在极微妙的噪声，也会对问题的解造成剧烈的变化。
反之，关于条件不敏感的问题，我们称之为良态问题（well-conditioned problem）。

适定问题（ill-posed problem的定义来源于1903年哈达玛（Hadamard）的演讲：一个问题是适定的，当其满足以下3个条件：

解存在；
解是唯一的；
解连续依赖于输入（解随着初始条件的改变而连续改变）（The solution depends continuously on the input）。

只要不满足其中一个条件，那么该问题就是非适定的（ill-posed）。

posted @ 2023-06-24 09:48 wtz2333 阅读(170) 评论(1) 收藏举报

刷新页面返回顶部

wtz2333