泛泛的函
I. Linear Spaces
称集合 \(\c X\) 是域 \(\c F\) 上的线性空间，如果：
- 集合 \(\c X\) 关于某种 加法 成 Abel 群。这意味着它有交换律、结合律和逆元。
- 标量 \(k\in\c F\) 与元素 \(x\in\c X\) 可以定义 标量乘法 \(kx\in\c X\)，且其满足结合律与分配律，单位元 \(1\in\c F\) 描述恒等作用 \(1x=x\)。
需要注意，\(\c X\) 本身不需要与 \(\c F\) 有任何关系，\(\c F\) 仅仅提供标量乘法的系数集合，而且可以是任何域（比如说模质数 \(p\) 的域）。但是在泛函分析中，一般只讨论 \(\R\) 和 \(\C\)，此时在限定 \(\c X\) 和 \(\c F\) 后一般加法和标量乘法的具体定义是显然的。
常见例子如：
- 单变量实系数多项式是 \(\c F=\R\) 上的线性空间。
- 多变量实系数多项式亦然。
- 复平面中某区域 \(G\) 上的全体复解析函数构成 \(\c F=\C\) 上的线性空间。
- 可数无穷个实分量的向量构成集合是 \(\c F=\R\) 上的线性空间。
- \(\c Q\) 是可测空间，\(\mu\) 是其上测度，则 \(L^p(\c Q,\mu)\) 是线性空间。
[!TIP]
特别地，此处并没有规定 \(\c F\)，这是因为 \(L^p\) 的定义本来就需要一个 只能 取 \(\R\) 或 \(\C\) 的 \(\c F\)，然后 \(L^p\) 就是全体 \(f:\c Q\to\c F\) 且满足
\[\int|f|^p\d\mu<\infty \]在商掉 a.e. 相等构成的等价关系后得到的等价类集合。于是线性空间自然就是关于这个 \(\c F\) 的线性空间。
为什么只能取 \(\R\) 或 \(\C\)？因为只有实变/复变函数的 Lebesgue 积分是良定义的；我们在意 \(L^p\) 正是为了其中元素的 Lebesgue 积分 \(\int f\d\mu\)（而不是 \(\int\|f\|\d\mu\)）。诚然可以换成别的积分（比如说 Bochner 积分），不过泛函分析主要还是在实数域和复数域上分析。
定义：某线性空间的两子集 \(\c S,\c T\) 的 Minkowski 和 \(\c S+\c T\) 是全体 \(s+t\) 构成的集合；负集 \(-\c S\) 是全体 \(-s\) 构成的集合。下文中提到集合加法默认是指 Minkowski 和。
定义：同一 \(\c F\) 上的两线性空间 \(\c U,\c V\) 的 直和 或 Cartasian 积 是全体有序 \((u,v)\) 对构成的新线性空间，记作 \(\c U\oplus\c V\)。
定义：线性子空间 是关于加法和标量乘法封闭的子集。
- 任意一族子空间的和/交集仍是子空间。
- 任意一族子空间如果关于集合包含关系构成全序集，则它们的并仍是子空间。
下文中提到「子空间」默认是线性子空间。
定义：集合 \(\c S\) 的线性张是包含 \(\c S\) 的 最小 线性子空间，由交的封闭性可知良定义；其由其中 有限 个元素的线性组合构成——易验证其是子空间且被一切包含 \(\c S\) 的子空间包含。
定义：\(x_1,x_2\in\c X\) 模 \(\c Y\) 等价，如果 \(x_1-x_2\in\c Y\)。由此可以定义商空间 \(\c X/\c Y\)。定义 余维 \(\codim(\c Y)=\dim(\c X/\c Y)\)；在 \(\dim(\c X)<\infty\) 时，有 \(\codim(\c Y)=\dim(\c X)-\dim(\c Y)\)。
定义：同一 \(\c F\) 上两线性空间 同构，如果存在保加法与标量乘法的双射；同态，如果只是映射，此时该映射称作 线性映射。
定理：线性映射在像与原像意义下均保子空间性。
定义：实线性空间 的凸子集是 \(\forall x,y\in\c Y,a\in(0,1):ax+(1-a)y\in\c Y\) 的子集 \(\c Y\)。
定理：子空间是凸集。凸集关于和、取负、交、全序并、线性映射的像与原像封闭。
定义：集合 \(\c S\) 的 凸包 是全体归一化非负系数线性组合构成的集合，也是包含 \(\c S\) 的最小凸集。
定义：凸集 \(\c Y\) 的 极子集 \(\c Z\) 是满足以下两条件的子集：
- 是非空凸集。
- 若 \(z\in\c Z\) 满足 \(z=\dfrac12(x+y)\) 其中 \(x,y\in\c Y\)，则 \(x,y\in\c Z\)。
Intuitive 地，它是 \(\c Y\) 在「某些约束取到等号」后得到的部分。标准术语中也称作 face。
只包含一个元素的极子集被称作 极值点。例如，闭圆盘边界上的所有点都是极值点；开圆盘没有极值点。
Takeaways：
-
只要求 相同数域 下两个线性空间的关系：
- 直和、同构、同态/线性映射。
-
一个母线性空间下某 子集 可以进行的操作：
- 取负集、求线性张、求凸包（仅限实数域场景）。
-
一个母线性空间下某 凸集（故默认是实线性空间）可以进行的操作：
-
定义极子集和极值点。
-
关于和、取负、交、全序并、线性映射的像与原像封闭。
-
-
一个母线性空间下两 子集 可以进行的操作：
- Minkowski 和。
-
一个母线性空间下某 子空间 可以进行的操作：
- 定义等价关系、与母空间作商。
- 关于和、取负、交、全序并、线性映射的像与原像封闭。
II. Linear Projections
同一个 \(\c F\) 上的两线性空间 \(\c U,\c V\) 间的线性映射也可以定义加法与标量乘法，且容易验证其同样构成一线性空间，记作 \(\c L(\c U,\c V)\)。
映射 \(\b M\) 作用于 \(x\) 上得到的 \(\b M(x)\) 今后将被简写为 \(\b Mx\)，因为它满足乘法的相关性质：结合律，与加法的分配律；还额外满足与标量乘法的交换律（但自身没有交换律！）
定义：线性双射称作 可逆 映射。
定义：零空间 \(\c N_\b M\) 是全体映到 \(0\) 的集合。原空间 \(\c U\) 在 \(\b M\) 映射下的像称作 值域 \(\c R_\b M\)。
定理：
- \(\c N_\b M\) 是 \(\c U\) 的子空间，\(\c R_\b M\) 是 \(\c V\) 的子空间。
- \(\b M\) 是可逆的，当且仅当 \(\c N_\b M=\cur0\) 且 \(\c R_\b M=\c V\)。
- \(\b M\) 是商空间 \(\c U/\c N_\b M\) 至 \(\c R_\b M\) 的同构（本质上是 第一同构定理）。
- 可逆映射的复合是可逆的，而且复合的逆等于逆反向复合。
- 复合映射 \(\b M\b N\)（\(\c W\gets\c V\gets\c U\)）具有可逆性的 必要 条件是 \(\c N_\b N=\cur{0}\) 且 \(\c R_\b M=\c W\)。Intuitive 地，第一级不能丢信息，最后一级必须覆盖所有输出，但中继级没有额外要求。
特别地，有限空间的场合，复合映射的可逆性可以推出各组件的可逆性；然而无限空间时，左右平移映射 的复合是恒等映射，但它们各自并非可逆。这是一个非常常见的反例。
考虑自同态 \(\b M:\c X\to\c X\)。则：
- 其幂次的零空间具有扩张性。也即，\(\c N_{\b M^j}\sube\c N_{\b M^{j+1}}\)。这个链被称作 核升链 (ascending chain of kernels)。
- 进一步，扩张幅度只会不断衰减。形式化地，\(\dim(\c N_{\b M^j}/\c N_{\b M^{j-1}})\geq\dim(\c N_{\b M^{j+1}}/\c N_{\b M^j})\)，因为 \(\b M\) 是后者到前者的单射。
- 因此若某一个幂次不再扩张，则之后也不再扩张。停止扩张的最小整数 \(k\) 被称作 \(\b M\) 的 升数。有限空间时升数必然有限（且不超过维数），但无限空间时可能为正无穷。
- 不管是否收敛，核升链总是可以求极限：不收敛时就是所有项的并集。
- 这样的极限服从 不变子空间（在 \(\b M\) 作用下映到自身的子空间 \(\c Y\)）的定义，称作 广义零空间。
不变子空间的性质：
- \(\b M\) 同时也是 \(\c X/\c Y\) 上的自同态。
- 进一步，\(\c X\) 上的自同态 \(\b M\) 可以由商空间 \(\c X/\c Y\) 和不变子空间 \(\c Y\) 上的自同态组合描述；如果二者均可逆，则 \(\b M\) 亦可逆。
- 这个关系的可逆性在有限空间场景成立；无限空间的一个经典反例还是移位算子：
- \(\c X\) 是 \(\Z\) 上的全体实数列。
- \(\b M\) 是右单位位移算子。显然它是可逆的，逆就是左单位位移。
- 全体负半轴为 \(0\) 的函数显然构成 \(\c X\) 关于 \(\b M\) 的不变子空间，然而 \(\b M\) 显然不在上面可逆。
一些不变子空间的构造方法：
- 对于某个元素 \(x\)，全体 \(p(\b M)x\)，其中 \(p(\b M)\) 是 \(\b M\) 的任意多项式。
- 对于可交换的自同态 \(\b M\) 和 \(\b N\)，则 \(\b N\) 的零空间是 \(\b M\) 的不变子空间：此时 \(\b M(\b Nx)=\b M0=0\)，因此 \(\b N(\b Mx)=0\)，换言之 \(\b Mx\in\c N_\b N\)。
定义：若线性映射 \(\b G\) 的值域维数有限，则称其是 退化 的。易知其：
- 关于加法封闭。
- 关于左乘/右乘任意不一定退化的映射封闭。
因此退化映射构成全体映射的理想。
定义：对于 \(\b M:\c U\to\c V,\b N:\c V\to\c U\)，若存在退化映射 \(\b G_\c U,\b G_\c V\) 满足
则称 \(\b M\) 和 \(\b N\) 互为 Fredholm 伪逆。
Fredholm 伪逆在退化映射扰动意义下保持：若 \(\b M,\b N\) 互为伪逆，则 \(\b M+\b G_{\c U\to\c V},\b N+\b G_{\c V\to\c U}\) 亦然。事实上，在商掉退化映射理想后，Fredholm 伪逆唯一。
定理：Fredholm 伪逆存在，当且仅当 \(\dim(\c N_\b M)<\infty\) 且 \(\codim(\c R_\b M)<\infty\)。这样的映射 \(\b M\) 被称作 Fredholm 算子。特别地，前者被称作 \(\b M\) 的 零化度，而后者是 \(\b M\) 的 亏度。
引理：对于退化的 \(\b G:\c X\to\c X\)，有 \(\dim(\c N_{\b I_\c X+\b G})<\infty,\codim(\c R_{\b I_\c X+\b G})<\infty\)。
引理证明：
- \(x+\b Gx=0\implies x\in\c R_\b G\)，因此 \(\c N_{\b I_\c X+\b G}\sube\c R_\b G\)。
- \(\b I_\c X+\b G\) 在 \(\c N_{\b G}\) 上是恒等映射，因此 \(\c R_{\b I_\c X+\b G}\supe\c N_\b G\)。
换言之，给单位阵（零空间只有零元，像空间为全集）加修正：
- 新零空间受限于修正的像空间。
- 修正的零空间无法影响新像空间。
于是得到上述条件对伪逆的必要性：能通过退化项修正，前提是本身不太奇异。
引理：子空间存在非唯一的补空间，使得所有母空间元素都存在唯一分解。
通过补空间分析可以显式构造出充分性。
进一步，通过这个证明可以发现：如果对 Fredholm 伪逆施加更强的限制，要求修正 \(\dim(\b G_\c U)\leq k_1\)，修正 \(\dim(\b G_\c V)\leq k_2\)，则相应充要条件变为 \(\dim(\c N_\b M)\leq k_1\) 且 \(\codim(\c R_\b M)\leq k_2\)。
定义：令 \(\b M\) 是 Fredholm 算子，则其 index 为
则 Fredholm 性质关于乘法封闭，且
称作 index 的 乘积公式。同时，index 关于退化修正不变，被称作 index 的 稳定性。
特别地，在有限维的场景，易由秩-零化度定理知 \(\ind(\b M)=\dim(\c U)-\dim(\c V)\)，此时其为常量，与 \(\b M\) 的选取无关。
Takeaways：
- 可逆映射的复合是可逆的；逆定理只在有限场合亦然，反例是单侧无限序列的平移。
- 核升链：增量的非增性；极限为广义零空间；停止增长的位置是升数。
- 不变子空间及其商空间，自同态在其上的分解。
- 退化映射：秩有限的映射。
- Fredholm 逆：在退化映射修正下的逆。定义域上的修正用以修复零空间过大，值域上的修正用以修复像空间过小。Fredholm 逆存在（是 Fredholm 算子）等价于零化度与亏度均有限。
- 指标为零化度与亏度的差，满足乘积公式和退化扰动意义下的稳定性。
III. The Hahn-Banach Theorem
定义：线性泛函 \(\ell\) 是域 \(\c F\) 上线性空间 \(\c X\) 到 \(\c F\) 的线性映射。
定理（Hahn-Banach）：令 \(\c X\) 是实线性空间，\(p\) 是其上满足以下条件的实值函数：
- 正齐次性：对于全体正系数 \(a>0\)，都满足齐次性 \(p(ax)=ap(x)\)。
- 次可加性：\(p(x+y)\leq p(x)+p(y)\)。
则令 \(\c Y\) 是 \(\c X\) 的子空间，\(\ell\) 是 \(\c Y\) 上受 \(p\) 控制（\(\ell(y)\leq p(y)\)）的线性泛函，则其总是可以延拓为 \(\c X\) 上受 \(p\) 控制的线性泛函。
其有一个非构造性的证明。
特别地，注意到测度的定义同样需要次可加性——虽然测度的次可加性是针对不交集合的。二者之间存在紧密联系，H-B 定理经常被拿来非构造地证明测度存在性。
定义：对于线性空间子集 \(\c S\) 和其中的 \(x_0\)，如果对于 \(\c X\) 中一切的 \(y\) 均存在可依赖于 \(y\) 的 \(\vare\) 使得
则称 \(x_0\) 是 \(\c S\) 的 代数内点。
[!TIP]
注意，代数内点的行为可能和常规理解不同：例如关于原点对称的一对抛物线 \(\cur{y\geq x^2}\cup\cur{y\leq-x^2}\cup\cur{y=0}\)，则原点确实是一个符合要求的代数内点。
与之相对的是 几何内点，它只在度量空间上有定义，此时要求包含 \(x_0\) 的某个开球完整属于 \(\c S\)。
因为到目前为止我们考虑的都是纯粹线性空间，还没有度量出现，所以下文中所有内点都是代数内点。
令 \(\c S\) 为有内点的凸集，不妨把内点平移至原点（这样的凸集称作 吸收凸集）。定义 \(p_\c S\) 为 \(\c S\) 关于原点的 Minkowski 泛函 或称 规范泛函 (Gauge Functional)，满足
则内点性保证了 gauge 处处有限。
易验证 gauge 是正齐次且次可加的。特别地，其次可加性直接来源于凸集的 Minkowski Sum 性质：若 \(x\in t_1\c S,y\in t_2\c S\)，则必有 \(x+y\in(t_1+t_2)\c S\)，因此 \(p(x+y)\leq p(x)+p(y)\)。另一方面，对吸收凸集 \(\c A\) 和 \(\c B\) 做 Minkowski 和，对应到 Minkowski 泛函意义下就是 inf-max 卷积 \(p_{\c A+\c B}(x)=\inf\limits_{y+z=x}\max(p_\c A(y),p_\c B(z))\)。
定理：对于任何吸收凸集 \(\c S\)，
- 对于 \(x\in\c S\) 则有 \(p_\c S(x)\leq1\)。反之不亦然（例如开集边界也满足条件）
- \(p_\c S(x)<1\) 当且仅当 \(x\) 是 \(\c S\) 的内点。
- 换言之，\(p(x)=1\) 构成区分 \(\c S\) 内外的重要分界线。
而其逆定理也成立：对于一切正齐次、次可加、有限实函数 \(p\)，
- \(\cur{x:p(x)<1}\) 构成包含 \(0\) 为内点的凸集。
- 进一步，\(\cur{x:p(x)\leq1}\) 也是凸集。
定义：对于不恒为 \(0\) 的线性泛函 \(\ell\)，对任何实数 \(c\)，线性空间中所有点属于且仅属于以下三者之一：
- \(\cur{x:\ell(x)<c}\)。
- \(\cur{x:\ell(x)=c}\)。
- \(\cur{x:\ell(x)>c}\)。
其中，中间的称作 超平面，而另外两个称作 开半平面。如果换成 \(\leq\) 或 \(\geq\) 则是 闭半平面。
定理（超平面分离）：令 \(\c S\) 是一个非空凸集，且所有点都是内点，则 \(\c S\) 以外的任何 \(y\) 都可以通过某个（可能依赖 \(x\)）的超平面与 \(\c K\) 严格分离。也即，存在 \(\ell\) 使得 \(\ell(y)=c\) 但全体 \(x\in\c S\) 都有 \(\ell(x)<c\)。
证明考虑定义在 \(ay\) 上的直线泛函 \(\ell(ay)=a\)；因为 \(y\) 不是内点，有 \(p_\c S(y)\geq1\)，于是其在直线上被 \(p_\c S\) 控制。
由 H-B 定理即可解析延拓到全空间，且在 \(\c S\) 上即有 \(\ell(x)\leq p_\c S(x)<1\)。
推论：当不再要求 \(\c S\) 中所有点都是内点，只要求包含至少一个内点（以把原点平移过去）时，则存在超平面进行非严格分离。
定理（广义超平面分离）：令 \(\c S,\c T\) 为两个非空不交凸集，且至少有一个有内点，则它们总是可以被超平面非严格分离。证明对二者的 Minkowski 差分析即可。
定理（扩展 H-B）：对于实线性空间 \(\c X\) 和其上一族两两可交换的线性映射 \(\c A=\cur{\b A_\mu}\)，令 \(p\) 是实值、次可加、正齐次函数，且在全体 \(\b A_\mu\) 作用下均不变：
令 \(\c Y\) 是 \(\c X\) 的子空间，\(\ell\) 是其上满足以下条件的线性泛函：
- 受控于 \(p\)。
- \(\c Y\) 是全体 \(\b A_\mu\) 的不变子空间。
- \(\ell\) 在全体 \(\b A_\mu\) 作用下不变：\(\ell(x)=\ell(\b A_\mu x)\)。
则 \(\ell\) 可以被延拓，使得其仍受控于 \(p\) 且满足不变性。
[!TIP]
这个定理是在说，H-B 定理在适当的不变性条件下，可以让延拓是保不变性的。
定理（复 H-B）：对于复数域上的线性空间 \(\c X\) 和其上的 实值函数 \(p(x)\)，且其满足以下两条件：
- 复齐次性：\(p(ax)=|a|p(x)\)。
- 次可加性：\(p(x+y)\leq p(x)+p(y)\)。
则在某复子空间 \(\c Y\) 上满足 \(|\ell(y)|\leq p(y)\) 的线性泛函可以被延拓至全空间。
Takeaways：
- 「代数内点」的定义， 保证自内点到所有方向的射线都有 noticeable 的部分完整含在集合内。
- H-B 定理对 \(p\) 的要求，正齐次性与次可加性，直接保证了水平集 \(\cur{x:p(x)\leq c}\) 的凸性，而且易知对于一切 \(c>0\)，对应的水平集都是吸收凸集：原点是其代数内点。
- 那么，只要给定水平集内部所有点的取值，则可自然由正齐次性对水平集缩放得到全空间中 \(p\) 的取值。换言之，\(p\) 由其水平集唯一确定。
- 进一步，如果其水平集是径向有界闭凸集，那么自原点向任何方向的射线与其边界交点均唯一，此时只需要水平集边界处的取值（因为是水平集，也可以说是只要给定边界形状，取值全为 \(c\)）即可唯一确定全空间中的 \(p\)。
- 不妨取 \(c=1\)，此时 \(p\) 就是 Minkowski 泛函。
- 另一方面，这样的泛函在有额外条件时也可以看做是一种度量；很多特殊空间中的度量都是通过 Minkowski 泛函定义的。
- 线性泛函 \(\ell\) 被 \(p\) 所限制，等价于对于一切 \(c>0\) 都有 \(\cur{\ell\leq c}\supe\cur{p\leq c}\)；因为二者都有正齐次性，只需要对一个特定的 \(c=1\) 讨论，于是就得到了超平面分离定理中考虑的 \(\cur{p\leq1}\) 水平集被 \(\cur{\ell\leq1}\) 闭半平面包含的场景。
- H-B 总体是在说，如果某投影子空间中的某凸集与某直线不交，则将凸集升维后，不论怎么升维，只要它仍然是凸的，就可以将直线也升维使得其仍然不交。
IV. Applications of the Hahn-Banach Theorem
对于 任意（与前文中要求是某母线性空间的子集不同）集合 \(\c S\)，令 \(\c B=\c B(\c S)\) 是 \(\c S\) 上所有有界实函数构成的集合。则 \(\c B\) 是实线性空间。
[!TIP]
显然这个界是与具体函数选择相关的。不可能存在全局界——那就不是线性空间了，除非它只包含全零函数。
事实上，如果读者乐意的话，完全可以在本节中总是以 \(\c S=[n],\c B=\R^n\) 为例子。
\(\c B\) 上可以定义自然的偏序：\(x\leq y\iff\forall s\in\c S:x(s)\leq y(s)\)。满足 \(x\geq0\) 的是 非负函数。
现在对 \(\c B\) 再取一个包含至少一个非负函数的线性子空间 \(\c Y\)，并令 \(\ell:\c Y\to\R\) 是其上线性泛函；则如果对于 \(\c Y\) 中所有非负函数 \(y\) 都有 \(\ell(y)\geq0\) 则其是 正线性泛函。
正线性泛函的核心功能是把非负函数 \(y\) 解释为两个偏序函数的差，进而自然推出在 \(\c Y\) 上的 单调性 或是 保序性：\(y_1\leq y_2\implies\ell(y_1)\leq\ell(y_2)\)。
定理：如果 \(\c Y\) 中包括至少一个有正下界（不妨设下界为 \(1\)）的函数 \(y_0\)，那么正线性泛函 \(\ell\) 可以被延拓为 \(\c B\) 上的正线性泛函。
假如要使用 H-B 定理，一个核心操作是找到 \(\ell\) 在 \(\c B\) 上（进而自然在 \(\c Y\) 上）的一个界，且这个界最好是使用「比较」操作来定义的，以符合水平集的凸性。
一个自然的选择是
\[p(x)=\inf_{x\leq y;y\in\c Y}\ell(y) \]则因为 \(\c Y\) 中存在有正下界的函数 \(y_0\)，且 \(x\) 是有界的，那么必然可以将 \(y_0\) 乘以一个充分大的系数来约束住 \(x\)，进而保证存在满足 \(x\leq y;y\in\c Y\) 的 \(y\)，这个 inf 是良定义的。
而这个 \(p\) 满足以下条件：
- 正齐次、次可加。
- 对于 \(x\leq0\) 有 \(p(x)\leq0\)。
- 对 \(x\in\c Y\) 有 \(p(x)=\ell(x)\)。
因此由 H-B 定理可以将 \(\ell\) 延拓，且对于 \(x\leq0\) 有 \(\ell(x)\leq p(x)\leq0\)，于是知延拓后的 \(\ell\) 亦是正线性泛函。
考虑 \(\c B\) 为有界无穷实数列构成的空间。定义
则易知其是正齐次、次可加的。
定义 \(\b A\) 为左平移算子，则易知 \(p\) 在 \(\b A\) 作用下是不变的。
令 \(\c Y\) 为所有收敛实数列构成的空间，则显然 \(\c Y\) 是 \(\c B\) 的子空间。定义 \(\ell(y)=\lim_{n\to\infty}y_n\)，则显然 \(\ell\) 是 \(\c Y\) 上的线性泛函，而且 \(\ell\) 和 \(\c Y\) 同样有平移不变性。
那么由扩展 H-B 定理，可知 \(\ell\) 能被延拓为 \(\c B\) 上满足以下条件的 Banach 极限 \(\LIM_{n\to\infty}\)，其满足以下所有条件：
- 线性性与正性（保序性）。
- 有限距离的平移不变性。
- 夹挤性：\(\liminf\leq\LIM\leq\limsup\)。
- 在收敛数列上与常规极限的等价性。
然而因为其存在性依赖于 H-B 定理进而依赖于 选择公理，这意味着它是一个很强的量，无法对任意有界数列写出显式计算其的公式。而且更糟糕的是，因为 H-B 延拓并不唯一，Banach 极限常常也如此！
特别地，易知能写成 \((x_1-x_2,x_2-x_3,\dots)\) 形式的数列的 Banach 极限必然为 \(0\)。这意味着有 \(\c N_{\LIM}\supe\c R_{\b I-\b A}\cup\cur{x:\lim x=0}\)。
一个似乎是经典的结论：
- 二维场景下，单位圆上的 Lebesgue 测度是旋转不变的，而且可以被扩充到更大的 \(\sigma\)-代数上并保证旋转不变性。
- 然而，如果承认选择公理，则在单位圆的 所有 子集上均 不存在 旋转不变且 可数 可加的测度。
但是，使用广义 H-B 定理可以证明，单位圆的 所有 子集上均 存在 旋转不变且 有限 可加的测度。
具体地，令 \(\c B\) 为单位圆上有界实函数集合，\(\c Y\) 为其上 Lebesgue 可测函数构成的空间，取 \(\ell\) 为其上 Lebesgue 积分。则因为 \(1\in\c Y\) 所以有良定义的 \(p(x)=\inf_{x\leq y;y\in\c Y}\ell(y)\)；然后因为圆周上旋转是交换群，且 \(\ell,\c B,\c Y\) 都关于其不变，那么 \(\ell\) 可以被延拓为 线性、旋转不变、受 \(p\) 控制 的 \(\c B\) 上泛函。取 \(m(\c S)=\ell(1_\c S)\) 即可。
特别地，上述证明不适用于三维场景，因为三维旋转不是交换群。事实上，三维球面上的上述定理是错误的，连可数可加的旋转不变测度都不存在。
Takeaways：
-
有界函数 构成的线性空间下，包含正下界函数 的子空间上的正线性泛函可以保正性地被延拓到全空间上，且延拓方式是基于 inf 函数的。
-
由广义 H-B 定理，该证明同样可以保变换不变性。
-
应用包括将极限延拓至任意有界序列的 Banach 极限，以及将圆周 Lebesgue 积分延拓至任意圆周有界函数的某种广义积分；但这个广义积分性质不好：
- 只有有限可加性，这意味着 DCT / MCT / Fatou Lemma 失效。
- 旋转不变性在高维失效。
所以价值有限。
-
由此可见，广义 H-B 定理很常见的用途就是用于扩展已有的分析概念——显然它们大部分都满足线性性。
V. Normed Linear Spaces
对于 \(\R\) 或 \(\C\) 上的线性空间，可以定义 范数 \(\|\cdot\|:\c X\to\R\)，满足以下条件：
- 正性：非零元的范数严格为正；零元的范数为零。
- 次可加性（三角不等式）：\(\|x+y\|\leq\|x\|+\|y\|\)。
- 齐次性：\(\|ax\|=|a|\|x\|\)。
为简略，下文中将用「赋范空间」来称呼带有范数的线性空间。
通过范数可以简单定义 \(d(x,y)=\|x-y\|\) 的一个度量。另一方面，具有平移不变性和齐次性的度量全部可以由范数定义。
定义：如果两个不同范数通过全局常数互相控制，那么它们是 等价 的。形式化地，存在常数 \(c\) 使得对于一切 \(x\) 均有
等价范数总是诱导相同的拓扑，并给出相同的 Cauchy 列判定与极限。特别地，有限维空间上的所有范数均等价。
现在考虑将构造新线性空间的方法扩展为构造新赋范空间的方法。
-
赋范空间的子空间上赋有同一个范数。
-
Cartasian 积空间下的范数可以由原始空间下的范数组合而成。
-
对于 闭子空间，可以在商空间 \(\c X/\c Y\) 下自然引入范数；商空间中的 商范数 是等价类中原范数的下确界。
其它条件都好证，关键是零元：如果 \(\inf_{x\in\c S}\|x_i\|=0\) 其中 \(\c S\) 是某个等价类，这意味着存在 \(\c S\) 中范数趋于 \(0\) 的点列 \(\cur{x_n}\)；定义 \(y_n=x_1-x_n\)，则有 \(y_n\in\c Y\)，同时
\[\lim_{n\to\infty}\|x_1-y_n\|=0 \]这意味着在度量意义下 \(\cur{y_n}\to x_1\)；然而 \(\c Y\) 是闭集，则 \(x_1\in\c Y\)，即有 \(\c S=\c Y\)，\(\c S\) 在商空间意义下是零元。
另一个结论是，\(\|\c S-\c T\|<d\) 的等价条件包括：- 存在 \(s\in\c S,t\in\c T\) 满足 \(\|s-t\|<d\)。
- 对于任何 \(s\in\c S\)，均存在 \(t\in\c T\) 满足 \(\|s-t\|<d\)。
但只适用于 \(<\) 的场景；换成等于号则不一定成立，因为商范数是通过下确界定义的，最小值不一定取得到。作为特例，\(=0\) 时是必然成立的——由 \(\c Y\) 的闭性保证；同时也是上面证明的结论。
-
由此可知，赋范空间中，子空间的闭包还是子空间。
定义：度量空间的 完备性 意味着所有 Cauchy 列（后缀最大距离可以任意小）都有极限。任意度量空间 \(\c S\) 都可以按照以下流程 完备化：
- \(\bar{\c S}\) 由 \(\c S\) 上所有 Cauchy 列的等价类 构成；其中：
- \(\bar{\c S}\) 上的度量是 \(\bar d(\cur{x_n},\cur{y_n})=\lim_{n\to\infty}d(x_n,y_n)\)。易由 \(d\) 的三角不等式证明 \(\bar d\) 的。
- 等价类由 \(\bar d=0\) 判定。
- \(\c S\) 中的元素 \(a\) 对应 \(\bar{\c S}\) 中的常数序列 \(\cur{a,a,\dots}\)。容易发现这构成一个 保距同构。
- 任意 \(\cur{x_n}\) 因为其 Cauchy 列的性质，总是可以对任意小的 \(\vare\) 找到 \(N\) 并使得其与 \(\cur{x_N,x_N,\dots}\) 是接近的。因此 \(\c S\) 在 \(\bar{\c S}\) 上稠密。
容易发现，这一套分析在 \(\c S\) 是赋范空间、度量由范数产生的场合同样适用，且完备化保线性性（可以定义 Cauchy 列的加法与数乘）。
定义：完备赋范空间被称作 Banach 空间。则有以下结论：
- 任意赋范空间可以被完备化。
- Banach 空间与闭子空间的商是完备的。
具体地，商空间的 Cauchy 列可以提取 邻项间距 以 \(2^{-n}\) 级别收敛的子列 \(\cur{\c S_n}\)，并取代表元列 \(\cur{x_n}\) 使得在原空间中邻项间距仍然以 \(2^{-n}\) 级别收敛，由原空间的完备性得到其极限存在，则原始 Cauchy 列的极限亦存在。
常见的赋范空间例子包括：
-
有界向量关于 \(\|\b x\|_\infty=\sup|x_n|\) 是 Banach 空间，记作 \(\ell^\infty\)。
-
\(p\geq1\) 阶矩 \(\sum|x_n|^p\) 有限的向量关于 \(\ell^p\) 范数是 Banach 空间，记作 \(\ell^p\)。
-
上述两种方案的全称是 \(\ell^p(\Omega)\)，其中 \(\Omega\) 是一个配备计数测度的离散空间，例如 \(\ell^p(\N)\) 或 \(\ell^p(\cur{1,\dots,n})\)。
-
任意集合上的有界复值函数关于上确界（无穷范数）是 Banach 空间。
-
拓扑空间上的连续有界复值函数关于上确界（无穷范数）是 Banach 空间。
-
对于 \(\R^n\) 上的区域 \(\c D\)，其上所有 紧支撑（支撑集：非零区域的闭包；紧支撑：指支撑集是紧的，也即有界闭的；因为支撑集本来就是闭的，所以只要非零区域有界即可）连续函数构成线性空间，其上可以对常数 \(p\in[1,\infty)\) 定义范数
\[\|f\|_p=\left(\int_\c D|f(x)|^p\d x\right)^{1/p} \]这个赋范空间不是完备的。其完备化结果记作 Lebesgue 空间 \(L^p(\c D)\)，与以下 Banach 空间构成等距同构：
- \(\c D\) 上所有满足 \(\|\cdot\|_p<\infty\) 的 Lebesgue 可测函数（不再要求连续），在 a.e. 相同关系下的等价类。
-
对于 \(\R^n\) 上的区域 \(\c D\)，其上所有 \(\c C^\infty\)（无穷光滑）函数中，对于常数 \(k\)，所有 \(k\) 阶偏导（共 \(\dbinom{n+k-1}k\) 种，均属于 \(\c C^\infty(\c D)\)，记作 \(\p^\alpha\)）的 \(L^p\) 范数均有限的函数构成一线性空间，其上定义 Sobolev 范数
\[\|f\|_{k,p}=\left(\sum_{|\alpha|\leq k}\int|\p^\alpha f|^p\d x\right)^{1/p} \]它仍然不是完备的。完备化结果记作 Sobolev 空间 \(W^{k,p}(\c D)\)，与以下 Banach 空间同构：
- \(L^p(\c D)\) 中所有存在直到 \(k\) 阶的 弱导数（能在一切光滑测试函数的分部积分中替代导数的函数）、且这些弱导数同样属于 \(L^p(\c D)\) 的函数。
有限维空间中很多证明依赖于 闭单位球 \(\c B_1=\cur{x:\|x\|\leq1}\) 的紧性。然而，无限维空间则不然。
引理：令 \(\c Y\) 是赋范空间 \(\c X\) 的闭真子空间。则 \(\c X\) 中存在长度为 \(1\) 且距全体 \(y\in\c Y\) 都超过 \(1/2\)（事实上，任意小于 \(1\) 的数）的向量 \(z\)。
则只需要不断选择一个与所有已有向量张成的子空间满足上述关系的 \(z\)，即可在 \(\c B_1\) 中造出一个两两间距均超过 \(1/2\) 的无限长序列。其不存在 Cauchy 子列的事实表明了 \(\c B_1\) 的非紧性。
定理：赋范线性空间的所有有限维子空间都是闭的。这是因为总是可以在有限维子空间上寻找基底并利用基底定义 \(\ell^p\) 范数，而它又与原生范数是等价的。
定义：如果除了通过非负系数缩放的 \(x,y\) 以外，总有三角不等式是严格的，则称该范数是 严格次可加 的。也常被称作 严格凸 的，因为它的单位球是严格凸集。
定义：如果对于一切 \(\vare>0\) 都存在 \(\delta>0\)，使得对于一切 \(\|x\|\leq1,\|y\|\leq1\) 且 \(\|x-y\|\geq\vare\) 均有
则该范数是 一致凸 的。显然一致凸性能推出严格凸性，而仅在有限维线性空间时，因为单位球的紧性可以得到反向论证。
\(\ell_1,\ell^\infty,L^1,L^\infty\) 一般都不是严格凸的，而 \(1<p<\infty\) 的 \(\ell^p,L^p\) 都是严格凸甚至一致凸的。
定理：严格凸空间中的闭凸子集如果存在到某点的最近点，那么它一定唯一——因为两个最近点的中点一定更近。
定理：满足「自反性」的空间中的闭凸子集必然存在到任意点的最近点，但不一定唯一。
定理：一致凸 Banach 空间满足自反性，进而其中闭凸子集存在唯一投影点。不过并不打算在此处过早引入自反性，考虑一个不依赖其的证明：
通过平移让目标变为求闭凸子集 \(\c K\) 到原点的最近点。如果 \(0\in\c K\) 则显然，因此只考虑 \(0\notin\c K\) 的场合，此时 \(\c K\) 中所有点范数均严格正。
考虑逼近下确界 \(s\) 的 \(y_n\in\c Y\) 序列，定义 \(x_n=y_n/\|y_n\|\) 为对应单位向量，则有
\[\dfrac{x_n+x_m}2=\left(\dfrac1{2\|y_n\|}+\dfrac1{2\|y_m\|}\right)(c_ny_n+c_my_m) \]其中 \(c_n,c_m\) 是满足 \(c_n+c_m=1\) 的正常数，由凸性知 \(c_ny_n+c_my_m\in\c K\)，故 \(\|c_ny_n+c_my_m\|\geq s\)，则有
\[\left\|\dfrac{x_n+x_m}2\right\|\geq\dfrac{s}{2\|y_n\|}+\dfrac{s}{2\|y_m\|} \]而因为 \(\|y_n\|\to s\)，右式 \(\to 1\)；由一致凸性可知 \(\cur{x_n}\) 必须是 Cauchy 列，则 \(\cur{y_n}\) 亦然，由完备性以及 \(\c K\) 的闭性得到 \(\cur{y_n}\) 的极限也属于 \(\c K\)，下确界可以取到且唯一。
定义：等距 (isometry) 是保度量的映射。因为度量/范数都满足 \(d(x,y)=0\iff x=y\)，所以等距必然是单射，但不一定是满射（双射），后者被称作 等距同构。
定理：严格凸实线性空间之间保零元的等距是线性变换。
严格凸保证对于一切 \(x,y\)，其中点 \(z=(x+y)/2\) 是唯一满足
\[\|x-z\|=\|y-z\|=\|x-y\|/2 \]的点。也即，度量中点 和 代数中点 完全相同。
度量性质总是被等距同构保持，因此通过其为桥梁，得到该等距保代数中点。
保代数中点结合保零元即得 \(2\)-齐次性，进而推出 实齐次性。因此该推导只适用于实线性空间。复线性空间容易找到共轭变换作为反例。
有些 Banach 空间有很多自等距，而另一些则几乎没有。后者的例子如极大值范数：记 \(\c X\) 为所有收敛至 \(0\) 的复序列构成的空间，其范数是最大值
（因为收敛所以最大值存在）。显然它是完备的，此时 Cauchy 列的极限等于逐项极限。
考虑两种特殊的变换：
- 逐项旋转（换言之，与某个单位复数序列做 Hadamard 积）。显然它是等距自同构。
- 下标重排。显然它是等距自同构，因为收敛序列的收敛结果与最大值是 permute invariant 的。
定理：上述零极限复序列关于最大值范数构成的赋范空间，其上所有线性等距自同构都可以被解释为上述两种变换的复合。
令 \(\cur{u}_j\) 是只在第 \(j\) 项上模长为 \(1\)、其它项全零的序列。令 \(\c T_j\) 为只有第 \(j\) 项为零的子空间，则易知 \(\c T_j\) 是闭的，且 \(\codim\c T_j=1\)，而且对其中满足 \(\|\cur{t}\|\leq1\) 的 \(\cur{t}\in\c T_j\)，有 \(\|\cur{u}_j+\cur{t}\|=1\)。
另一方面，如果 \(\c S\) 满足闭性、余秩为 \(1\)，\(\cur{v}\) 满足 \(\|\cur{v}\|=1\) 且对于一切满足 \(\|\cur s\|\leq1\) 的 \(\cur s\in\c S\) 都有 \(\|\cur s+\cur v\|=1\)，则必然存在\(j\) 使得其服从上述结构。
由此发现，\((\cur u_j,\c T_j)\) 的关系关于等距自同构不变，那么任意等距自同构必须把任意 \(\cur{u}\) 映到另一个 \(\cur{u}\)，也即只能做逐项旋转与下标重排。
Mazur-Ulam 定理：实线性空间之间保零元的 等距同构 是线性变换。（不再要求严格凸性！）
取 \(x,y\) 及其代数中点 \(z\)。因为没有一致凸性，其度量中点非唯一，记作集合 \(\c A_0\)。
易知：\(\c A_0\) 关于 \(z\) 对称，因为 \(v=2z-u\) 满足 \(x-v=u-y\) 以及 \(y-v=u-x\)。
定义 \(d_{\c A_0}\) 为 \(\c A_0\) 的直径，也即两点距离的上界；则由对称性，对于全体 \(u\in\c A_0\) 都有 \(\|u-z\|\leq\dfrac12d_{\c A_0}\)——也即，\(z\) 是 \(\c A_0\) 的度量中心。
而同样地，度量中心不一定唯一，它们构成关于 \(z\) 对称集合 \(\c A_1\)；易知必有 \(\c A_1\sube\c A_0\) 且对于一切 \(u,v\in\c A_1\) 均有 \(\|u-v\|\leq\dfrac12d_{\c A_0}\)，
于是不断重复取度量中心过程，可得直径不断至少减半的嵌套集合，则它们的交集（也即极限）由度量性质只包含代数中点 \(z\)。
上述所有描述都是基于度量的，因此被等距保持。然而，要想取度量作为桥梁，与前文一致凸场合不同，需要有一个前推再拉回的过程，这意味着等距需要是 双射。有了这个，结合保零元即可得到 \(2\)-齐次性与实齐次性。
Takeaways：
- 范数：正、次可加与齐次性。可以简单诱导度量。
- 关于闭子空间的商空间的范数可定义为等价类的下确界。这样的范数在满足 \(<d\) 或 \(=0\) 时，总是可以找到代表元满足相同关系。
- 完备性：Cauchy 列总有极限。
- Banach 空间：完备赋范空间。
- Banach 性关于闭子空间的商空间传递。
- 严格次可加：三角不等式在正向射线以外严格，也即严格凸性。可以保证凸集投影点若存在则唯一。
- 一致凸：存在全局一致的界。
- 一致凸 Banach 空间保证投影点存在且唯一。
- 实 赋范空间上保零的等距，在空间有一致凸性或是同构的场合，必然是线性映射。
VI. Hilbert Space
对于实线性空间，若实值函数 \(\ip{\cdot,\cdot}\) 满足以下条件：
- 双线性性。
- 对称性。
- 正定性：对于 \(x\neq0\) 有 \(\ip{x,x}>0\)。
则它是内积，对应空间是内积空间。
对于复线性空间，若复函数 \(\ip{\cdot,\cdot}\) 满足以下条件：
-
半线性性：关于第一项线性，关于第二项 斜线性
\[\ip{ax,y}=a\ip{x,y},\ip{x,ay}=\bar a\ip{x,y} \] -
共轭对称性：
\[\ip{x,y}=\overline{\ip{y,x}} \] -
正定性：对于 \(x\neq0\) 有 \(\ip{x,x}>0\)。
则它是内积，同样称作内积空间。
内积总是可以通过 \(\|x\|=\ip{x,x}^{1/2}\) 诱导范数；其次可加性来自 Cauchy-Schwartz 不等式
证明是经典的（对 \(x+ty\) 分析）。而且其取等当且仅当 \(x,y\) 互为常数倍。
推论：对于任意向量 \(x\) 均有
定理（Jordan-von Neumann）：满足平行四边形恒等式
的范数可以反过来诱导内积，也即 极化恒等式（实数版本）
复数版本的极化恒等式更复杂，但同样存在。
定理：若 \(x_n\to x,y_n\to y\)，则 \(\ip{x_n,y_n}\to\ip{x,y}\)。换言之，内积可以与极限换序。
定义：内积诱导范数是完备的内积空间（或者反过来说，满足平行四边形恒等式的 Banach 空间）称作 Hilbert 空间。
内积空间的几个例子：
-
\([0,1]\) 上连续函数空间关于积分内积
\[\ip{x,y}=\int_0^1x(t)\ovl{y(t)}\d t \]是不完备内积空间。
-
\(\ell^2\) 关于内积
\[\ip{\b x,\b y}=\sum x_i\bar y_i \]是 Hilbert 空间。
-
\(L^2\) 同样是 Hilbert 空间。
Hilbert 空间总是一致凸的，由平行四边形恒等式保证。由此可知闭凸子集的投影存在与唯一性。
定义：内积为零的元素称为 正交。这一关系还能扩展到元素和子空间（此时是相对子空间中所有元素）、子空间与子空间（二者中所有元素对）。
定义：所有与某子空间 \(\c Y\) 正交的元素构成的集合称作 \(\c Y\) 的 正交补，记作 \(\c Y^\bot\)。正交补亦是子空间，由内积线性性可知。进一步，正交补必然是闭的，因为正交补是全体 \(y\in\c Y\) 的 \(\ip{\cdot,y}\) 的零空间的交，而内积作为连续函数，其零空间必然是闭的，而闭集的交仍然是闭的。
定理：对于 Hilbert 空间的闭子空间 \(\c Y\)，
- \(\c Y\) 与 \(\c Y^\bot\) 互补，也即任意 \(\c X\) 中元素都可以唯一分解为二者元素的和。
- \((\c Y^\bot)^\bot=\c Y\)。
互补性由投影点的唯一性保证，并自然推出第二条。事实上，只要想到 \((\c Y^\bot)^\bot\) 仍然是闭的，就会发现其必然只在 \(\c Y\) 是闭子空间时才成立。
Hilbert 空间 \(\c H\) 中的所有向量 \(y\) 都可以通过 \(\ip{\cdot,y}\) 诱导线性泛函。反之，被范数的常数倍约束的线性泛函（称作 有界线性泛函——与通常意义上的有界不同；只有零函数是满足常规有界的线性泛函）总是可以被唯一写作内积形式，也即 Riesz-Fréchet 表示定理。
引理：不恒等于 \(0\) 的线性泛函的零空间是余秩为 \(1\) 的子空间——因为其像空间是一维的。
引理：零空间相同的线性泛函互为常数倍。
引理：Banach 空间上有界线性泛函的零空间是闭子空间。
则考虑 \(\ell\) 的零空间是 \(\c Y\)，\(\dim(\c Y^\bot)=1\)，于是取其中任意非零向量 \(p\) 并定义 \(m(x)=\ip{x,p}\)，则 \(m(x)\) 与 \(\ell(x)\) 共享零空间进而互为常数倍，存在 \(c\) 满足
\[\ell(x)=cm(x)=\ip{x,\bar cp} \]
Lax-Milgram 引理：对于 Hilbert 空间上满足以下条件的函数 \(B(x,y)\)：
- 关于 \(x\) 的线性性与关于 \(y\) 的斜线性性。
- 有界性：存在 \(c>0\) 满足 \(|B(x,y)|\leq c\|x\|\|y\|\)。
- 二次下界/strong coercivity：存在 \(b>0\) 满足 \(|B(x,x)|\geq b\|x\|^2\)。
则对于所有有界线性泛函 \(\ell\) 均存在唯一 \(y\in\c H\) 满足对于一切 \(x\) 均有 \(\ell(x)=B(x,y)\)。Riesz 表示定理可以看做 \(B\) 是内积时的特例。
对于固定的 \(y\)，\(B(\cdot,y)\) 是有界线性泛函，因此存在 \(z\) 使得 \(B(x,y)=\ip{x,z}\)，且 \(z\) 可由 \(y\) 唯一确定，是 \(y\) 的线性函数。这个新线性函数的像是闭子空间：首先有 \(|B(y,y)|=\ip{y,z}\)，由二次下界与 Cauchy-Schwarz 不等式可知 \(b\|y\|\leq\|z\|\)，于是右侧 Cauchy 列也是左侧 Cauchy 列，并由 Hilbert 空间的完备性知其收敛。
事实上，这个闭子空间即为全空间：否则则存在与全体 \(z\) 正交的非零向量 \(x\)，此时对于全体 \(y\) 均有 \(B(x,y)=\ip{x,z}=0\)，与 \(x\) 的非零性矛盾。于是对于任何 \(z\)，都可以找到唯一的 \(y\) 满足 \(B(\cdot,y)=\ip{\cdot,z}\)。
于是对于一切线性泛函 \(\ell(\cdot)\)，其都可以先转成内积 \(\ip{\cdot,z}\) 的形式，并进一步倒推出 \(B(\cdot,y)\) 的形式。
定义：集合的 闭线性张 是包含其的最小闭线性子空间。易知其是线性张的闭包、所有包含其的闭线性子空间的交。
定理：Hilbert 空间中的 \(x\) 属于子集 \(\c Y\) 的闭线性张，当且仅当与全体 \(\c Y\) 中元素正交的向量 \(y\) 亦与 \(x\) 正交。
事实上，与全体 \(\cur{x_i}\) 正交的向量总是属于其闭线性张的正交补，因为与集合正交的向量总是与其线性组合正交，并进一步与其极限正交。
[!TIP]
这进一步表明：
- 线性张是一个代数概念，它只允许 有限 线性组合。
- 闭线性张是一个代数+分析的概念，它允许任意 收敛无限求和 意义下的线性组合。
虽然任意子空间都有正交补，但只有闭子空间及其正交补（同样也有闭性）才能支持唯一的正交分解——因为只有闭子空间才能保证唯一投影。
之前证明过一致凸实线性空间上保零元的保距是线性的。在实 Hilbert 空间的场合，除了利用 Hilbert 空间的一致凸性以外，还可以得到另一个证明：
易知：保距、保零元在实空间时可以推出保内积。而线性性是一个可以用内积刻画的性质：在内积非退化时，\(z=x+y\) 等价于对全体 \(u\) 都有 \(\ip{z-x-y,u}=0\)，而这个关系关于保距映射不变。
定义：若内积空间中一族元素满足：
- 下标不等则正交。
- 所有元素都有单位模长。
则称为 单位正交集。如果其闭线性张是全空间，则称为 单位正交基。
定理：Hilbert 空间上单位正交集 \(\cur{x_i}\) 的闭线性张由模长平方可求和的系数 \(\cur{a_i}\) 的线性组合构成。因此若有 \(x=\sum a_ix_i\)，则有
定理：所有 Hilbert 空间都有单位正交基。
由 Zorn 引理，存在极大单位正交集，用反证法证明其闭张成全空间。
假设 \(y\) 不属于闭线性张，则有 Bessel 不等式
\[a_i:=\ip{y,x_i} \\\sum|a_i|^2\leq\|y\|^2 \]成立，因为显然其在任何有限下标集上成立。
用这组投影系数可以定义闭线性张中的元素 \(x\)，则易知 \(y-x\) 与全体 \(x_i\) 正交，归一化后即可作为加入单位正交集的新元素，违反了其极大性。
对于 可分（存在可数稠密点集）的 Hilbert 空间，易知正交集的可数性，于是不需 Zorn 引理等超越论证。
推论：无限维可分 Hilbert 空间同构于 \(\ell^2(\N)\)。
定理：Hilbert 空间上保零等距自同构是且仅是单位正交基的映射；也即，对于两组单位正交基 \(\cur{x_i},\cur{y_i}\)，映射是 \(\sum a_ix_i\to\sum a_iy_i\)。
Takeaways：
- 内积总是能诱导范数；范数在满足平行四边形恒等式时，可以由极化恒等式反过来诱导内积。
- Hilbert 空间是诱导完备范数的内积空间，或者满足平行四边形恒等式的 Banach 空间。Hilbert 空间满足一致凸性。
- 内积空间中可以定义正交关系与正交补；正交补必然是闭集；只有闭子空间才能定义正交分解。
- 与某集合正交的向量属于其闭线性张的正交补。
- Riesz 表示定理：有界线性泛函可以写成内积式。
- Lax-Milgram 引理：有界线性泛函可以通过内积中介写成关于第一维线性、第二维斜线性、有界且有二次下界的 \(B\) 式。
- 闭线性张：以收敛级数为系数的线性组合，与线性张的有限线性组合不同。
VII. Applications of Hilbert Space Results
Radon-Nicodym 定理：同一个 \(\sigma\)-代数上关于 \(\mu\) 绝对连续的测度 \(\nu\) 必然可以写成
其中 \(g\) 是 \(\mu\)-可积的非负函数。
令 \(\c H\) 为实 Hilbert 空间 \(L^2(\mu+\nu)\)。不妨假设全空间的 \(\mu\) 和 \(\nu\) 测度是有限的，则此时平方可积函数必然是绝对可积的。
考虑线性泛函 \(\ell(x)=\int x\d\mu\)，它关于 \(L^2(\mu)\) 范数和 \(L^2(\mu+\nu)\) 范数都是有界的。于是由 Riesz 表示定理，存在 \(y\in L^2(\mu+\nu)\) 满足
\[\ell(x)=\int x\d\mu=\int xy\d(\mu+\nu) \]于是
\[\int x(1-y)\d\mu=\int xy\d\nu \]断言：该 \(y\) 满足 \(\mu\)-a.e. \(0<y\leq1\)，通过选择合适的 \(x\) 可判明。于是取 \(g=\dfrac{1-y}y\) 即可。
VIII. Duals of Normed Linear Spaces
考虑赋范空间上的 连续线性泛函，也即满足
的线性泛函。
定义：\(\c X\) 上所有连续线性泛函的集合称作 \(\c X\) 的 对偶，记作 \(\c X'\)。
定理：线性泛函是连续的当且仅当其是有界的。
有界可以直接通过 \(|\ell(x_n)-\ell(x)|=|\ell(x_n-x)|\leq c\|x_n-x\|\) 推出连续。
另一方面，无界则意味着存在数列 \(\cur{x_n}\) 满足 \(|\ell(x_n)|>n\|x_n\|\)，且此处的 \(x_n\) 可以任意缩放。于是将其缩放到 \(\|x_n\|=1/\sqrt n\)，即有 \(x_n\to0\) 但 \(\ell(x_n)\to\infty\)。
一个典型的无界/不连续线性泛函的例子是 多项式微分算子。选取空间为 \([0,1]\) 上所有多项式，范数为 \(L^\infty\)，定义 \(\ell(p)=p'(1)\)：则显然它是线性泛函。然而取 \(p_n(x)=x^n\)，则 \(|\ell(p_n)|=n\) 但 \(\|p_n\|=1\)。
事实上，有一个结论是 Banach 空间上的无界线性泛函的存在性依赖选择公理进而无法显式写出；上述示例选取了一个不完备空间。
定理：有界线性泛函的零空间是闭的——直接由连续性可知 \(0\) 的原像有闭性；且在非平凡场合其余秩为 \(1\)。
定义：对有界线性泛函定义其 算子范数 为
也即其缩放比例的上界，或者说在其「有界」的定义中能取到的最小 \(c\)。
定理：在上述范数下，赋范空间的对偶是 Banach 空间。
对于对偶空间中的 Cauchy 列 \(\cur{\ell_n}\)，对于一切 \(x\) 均有
\[|\ell_n(x)-\ell_m(x)|=|(\ell_n-\ell_m)(x)|\leq\|\ell_n-\ell_m\|\|x\|\to0 \]于是 \(\cur{\ell_n(x)}\) 是实/复 Cauchy 列，由 \(\R\)/\(\C\) 的完备性知其收敛，极限记作 \(\ell(x)\)。易验证 \(\ell\) 是 \(\cur{\ell_n}\) 的极限。
定理：对于赋范空间，子空间上的有界线性泛函可以被延拓为界（算子范数）相同的全空间线性泛函——直接对 \(p(x)=c\|x\|\) 应用 H-B 定理即可。
定理：对于赋范空间中有限个线性无关向量 \(\cur{x_i}\) 以及相应取值 \(\cur{a_i}\)，必然存在有界线性泛函 \(\ell\) 满足全体 \(\ell(x_i)=a_i\)。证明直接找到 \(\cur{x_i}\) 的线性张上唯一满足该性质的 \(\ell\)，然后用上述定理延拓一下即可。
推论：赋范空间中全体有限维子空间都有闭的补。
选取该子空间的一组基 \(\cur{x_i}\)，则存在 \(\cur{\ell_i}\) 满足 \(\ell_i(x_j)=\delta_{ij}\)。
全体 \(\ell_i\) 的零空间都是闭的，将它们求交后也是闭集，则其与该子空间是补关系。
定理：
容易由 \(|\ell(y)|\leq\|\ell\|\|y\|\) 知 \(\geq\) 成立。只需证明确实存在 \(\ell\) 使得 \(\|\ell\|=1\) 且 \(\ell(y)=\|y\|\)。
只需在 \(y\) 的常数倍空间上定义 \(\ell(ay)=a\|y\|\)，则其在该空间下范数为 \(1\)，延拓到全空间即可。
定理：对于赋范空间 \(\c X\) 和其子空间 \(\c Y\)，对于 \(z\in\c X\)，定义 \(m(z)\) 为 \(z\) 到 \(\c Y\) 的距离，则有
对于一切 \(y\in\c Y\)，因为 \(\ell(y)=0\) 且 \(\|\ell\|=1\) 所以有
\[|\ell(z)|=|\ell(y)-\ell(z)|\leq\|\ell\|\|y-z\|=\|y-z\| \]那么目标式的 \(\geq\) 成立。
现在考虑在子空间 \(\c Y+\cur{az}\) 上定义线性泛函
\[\ell_0(y+az)=am(z) \]则因为在该子空间上界为 \(1\)，可以延拓到全空间。于是目标式的最大值可以取到。
事实上，前一个定理可以被看做是 \(\c Y=\cur0\) 时的特例；而另一方面，也可以对 \(\c Y\) 求闭包（显然求闭包不改变距离，同时 \(\c Y\sube\c N_\ell\implies\bar{\c Y}\sube\c N_\ell\)）后，归结到 \(\c X/\bar{\c Y}\) 下分析，然后发现 \(m(z)\) 其实就是 \(z\) 所在等价类在 \(\c X/\bar{\c Y}\) 下的范数。
这个定理属于 对偶变分问题，即极值相等的一对最小值和最大值问题。
定义：对于赋范空间的子空间 \(\c Y\)，其上取值为零的线性泛函构成的集合称作 \(\c Y\) 的 零化子，记作 \(\c Y^\bot\)。
可以发现，零化子和正交补似乎共享了同一个记号——尽管前者是对偶空间的子空间，而后者是原空间的子空间。然而二者使用同一个记号确实是有道理的：
- \(\ell(x)\) 的一种常见记号是 \(\ip{\ell,x}\)。可以发现，零化子中的元素全部满足 \(\ip{\ell,x}=0\)，而正交补中的元素同样满足 \(\ip{y,x}=0\)。也即，零化子是在 无内积结构的赋范空间 中强行定义的正交补。
- 在内积空间的场合，由 Riesz 表示定理，零化子与正交补中的元素存在一一对应关系。
定理：零化子是对偶空间的闭子空间——正如正交补也是闭子空间一样。
定理：存在 \(\c X/\c Y\) 到 \(\c Y^\bot\) 的等距同构。存在 \(\c Y'\) 到 \(\c X'/\c Y^\bot\) 的等距同构。
定理：记
则有
按照传统，应该直接列范数定义式得到一个不等号，然后把 \(\|\ell\|_\c Y\) 看做是 \(\ell\) 限制在 \(\c Y\) 上定义的范数，并可以延拓到 \(\ell_0\) 使得 \(\|\ell_0\|=\|\ell\|_\c Y\)。那么 \(\ell_0-\ell\) 因为在 \(\c Y\) 上相等所以属于 \(\c Y^\bot\)，即得到确实有取到极值的 \(m=\ell_0-\ell\)。
定理（生成准则）：赋范空间中的 \(x\) 属于子集 \(\c Y\) 的闭线性张，当且仅当所有在 \(\c Y\) 上取零的有界线性泛函在 \(x\) 处也取零。
[!TIP]
对比：Hilbert 空间中的 \(x\) 属于子集 \(\c Y\) 的闭线性张，当且仅当与全体 \(\c Y\) 中元素正交的向量 \(y\) 亦与 \(x\) 正交。
证明也同理：在 \(\c Y\) 上取零的有界线性泛函因为线性性和连续性可知在 \(\c Y\) 的闭线性张上也取零。
对偶空间也有对偶。因为对于固定的 \(x\)，\(\ell(x)\) 是关于 \(\ell\) 的有界线性泛函，且其范数亦为 \(\|x\|\)，因此总是存在 \(\c X\) 到 \(\c X''\) 的等距嵌入。
有限维线性空间中，必有同构意义下 \(\c X''=\c X\)。但一般的 Banach 空间则不然。
定义：满足该条件的 Banach 空间称作 自反空间。
定理：Hilbert 空间总是自反空间。也就是 Riesz 表示定理。
定理：一致凸的 Banach 空间是自反的。这个在分析闭凸集投影的场合已经见过了，证明比较复杂故跳过。
定理：当 \(1<p<\infty\) 时，\(L^p\) 是一致凸进而自反的。其对偶（在等距同构意义下）是 \(L^q\)，其中 \(1/p+1/q=1\)。
[!TIP]
特别地，\(L^1\) 的对偶是 \(L^\infty\)，但 反之不亦然：\((L^\infty)'\) 比 \(L^1\) 大很多。因此 \(L^1\) 没有自反性。
另一方面，一个非自反的例子是最大值范数下的 \(C[0,1]\)。
定理：若对偶空间是可分的，则原空间亦然。
考虑令 \(\cur{\ell_n}\) 为对偶空间中的稠密可数集。由线性泛函范数的定义，存在 \(\cur{z_n}\) 满足
\[\|z_n\|=1,|\ell_n(z_n)|>\dfrac12\|\ell_n\| \]以下证明 \(\cur{z_n}\) 的闭线性张是全空间。这等价于在全体 \(z_n\) 处为零的线性泛函是零泛函。若不然，不妨设存在满足该条件但 \(\|\ell\|=1\) 的泛函 \(\ell\)，则因为 \(\cur{\ell_n}\) 的稠密性，存在 \(\ell_n\) 使得 \(\|\ell-\ell_n\|<1/3\)，于是 \(\|\ell_n\|>2/3\)；因为 \(\ell(z_n)=0\) 所以
\[|(\ell_n-\ell)(z_n)|=|\ell_n(z_n)|>\dfrac12\|\ell_n\|>1/3 \\|(\ell_n-\ell)(z_n)|\leq\|\ell_n-\ell\|\|z_n\|<1/3 \]矛盾。
Riesz-Kakutani 定理：紧 Hausdorff 空间（任意两点均可由不交邻域分隔）上实连续函数关于最大值范数构成的空间，其对偶是定义在该空间的 Borel 集上 全质量有限的带号测度，也即任意有界线性泛函 \(\ell\) 都存在对应的测度 \(m\)，满足
其对偶的对偶是所有有界 Borel 可测函数构成空间。
定理：自反 Banach 空间的闭线性子空间也是自反的。
把母空间的有界线性泛函限制在子空间上仍然是有界线性的，这构成 \(\c X'\to\c Y'\) 的 限制映射 \(\ell\mapsto\ell'\)。
而限制映射反过来导出 \(\c Y''\to\c X''\) 的映射：对于 \(\eta\in\c Y''\)，定义 \(\xi\in\c X''\) 满足 \(\xi(\ell)=\eta(\ell')\)。由 \(\c X\) 的自反性，存在 \(z\in\c X'\) 使得对于全体 \(\ell\) 均有 \(\xi(\ell)=\ell(z)\)。
对于一切 \(\ell\in\c Y^\bot\)，有 \(\ell'=0\)，则 \(\ell(z)=0\)，于是有 \(z\) 属于 \(\c Y\) 的闭包。但 \(\c Y\) 是闭的，故 \(z\in\c Y\)。因此 \(\ell(z)=\ell'(z)=\eta(\ell')\)，因此 \(z\) 即为 \(\c Y\) 中与 \(\eta\) 相对应的元素。
定义：赋范空间子集 \(\c S\) 的闭凸包是包含其的最小闭凸集，也即全体闭凸集的交，或是其凸包的闭包。
定义：对于实赋范空间 \(\c X\) 中的有界子集 \(\c M\)，定义其 支撑函数 \(S_\c M\) 为 \(\c X'\) 上的函数
易验证其满足：
- 关于 \(\ell\) 的次可加性和正齐次性。
- 关于 \(\c M\) 的单调性和可加性，以及求凸包/闭凸包的不变性。
- \(S_{-\c M}(\ell)=S_\c M(-\ell)\)。
一些例子如：
我们知道凸包的构造式是通过凸组合刻画的。闭凸包的判定则需要依赖支撑函数。
定理：点 \(z\) 属于集合 \(\c S\) 的闭凸包，当且仅当对于所有 \(\ell\in\c X'\) 都有
显然「当」成立。反之，由闭凸包的闭性，存在以 \(z\) 为圆心且与闭凸包无交的球；应用广义超平面分离定理，存在非严格分离二者的线性泛函；进一步考虑球的半径，可知存在严格分离二者的线性泛函。
定理：任意点 \(z\) 到闭凸子集 \(\c K\) 的距离满足
由支撑函数可知一侧成立，另一侧使用球论证即可。
Takeaways：
-
对偶：连续/有界线性泛函。定义范数为 \(\|\ell\|=\sup_{x\neq0}\dfrac{|\ell(x)|}{\| x\|}=\sup_{\|x\|=1}|\ell(x)|\)。
-
对偶空间必是 Banach 空间：本质上是利用 \(\R\) 或 \(\C\) 的完备性得到逐点极限存在，然后进一步证明逐点极限亦是有界线性泛函。
-
子空间上线性函数可以保范数地延拓：H-B 定理应用。
-
若干对偶变分式实例：
\[\|\ell\|=\sup_{\|x\|=1}|\ell(x)|\iff\|y\|=\max_{\|\ell\|=1}|\ell(y)| \]其中右侧能取 max 是因为完备性。
\[\t{dist}(y,\c Y)=\|y\|_\c Y=\max_{\|\ell\|=1,\ell|_\c Y=0}|\ell(y)| \]\[S_\c M(\ell)=\sup_{y\in\c M}\ell(y) \\\t{dist}(y,\c K)=\max_{\|\ell\|=1}|\ell(y)-S_\c K(\ell)| \]可以发现因为子空间都是凸的，所以后一个式子可以看做前式的延拓。
-
零化子：非内积空间下的正交补。闭性来自于 \(\cur0\) 的闭性。
-
闭线性张成员判定：当且仅当所有零化子也取零，或能写成线性组合的极限。
-
闭凸包成员判定：当且仅当全体 \(\ell(z)\leq S_\c S(\ell)\) 均成立，或能写成凸组合的极限。
-
事实上，仅靠连续线性泛函，无法区分一个集合和它的闭凸包。
-
自反性：对偶的对偶与原空间同构。
- 特别地，在没有自反性的场合，不断取对偶会左脚踩右脚上天。
-
自反空间的闭子空间也是自反的，因为 \(\c X'\to\c Y'\) 的限制映射可以自然反过来导出 \(\c Y''\to\c X''\) 的 pull-back 映射，而该 pull-back 映射的像空间中所有元素通过 Riesz 表示定理得到的代表元都属于 \(\c Y\)，于是得到 \(\c Y''\to\c Y\) 的结果。
X. Weak Convergence
定义：对于赋范空间中的点列 \(\cur{x_n}\)，如果其在一切有界线性泛函 \(\ell\) 意义下均收敛到同一个 \(x\)，也即
则称 \(\cur{x_n}\) 弱收敛 到 \(x\)，记作 \(x_n\wto x\)。与之相对的是 强收敛
记作 \(x_n\to x\)。
显然，强收敛序列必然弱收敛，但反之不亦然，例子是 \(\ell^2(\N)\) 中，令 \(\b x_i\) 为只在第 \(i\) 项取 \(1\)、其它项均取 \(0\) 的向量，则易知 \(\cur{\b x_i}\wto\b0\)。
事实上，这个例子更一般的场景是，令 \(\cur{x_i}\) 是 Hilbert 空间中一个单位正交可数无穷序列，则其必然弱收敛但不强收敛到 \(0\)。
由 Bessel 不等式，对于一切 \(y\) 均有
\[\sum|\ip{x_i,y}|^2\leq\|y\|^2 \]于是 \(y\) 在 Riesz 表示定理意义下的线性泛函 \(\ell\) 必有 \(\ell(x_i)=\ip{x_i,y}\to0\)。
另一方面，又因为全体 \(\|x_i\|=1\)，则它显然不强收敛到 \(0\)。
定理（Schur 性质）：\(\ell^1\) 中弱收敛等价于强收敛。
\(\ell^1\) 上的有界线性泛函可以写作 \(\ip{\cdot,\b y}\)，其中 \(\b y\in\ell^\infty\)。
w.l.o.g.，只需考虑极限为零的场景。假设 \(\cur{\b x_n}\wto\b0\) 但 \(\cur{\b x_n}\not\to\b0\)，则意味着存在 \(\vare>0\) 以及一个子列（为方便，仍视作原序列），满足 \(\|\b x_n\|_1>\vare\)。
取 \(\ell\) 为下标泛函，可知 \(\cur{\b x_n}\) 在每一个下标上都独立趋于 \(0\)。故：
- 存在 \(N_1\) 使得 \(\sum_{i=N_1+1}^{\infty}|(\b x_1)_i|<\vare/5\)。此时必有 \(\sum_{i=1}^{N_1}|(\b x_1)_i|>3\vare/5\)。
- 因为每一维都独立 \(\to0\)，所以存在 \(n_2\) 使得 \(\sum_{i=1}^{N_1}|(\b x_{n_2})_i|<\vare/5\)。
- 又因为 \(\|\b x_{n_2}\|>\vare\)，所以存在 \(N_2>N_1\) 使得 \(\sum_{i=N_2+1}^{\infty}|(\b x_{n_2})_i|<\vare/5\)。此时必有 \(\sum_{i=N_1+1}^{N_2}|(\b x_1)_i|>3\vare/5\)。
- 重复此过程，得到递增的 \(N_i\) 和 \(n_i\) 序列，满足
\[\sum_{j=1}^{N_{i-1}}|(\b x_{n_i})_j|<\vare/5 \\\sum_{j=N_{i-1}+1}^{N_i}|(\b x_{n_i})_j|>3\vare/5 \]由此，对于任何下标 \(k\)，其必然唯一落入某个 \((N_{j-1},N_j]\) 段中。于是令 \(\b b_k=\t{sgn}((\b x_{n_j})_k)\)，其中 \(\t{sgn}(x)=\begin{cases}\bar x/|x|&(x\neq0)\\0&(x=0)\end{cases}\)。由此有 \(\|\b b\|_\infty\leq1\)。
因为 \(\cur{\b x_n}\wto\b0\)，所以 \(\ip{\b x_n,\b b}\to0\)。然而，有
\[\ip{\b x_{n_j},\b b}=\sum_{k=1}^{N_{j-1}}(\b x_{n_j})_k\b b_k+\sum_{k=N_{j-1}+1}^{N_j}(\b x_{n_j})_k\b b_k+\sum_{k=N_j+1}^{\infty}(\b x_{n_j})_k\b b_k \\\geq\left|\sum_{k=N_{j-1}+1}^{N_j}(\b x_{n_j})_k\b b_k\right|-\sum_{k\notin(N_{j-1},N_j]}|(\b x_{n_j})_k||\b b_k| \\>\left|\sum_{k=N_{j-1}+1}^{N_j}(\b x_{n_j})_k\t{sgn}((\b x_{n_j})_k)\right|-2\vare/5 \\=\sum_{k=N_{j-1}+1}^{N_j}|(\b x_{ n_j})_k|-2\vare/5 \\>\vare/5 \]产生矛盾。
总而言之，它的核心思想可以概括为：
- 在某个 \(n_i\)，\([1,N_{i-1}];(N_{i-1},N_i];(N_i,\infty)\) 分别占有 \(<\vare/5;>3\vare/5;<\vare/5\) 的份额。
- 必然存在更大的 \(n_{i+1}\) 使得前两个的份额压缩到 \(<\vare/5\)，此时可以在膨胀到 \(>4\vare/5\) 的后者再度分割。
- 只要设计线性泛函与所有 \((N_{i-1},N_i]\)（被称为 驼峰）对齐即可。
这种思想是一个真正 universal 的技巧，为了处理随着 \(n\to\infty\) 而不断逃逸向无穷远的质量，将整个序列简化为一种 Block Basis 的形式。在之后的证明中还会出现！
[!TIP]
这个证明能成立的本质在于 \(\ell^1\) 没有自反性，其对偶 \(\ell^\infty\) 比 \(\ell^1\) 要大得多，能通过特殊泛函捕捉到 \(\ell^1\) 中的任何不收敛，因此 \(\ell^1\) 的弱收敛比想象中的要强。
定理：若赋范空间中点列 \(\cur{x_k}\) 满足：
- \(\cur{|x_k|}\) 的一致有界性，也即存在全局常数 \(c\) 使得全体 \(|x_k|\leq c\)。
- 对于 \(\c X'\) 的某个稠密子集中的全体 \(\ell\)，在其意义下收敛至 \(x\)，也即 \(\ell(x_k)\to\ell(x)\)。
则其 \(x_k\wto x\)。换言之，一致有界的点列允许只检验稠密子集即得出弱收敛性。
对于任意 \(m\in\c X'\)，都存在对偶范数意义下足够靠近它的 \(\ell\)：
\[\|m-\ell\|<\dfrac{\vare}{3\max(c,\|x\|)+1} \]而这个 \(\ell\) 存在 \(N\) 使得对于一切 \(n\geq N\) 均有
\[|\ell(x_n)-\ell(x)|<\vare/3 \]于是对于这样的 \(n\) 有
\[|m(x_k)-m(x)| \\\leq|m(x_k)-\ell(x_k)|+|m(x)-\ell(x)|+|\ell(x_n)-\ell(x)| \\<\vare/3+\vare/3+\vare/3=\vare \]
定理：Banach 空间 \(\c X\) 上一族次可加、绝对齐次的实值函数 \(\c F=\cur f\)：
- 若其存在逐点界 \(M(x)\)，也即 \(\forall f\in\c F,x\in\c X:|f(x)|\leq M(x)\)。
- 则其在函数空间中是 算子范数一致有界 的，也即存在 \(c\) 使得 \(\forall f\in\c F,x\in\c X:|f(x)|\leq c\|x\|\)。
完备度量空间 \(\c X\) 上有 一致有界原理：若实值连续函数构成的集族 \(\c F\) 存在逐点界，则其在某个非空开集 \(\c O\) 上有 一致上界，也即存在 \(M\) 使得 \(\forall f\in\c F,x\in\c O:|f(x)|\leq M\)。
则只需要在开集中找开球，并使用绝对齐次性延拓到全空间即可。
特别地，上述描述在有界线性泛函族上生效。
特别地，对于任意赋范空间的对偶（必然是 Banach 空间）分析，可知：
- 对于一族点 \(\c S\sube\c X\)，若在一切有界线性泛函 \(\ell\) 测试下均有界——也即 \(\cur{\ell(x_i)\mid x_i\in\c S}\) 都有界，则 \(\c S\) 本身有界。
上述定理合称 一致有界原理：
- Banach 空间上次可加、绝对齐次的实值函数族，逐点有界（在所有点测试下均有界）则意味着本身范数存在一致上界。
- Banach 空间上有界线性泛函族，逐点有界（在所有点测试下均有界）则意味着本身范数存在一致上界。
- 赋范空间上点集，逐测试函数有界（在所有有界线性泛函测试下均有界）则意味着本身范数存在一致上界。
推论：弱收敛序列必然有一致的范数上界。
进一步，若 \(x_n\wto x\)，则 \(\|x\|\leq\liminf\|x_n\|\)。
存在 \(\ell\) 使得 \(\|\ell\|=1\) 且 \(\|x\|=\ell(x)\)。则有
\[\ell(x)=\lim_{n\to\infty}\ell(x_n) \\\ell(x_n)\leq\|\ell\|\|x_n\|=\|x_n\| \]
定理：闭凸子集关于弱收敛封闭——因为闭凸子集本来就是靠线性泛函判定成员的。则反过来对闭球应用，\(\liminf\|x_n\|\leq R\) 意味着存在半径为 \(R\) 的闭球中的子列，则其极限也属于该闭球，可以反过来得到前述结论。
定义：若 Banach 空间某子集，其中所有点列都存在子列，满足弱收敛到该子集中的点，则称其为 弱序列紧 的。
定理：自反的 Banach 空间中，闭单位球是弱序列紧的。
令 \(\cur{y_n}\) 是其上点列，\(\c Y\) 是该点列的闭线性张，则其是可分的。因为 \(\c X\) 是自反的，则 \(\c Y\) 也是。因为 \(\c Y=\c Y''\) 是可分的，则 \(\c Y'\) 也是，则 \(\c Y'\) 包含可数稠密子集 \(\cur{\ell_n}\)。
通过 对角化论证，可以选取 \(\cur{y_n}\) 的子序列 \(\cur{z_n}\)，使得对于一切 \(\ell_i\) 都有 \(\lim_{n\to\infty}\ell_i(z_n)\) 存在。具体地，由 Heine-Borel 性质（实数中有界闭集等于紧集），可以不断提取收敛子列。但不能对所有提取结果「求交」，因为无限过程最后交集可能为空。所以解决方案是第 \(i\) 项取自第 \(i\) 个子列。
于是可以由稠密子集 \(\cur{\ell_n}\) 扩充至全体 \(\c Y'\)：对于一切 \(\ell\in\c Y'\) 均有 \(z_n\) 极限存在，记作
\[\lim_{n\to\infty}\ell(z_n)=y(\ell) \]易知 \(y\in\c Y''\)；且因为 \(|\ell(z_n)|\leq\|\ell\|\|z_n\|\leq\|\ell\|\)，所以有 \(|y(\ell)|\leq\|\ell\|\)，也即 \(\|y\|\leq1\)。由自反性，这个 \(y\) 也可以视作是 \(\c Y\) 中元素，且 \(y(\ell)=\ell(y)\)，且 \(y\) 属于闭单位球，且有
\[\lim_{n\to\infty}\ell(z_n)=\ell(y) \]因为一切 \(\c X'\) 在 \(\c Y\) 上的限制都属于 \(\c Y'\)，所以 \(z_n\wto y\)。
特别地，我们知道，无限维赋范空间中的闭单位球不是紧的。
该定理的逆也成立：Banach 空间的闭单位球是弱序列紧的，当且仅当该空间是自反的。
该定理可以进一步扩展：自反 Banach 空间中有界闭凸集是弱序列紧的。
其上任意点列都是一致有界的，存在一个包裹其的闭球，因此其存在一个弱收敛子列；而闭凸集关于弱收敛封闭。
定理：自反 Banach 空间上闭凸集存在到任意点的最近点（但可能不唯一）。
这个之前我们已经提过了，此处证明一下。
w.l.o.g. 认为要求至原点的最近点，且原点不属于该闭凸集。定义 \(s\) 为 inf，\(\cur{y_n}\) 为逼近 inf 的序列，则可以认为 \(\cur{y_n}\) 属于半径为 \(2s\)、中心位于原点的球。
这个球与 \(\c K\) 的交集仍是有界闭凸集，因此其存在弱收敛子列 \(\cur{z_n}\)，令其收敛到 \(z\in\c K\)。于是 \(\|z\|\leq\liminf\|z_n\|\)；而 \(\lim\|z_n\|=s\)，所以必有 \(\|z\|\leq s\)，也即 \(z\) 是目标最近点。
定义：令 Banach 空间 \(\c X\) 的对偶是 Banach 空间 \(\c U\)，称 \(\c U\) 中某序列 \(\cur{u_n}\) 弱*收敛（为了打字方便，今后将称为 弱星收敛）至 \(u\)，如果在一切 \(x\) 测试下均收敛。
例：\([-1,1]\) 上连续函数空间的对偶是其上质量有限变号 Borel 测度。考虑测度列
则其弱星极限是原点处的 Dirac Delta，然而 Dirac Delta 根本不在对偶空间中，因此它不是弱星收敛的。
定理：在对偶 Banach 空间中，弱星收敛的序列是范数一致有界的。
定理：可分 Banach 空间的对偶空间，闭单位球是弱星序列紧的。
对于对偶空间中的序列 \(\cur{u_n}\) 满足 \(\|u_n\|\leq1\)，对于原空间中的一个稠密可数集，可以对角化找到子列 \(\cur{v_n}\) 使得该可数集中全体 \(x\) 都有 \(\lim v_n(x)\) 存在，且容易发现该极限是界为 \(1\) 的线性泛函。
Takeaways：
- 弱收敛：在全体对偶空间中的测试函数意义下收敛。
- 弱星收敛：在全体原空间中的测试点意义下收敛。弱于弱收敛，因为对偶的对偶包括原空间。在自反场合等价于弱收敛。
- Schur 性质：弱收敛等价于强收敛。\(\ell^1(\N)\) 有这个性质。
- 如果序列范数一致有界，则测试函数可以只选稠密子集。
- 一致有界原理：由逐点/逐测试函数有界推出范数一致有界。
- Banach 空间 + 次可加 + 绝对齐次实值函数。
- 赋范空间 + 逐测试函数有界（在所有有界线性泛函测试下均有界）则意味着本身范数存在上界。
- 弱序列紧：所有序列都有弱收敛子列。
- 这本教科书只考虑弱序列紧，不考虑弱紧性。有相关定理声明它们在 Banach 空间下等价。
- 单位球：
- 有限维线性空间中，它是紧的，但无限维线性空间不是。（当初的证明用到了度量空间中紧性和序列紧性的等价性）
- 自反 Banach 空间下，它是弱序列紧的。
- 可分 Banach 空间的对偶下，它是弱星序列紧的。
XI. Applications of Weak Convergence
定义：对于 \([-1,1]\) 上的连续函数列 \(\cur{k_n}\)，若对于其上一切连续测试函数 \(f\) 均有
则称 \(\cur{k_n}\) 收敛到 Dirac Delta 函数。
此处是在函数而非测度语言下描述的，结果自然仍是函数。
定理（Toeplitz）：函数列收敛到 Dirac Delta，当且仅当以下条件全部满足：
- 质量极限为 \(1\)：\(\lim\int_{-1}^1k_n(t)\d t=1\)。
- 对于一切支撑集不包括 \(0\) 的测试函数 \(g\in C^\infty[-1,1]\)，均有 \(\lim\int_{-1}^1k_n(t)g(t)\d t=0\)。
- 存在一致上界 \(c\)：\(\int_{-1}^1|k_n(t)|\d t\leq c\)。
对于一切原点处取 \(0\) 的 \(f\)，均可经过最大值不超过 \(\vare\) 的修正后变为无穷光滑的 \(g\)，这个修正与任意 \(k_n\) 内积的结果均不超过 \(\vare c\)；因为 \(\ip{g,k_n}\to0\)，所以 \(\limsup\ip{f,k_n}\leq\vare c\)；因为 \(\vare\) 可以任意小，即得 \(f(0)=0\) 时有 \(\ip{f,k_n}\to f(0)=0\)。
另一侧则显然。
定理：存在周期连续函数 \(f(\theta)\)，其 Fourier 级数在指定某点发散。
Fourier 系数：
\[a_n=\dfrac1{2\pi}\int_{-\pi}^\pi f(\theta)\exp(-\j n\theta)\d\theta \]Fourier 级数：
\[f(\theta)\approx\sum_{n=-\infty}^\infty a_n\exp(\j n\theta) \]定义
\[k_N(\theta)=\dfrac1{2\pi}\sum_{n=-N}^N\exp(-\j n\theta) \]则某函数的 Fourier 级数在 \(\theta=0\) 处收敛，等价于其与 \(k_N\) 内积的极限趋于 \(f(0)\)。若其对于一切函数均成立，则要求 \(k_N\to\delta\)。然而可以证明这个 \(k_N\) 不存在一致上界，故反推出存在函数 \(f\) 使得其 Fourier 级数在 \(\theta=0\) 处发散。
XIII. Locally Convex Topologies and the Krein-Milman Theorem
定义：若 \(\c X\) 是实线性空间，其上运算满足以下性质：
- 加法有连续性。
- 标量乘法有连续性。
- 在原点存在开凸集构成的 拓扑基。
拓扑基有两种等价刻画方式：
- 一族区域集合，可以通过取并的方式刻画任何开区域（Global Base）。
- 一族区域集合，使得所有参考点的任意开邻域都存在包含该参考点的区域（Local Base）。
则称这样的空间是 局部凸拓扑 (LCT) 线性空间。
定理：
- LCT 线性空间中的开集性关于平移与非零缩放保持。
- 开集中的所有点都是内点。
定理：LCT 线性空间上任意两不同点，都存在连续线性泛函严格分割两者。
直接使用 Hahn-Banach 即可。需要使用 Hausdorff 性质保证能严格分割。
进一步扩展可以得到定理：LCT 线性空间上闭凸集可以与其外的一点严格分割。
有限维线性空间下凸集有 Carathéodory 定理：\(\R^n\) 的所有紧凸子集都有极值点，而且其中任意点都可以表示为至多 \(n+1\) 个极值点的凸组合。
其在一般场合的推广是 Krein-Milman 定理：LCT 线性空间中的所有紧凸子集都有极值点，而且其是其极值点集合的凸闭包。
定理：对于 LCT 空间 \(\c X\) 和其紧凸子集 \(\c K\)，令 \(\c K_e\) 是其极值点构成子集，则对于一切 \(u\in\c K\)，在闭包 \(\bar{\c K}_e\) 上存在概率测度 \(m_\mu\)，使得在弱意义（一切连续泛函的测试）下，有
也即，紧凸集 \(u\) 在弱意义下可以解释为极值点集合的闭包上点的连续凸组合。闭包确实是必要的。
Choquet 定理：对于 LCT 空间的紧凸子集，若其可度量化，则上述闭包条件可以移除，也即
这被称作凸包的 Choquet 型表示——把凸包成员转化为极值点的凸组合。
B. Theory of Distributions
为方便，本节将用粗体标注所有 \(\R^n\) 中元素；按照传统，粗体同时也能表示算子，请注意区分。
本节的基本成员是 \(\R^n\to\C\) 的复值函数。例如：
- \(\|\cdot\|\)，标准 Euclidean Norm。
- \(\b x^\alpha=\prod\b x_i^{\alpha_i}\)，其中 \(\alpha\) 是一个 多重指标，有 \(|\alpha|=\sum|\alpha_i|\)。
- 对于 \(u:\R^n\to\C\)，如果其具有适当的可微性，则可以有 \(\p_i u\) 和 \(\p^\alpha u\)，它们同样是 \(\R^n\to\C\) 的复值函数。
- 标准内积 \(\ip{\b x,\b y}=\sum\b x_i\b y_i\)。因为是实向量，所以不需要共轭。
记 \(\c C_c^\infty\) 或 \(\c D\) 为 \(\R^n\) 上所有无穷可微、有紧支撑集的复值函数，\(\c C^\infty\) 或 \(\c E\) 为无穷可微但不要求紧支撑集的复值函数。为了方便，本章将统一采用 \(\c D,\c E\) 的 notation。
在 \(\c D\) 上定义以下这种拓扑——如果：
- 全体 \(\cur{u_k}\) 的支撑集都包含于一个共同的紧集。
- 在任意有限次偏导 \(\alpha\) 意义下，\(\p^\alpha u_k\) 一致收敛于 \(\p^\alpha u\)。
则称函数列 \(\cur{u_k}\) 收敛到 \(u\)，记作 \(u_k\to u\)。
之所以只能这么定义，是因为 \(\c D\) 的拓扑性质很糟糕，它连度量空间都不是，更别提范数了。
在 \(\c D\) 定义 \(C^N\) 范数 \(\|u\|_N=\max_{|\alpha|\leq N}|\p^\alpha u(\b x)|\)。
回忆：Sobolev 范数
\[\|f\|_{k,p}=\left(\sum_{|\alpha|\leq k}\int|\p^\alpha f|^p\d\b x\right)^{1/p} \]则这个 \(C^N\) 范数可以看做 \(k=N,p\to\infty\) 的 Sobolev 范数。
定义：称 \(\c D'\) 中的成员为 广义函数 或称 分布。则其需保持收敛性：\(u_k\to u\implies\ell(u_k)\to\ell(u)\)。
这等价于以下条件：对于广义函数 \(\ell\)，所有紧集 \(\c K\) 均存在可与之相关的 \(N\) 和 \(c\)，使得 \(\ell\) 在 \(C^N\) 范数意义下缩放比例被 \(c\) 控制，也即对于一切 \(u\in\c K\) 均有
若不然，则存在 \(\cur{u_n}\) 使得 \(\ell(u_n)=1\) 且 \(\|u_n\|_n<1/n\)。这意味着 \(u_n\to0\)，则有 \(\ell(u_n)\to\ell(0)=0\)，与 \(\ell(u_n)=1\) 矛盾。
正如我们在对偶一节看到的，对于每个 \(v\in\c D\)，都可以通过
的方式定义一个广义函数。因此 \(\c D\) 可以嵌入 \(\c D'\)。
[!TIP]
细心的读者可能发现了这里使用的是 配对 \(\ap{\cdot,\cdot}\)，而不是 内积 \(\ip{\cdot,\cdot}\)。事实上这也不是内积，因为内积第二维需要取共轭。不取共轭是为了保证嵌入的线性性。
另一方面，也可以通过记 \(\ap{u,\ell}=\ell(u)\) 的方式，让广义函数兼容这种配对符号。
以下函数都是广义函数：
- \(\ell(u)=\int uv\d\b x\)，其中 \(v\in L^1\)：这个映射虽然被用于将 \(\c D\) 嵌入 \(\c D'\)，但其实对一切可积的 \(v\) 均适用。
- \(\delta(u)=u(\b0)\)。
- \(\ell(u)=\int(\p^\alpha u)v\d\b x\)，其中 \(v\in L^1\)。
- \(\ell(u)=\t{P.V.}\int\dfrac up\d\b x=\lim_{\vare\to0}\int_{|p(\b x)|>\vare}\dfrac up\d\b x\)，其中 \(\t{P.V.}\int\) 是 Cauchy 主值积分，在瑕点两侧以相同速度逼近，此时正负无穷大可以适当抵消。
上式中 \(p\in\c D\)，且其零点都是一阶零点：若 \(p(\b x)=0\)，则必有 \(p'(\b x)\neq0\)。
特别地，主值积分总是可以通过分段处理改写为朴素广义积分形式。
考虑将一部分函数算子延拓到广义函数。对于同时满足以下两条件的一元算子 \(\b T:\c D\to\c D\)：
- \(\b T\) 是连续线性映射。
- 可以唯一定义 转置 \(\b T'\)，满足 \(\ap{\b T'u,v}=\ap{u,\b Tv}\)，且转置的转置是自身。
则有如下 延拓定理 将其扩充到广义函数：通过
的方式，可以刻画 \(\b T\ell\)。
定理：若 \(\c D\) 上两算子可交换，则延拓后仍可交换。
例：对于任意 \(t\in\c E\)，令 \(\b T\) 为与 \(t\) 逐项求积算子，则 \(\b T'=\b T\)。这个算子不需要紧支集，因为紧支集函数与常规函数的积仍然有紧支集。
例：令 \(\b T=\p_i\) 也即对第 \(i\) 维求偏导，则通过分部积分可知 \(\b T'=-\b T\)。
例：令 \(\b T\) 为沿 \(\b t\) 的平移，也即 \((\b Tu)(\b x)=u(\b x-\b t)\)，则 \(\b T'\) 为沿 \(-\b t\) 的平移。
例：令 \(t\in\c C_c^0\)，也即 紧支集连续函数，则常规卷积可以定义在 \(\c D\times\c C_c^0\to\c D\) 上，此时有
现在考虑 \((\b Tu)(\b x)=(t*u)(\b x)\)，则 \(\b T'\) 为与 \(t\) 的反转 \(\tilde t(\b x)=t(-\b x)\) 所作卷积。
使用延拓定理，可以良定义 \(\c D'\times\c C_c^0\to\c D'\) 的卷积：
其中 \(\ell_\b y\) 的 notation 表示取 \(\ell(u(\b x-\b y))\) 时，将 \(\b y\) 看做下标，\(\b x\) 看做常量。
进一步，当后者被收紧为 \(\c D=\c C_c^\infty\) 时，因为 \(\b x\mapsto u(\b x-\b y)\) 是连续无穷光滑映射，通过归纳可以证明 \(\ell*u\) 的任意阶偏导均存在，于是卷积也可以在 \(\c D'\times\c D\to\c E\) 上定义。但此时它不一定有紧支集性。
例：对于保紧集且无穷光滑可逆映射 \(\phi:\R^n\to\R^n\) 及其逆 \(\psi\)，则定义
此时有
其中 \(J\) 是 \(\psi\) 的 Jacobian 行列式。
综上：
- 无穷光滑函数与广义函数的逐点乘积是广义函数：\(\c D'\times\c D\to\c D'\)。
- 广义函数的任意阶偏导是广义函数：\(\c D'\to\c D'\)。
- 广义函数的平移是广义函数：\(\c D'\to\c D'\)。
- 广义函数与 \(\c C_c^0\) 函数的卷积是广义函数：\(\c D'\times\c C_c^0\to\c D'\)。
- 广义函数与 \(\c D\) 函数的卷积是无穷光滑函数：\(\c D'\times\c D\to\c E\)。
- 广义函数与无穷光滑可逆 \(\R^n\to\R^n\) 映射的复合是广义函数。
无法定义广义函数之间的逐点乘积，也无法定义广义函数与不可逆映射的复合。因此，\(\delta^2(\b x)\) 或 \(\delta(\b x^2)\) 等 notation 是不存在的。
特别地，如果两个广义函数的变量无交，则此时确实可以在它们的 Cartasian 积上定义乘积。
例：计算以下 1D 广义函数的导数
-
\[ \ell(u)=\int u(x)|x|\d x \\\ell'(u)=-\ell(u')=-\int u'(x)|x|\d x \]
虽然到这一步也够了，不过我们还是希望能把它写成 \(\int uv\d x\) 的形式，这样才方便我们更 intuitive 地理解这个广义函数。
\[\ell'(u)=\int_{-\infty}^0 xu'(x)\d x-\int_0^\infty xu'(x)\d x \\=-\int_{-\infty}^0u\d x+\int_0^\infty u\d x \\=\int u(x)\t{sgn}(x)\d x \]这符合我们的直觉：\(|x|\) 的导数在忽略零测集后，确实就是 \(\t{sgn}(x)\)。
-
\[ \ell(u)=\t{P.V.}\int\dfrac{u(x)}x\d x \]
Intuitive 地，对一阶奇点求导会造出二阶奇点，所以最终的描述需要使用比 P.V. 更高阶的 Hadamard 有限积分 刻画。
-
\[ \ell(u)=\int_{-\infty}^0u(x)\d x \\\ell'(u)=-\ell(u')=-\int_{-\infty}^0u'(x)\d x=-u(0) \]
Intuitive 地，这表明：负的阶跃函数求导后，会变成负的 Dirac Delta。
-
\[ \delta'(u)=-\delta(u')=-u'(0) \]
Dirac Delta 的导数与高阶导数是非平凡的，它用于进行高阶导数的 evaluation。
一部分广义函数（特指那些可以写成 \(\int uv\d\b x\) 形式的）可以用 \(v\) 来简单理解，此时常规函数的相关概念可以被直接迁移。但是对于无法写成这种形式的广义函数，我们也需要定义这些概念。
连续函数的支撑集是取值非零坐标构成的闭包，而其补集即为 取值全零的最大开集。
定义：称广义函数 \(\ell\) 在开集 \(\c G\) 上为零，如果对于所有支撑集包含于 \(\c G\) 的 \(u\in\c D\) 均有 \(\ell(u)=0\)。
引理：如果 \(\ell\) 在 \(\c G_1,\c G_2\) 上均为零，则其在它们的并集上也为零。
证明需要一些分析技巧，我不会，跳过！
于是存在最大的使得 \(\ell\) 在其上为零的 \(\c G\)（即为全体这样集合的并），它的补被定义为该广义函数的 支撑集。
定理：对于 \(\ell\in\c D'\) 与 \(u\in\c D\)，若它们的支撑集不交，则有 \(\ap{u,\ell}=0\)。
定理：对于 \(\ell\in\c D'\) 与 \(u\in\c D\)，若 \(u\ell=0\)，则 \(\ell\) 在开集 \(\cur{x:f(x)\neq0}\) 上必须为零。
定理：\(\c E'\) 为全体紧支集广义函数。
证明比较复杂，跳过。
这是符合对偶思想的：因为 \(\c D\sub\c E\)，所以 \(\c E'\sub\c D'\)。
定理：对于 \(\ell\in\c E'\) 与 \(u\in\c D\)，有 \(\ell*u\in\c D\)。
定理：若广义函数 \(\ell,m\) 之一有紧支集（不妨设为 \(\ell\)），则它们的卷积有意义，且 \(\ell*m\) 仍是广义函数——也即存在 \(\c D'\times\c E\to\c D'\) 的卷积，比前文 \(\c D'\times\c D\to\c D'\) 进行了严格拓展。其具体展开为
定理：广义函数导数的支撑集包含在其本身支撑集内。
常规函数导数的支撑集显然包含于其本身支撑集：因为若函数在开集上为零，则其任意阶导数在此开集上亦为零。
而因为 \(\ell'(u)=-\ell(u')\)，所以若全体支撑集含于开集 \(\c G\) 的 \(u\) 均有 \(\ell(u)=0\)，则亦有 \(\ell'(u)=0\)。
推论：Dirac Delta 及其任意阶导数的支撑集均为 \(\cur{\b 0}\)。
反之，有定理：支撑集为 \(\cur{\b0}\) 的广义函数均形如
其中 \(N\) 为正整数，\(c_\alpha\) 为复数。
定理：具有紧支撑集的广义函数 \(\ell\) 有仅有以下形式：
其中 \(g_\alpha\in\c C_c^0\)。显然此时有 \(\t{supp}(\ell)\sube\bigcup\t{supp}(g_\alpha)\)。
这是一个表示定理，而不是判定定理；同时显然这个分解是非唯一的。它给出的不变量只有存在分解的最小 \(N\)。
\(\p^\alpha g_\alpha\) 是通过广义函数定义的，也即把 \(g_\alpha\) 视作对应广义函数后求导。
定理：令 \(\c G\) 为连通开集，广义函数 \(\ell\) 的全体一阶偏微分在 \(\c G\) 上为零。则 \(\ell\) 在 \(\c G\) 上为常数，也即存在 \(c\) 使得对于一切支撑集包含于 \(\c G\) 的 \(u\in\c D\) 均有
这个定理的证明需要以下引理。
考虑令 \(b\in\c D\) 满足以下条件：
- 支集属于单位开球 \(\cur{\|\b x\|<1}\)。
- 单位质量：\(\int b\d\b x=1\)。
- 对称性：\(b(\b x)=b(-\b x)\)。这意味着其对应的卷积算子转置是其自身。
则其可以被用于构造一系列 支撑集半径不断缩短 且 收敛到 Dirac Delta 的函数。具体地，使用 \(b_k(\b x)=k^nb(k\b x)\)，则使用 Toeplitz 定理，验证三条件：
-
\[ \int b_k\d\b x=\int_{\|\b x\|<1}k^nb(k\b x)\d\b x=\int_{\|\b x\|<k^n}b(\b x)\d\b x=1 \]
-
\[ \int b_kg\d\b x=\int_{\|\b x\|<1}b(\b x)g(\b x/k)\d\b x \]
易知 \(g(\b x/k)1_{\|\b x\|<1}\to0\)（因为 \(g\) 的支撑集不含原点），因此整个积分 \(\to0\)。
-
\(\int|b_k|\d\b x\) 有一致界，即为 \(\int|b|\d\b x\)。
于是 \(b_k\) 弱收敛到 Dirac Delta，\(b_k*u\) 弱收敛到 \(u\)，\(b_k*\ell\) 弱星收敛到 \(\ell\)：\(\ell_k(u)=\ap{b_k*\ell,u}=\ap{b_k*u,\ell}\)。
因为 \(\c D\) 上卷积和微分可交换，即 \((u*v)'=u'*v=u*v'\)，故它们在广义函数场合也可交换。于是有结论：对于 \(m\in\c D',b\in\c D\)，有 \(\p_j(b*m)=(\p_j b)*m=b*(\p_j m)\)。
引理：令 \(b\in\c D\)，其支集包含于原点为心、半径为 \(r\) 的开球。令 \(m\in\c D'\)，则对于 \(b*m\) 的支集中任意 \(\b x\)，存在 \(m\) 支集中的 \(\b y\)，使得 \(\b x,\b y\) 距离 \(\leq r\)。
则考虑最开始构造的 \(b_k\) 和 \(\ell_k\)，有 \(\p_j\ell_k=b_k*\p_j\ell\)；且 \(b_k\) 的支集在 \(1/k\) 开球内。因为 \(\ell\) 在 \(\c G\) 上为常数，则 \(\p_j\ell\) 在 \(\c G\) 上为零，于是 \(\p_j\ell_k\) 在 \(\c G\) 中至少距边界 \(1/k\) 的部分上为零。
对于 \(\c G\) 内任意两点，均可以取足够大的 \(k\) 使得二者通过 \(\c G\) 中距边界 \(1/k\) 的部分连接。于是 \(\ell_k\) 的全体偏导数在该路径上为 \(0\)，故 \(\ell_k\) 在该路径上为常数，且该常数与具体点选择无关。
定理：对于任意连续函数 \(g\)，若其在广义函数意义下的导数连续，则它同时还是经典意义下的导数。证明仍然使用 \(b_k\) 卷积实现。
定义：广义函数 \(\ell\) 是 正 的，如果对于非负的 \(u\) 有 \(\ell(u)\geq0\)。
正广义函数的例子：
- 非负连续函数。
- Dirac Delta 及其平移。
- \(\ell(u)=\int u\d m\) 其中 \(m\) 是某个测度。
引理：对于正广义函数 \(\ell\) 和紧子集 \(\c K\)，存在常数 \(c\) 使得所有支撑在 \(\c K\) 中的所有 \(u\in\c D\) 均有 \(|\ell(u)|\leq c\|u\|_\max\)。
这相当于是一种对正广义函数的拓扑刻画。
于是由该引理，允许将正广义函数从 \(\c D'\) 延拓到 \((\c C_c^0)'\)，也即连续紧支空间的对偶，且保持正性。再由 Riesz-Kakutani 表示定理，\((\c C_c^0)'\) 有唯一测度积分形式。于是有以下结论：每个正广义函数都有测度格式
\(\c D\) 是很多算子的自然定义域；但是对于 Fourier 变换来说，就有点窄了——Fourier 变换并不要求紧支集。于是定义 \(\c S\) 为以下函数类：
-
是 \(\c E=\c C^\infty\) 的子集。
-
其中元素 \(u\) 以及其各阶偏导趋于 \(0\) 的速度快于任意多项式的倒数。形式化地，对于任何多重指数 \(\alpha,\beta\)，均有
\[\lim_{\|x\|\to\infty}|\b x^\beta\p^\alpha u(x)|\to0 \]
\(\c S\) 被称为 Schwartz 速降函数。
\(\c S\) 比 \(\c D\) 的性质更好，它属于所谓的 Fréchet 空间，可以定义度量但没有范数。形式化地，其距离通过
定义；这个奇怪的式子是为了组合可数个度量而选择的，其中 \(\dfrac t{1+t}\) 的部分是一个方便证明三角不等式的 \([0,\infty)\to[0,1)\) 映射。
定理：在上述距离意义下，\(\c D\) 在 \(\c S\) 上稠密。
定义：\(\c S\) 的对偶是 \(\c S\) 上连续线性泛函构成的空间，其中的元素被称为 温和 (tempered) 或 缓增 广义函数。以下都是缓增广义函数的例子：
- 紧支广义函数 \(\c E'\)。
- 增长速率不超过多项式级别的函数 \(v\)（缓增常规函数），通过 \(\ell(u)=\int uv\d\b x\) 定义的广义函数。
定义：Fourier 变换算子 \(\b F\) 满足
用 \(\b\xi\) 作为变换后函数的自变量是传统，表明进入了频域。
定理：
定理：\(\b F\) 是 \(\c S\to\c S\) 的连续映射。
\[\dfrac{\p^\alpha}{(\p\b\xi)^\alpha}(\b Fu)(\b\xi) \\=\dfrac1{(2\pi)^{n/2}}\int u(\b x)(\j \b x)^\alpha\exp(\j\ip{\b \xi,\b x})\d\b x \\=\b F((\j\b x)^\alpha u(\b x)) \]因为 \(u\) 是速降函数，所以其乘上多项式级别的 \((\j\b x)^\alpha\) 还是速降函数。则对于任意 \(\alpha\)，\(\p^\alpha\b Fu\) 均连续，因此 \(\b Fu\in\c C^\infty\)。
进一步，易知
\[\b\xi^\beta\p^\alpha\b Fu=\j^{|\alpha|+|\beta|}\b F(\p^\beta\b x^\alpha u) \]
定理：
-
值域上沿 \(\b t\) 的平移，对应着频域上与 \(\exp(\j\ip{\b t,\b \xi})\) 的点积。形式化地，令 \(\b T_\b t u(\b x)=u(\b x-\b t)\)，则
\[\b F\b T_\b tu=\exp(\j\ip{\b t,\b\xi})\b Fu \\\b T_\b t\b Fu=\b F\exp(-\j\ip{\b t,\b x})u \] -
令 \(\b t\) 为沿坐标轴方向的微元，也即 \(\b t=t\b e_i\)，然后求导，可知极限形式
\[\b F\j\p_iu=\b\xi_i\b Fu \\\p_i\b Fu=\b F\j\b x_iu \] -
\(\b F\) 与绕原点的旋转和反射交换。
-
对于可逆映射 \(\phi:\R^n\to\R^n\)，记 \(v_\psi(\b x)=v(\psi(\b x))\)，则
\[\b F u_\phi=\dfrac1{\det\phi}(\b F u)_{(\phi^{-1})'} \]其中 \('\) 是转置：对于映射 \(\psi\)，其转置是满足 \(\ip{\b x,\psi(\b y)}=\ip{\psi'(\b x),\b y}\) 的 \(\psi'\)，和前文对 \(\c D\to\c D\) 算子定义的转置相同。
定理：
定理：\(\b F\) 的转置是其自身（因为其定义式关于 \(\b x,\b\xi\) 对称），所以对于缓增广义函数 \(\ell\) 可以定义其 Fourier 变换
假如 \(\ell\) 进一步是紧支的，则可以定义 \(\tilde\ell\in\c C^\infty\) 满足
此时认为 \(\b F\ell=\tilde\ell\)。
但注意，紧支是充分条件而不是必要条件，一部分衰减够快的非紧支 \(\ell\)（例如 1D 上的 \(e^{-|x|}\)）也可以有 \(\c C^\infty\) 上的 \(\tilde\ell\)；另一方面，就算它衰减得不够快，有时仍然可以定义 \(\tilde\ell\)，只不过其光滑性保证可能不足，例如 1D 上的 \(\dfrac1{1+x^2}\)。
定理：\(\delta\) 与 \(1\) 以常数倍关系互为 Fourier 变换。
\(\delta\to1\) 很容易，直接用 \(\tilde\ell(\b\xi)=\ap{e(\b \xi),\ell}\) 即可。
\(1\to\delta\) 就难了，需要先得到其变换结果的支集为零，再套用这部分广义函数的通用表达式
\[\ell=\sum_{|\alpha|\leq N}c_\alpha\p^\alpha\delta \]进行推理。
定理：\(\b F\) 为 \(\c S\to\c S\) 的可逆映射，其逆通过
给出。换言之，定义 \(\b R\) 为反射映射 \(\b Ru(\b x)=u(-\b x)\)，则 \(\b F^{-1}=\b F\b R\)。由延拓定理，\(\b F\) 同时也是 \(\c S'\to\c S'\) 的可逆映射，且同样有 \(\b F^{-1}=\b F\b R\)。
定理（Parseval 公式）：\(\b F\) 为 \(L^2\to L^2\) 的等距变换，也即 \(\|u\|_{L^2}=\|\tilde u\|_{L^2}\)。
XIV. Examples of Convex Sets and Their Extreme Points
对于紧 Hausdorff 空间 \(\c Q\)，考虑其上连续函数构成的空间 \(C(\c Q)\)。
定义：正线性泛函 是对所有非负函数 \(f\) 均有 \(\ell(f)\geq0\) 的 \(\ell\)，和前述定义保持一致。
定理：紧 Hausdorff 空间上的正线性泛函有界。
\(C(Q)\) 上可以定义最大值范数，则有
\[-\|f\|\leq f(x)\leq\|f\| \]定义 \(1\) 为常值函数，则有
\[-\|f\|1\leq f\leq\|f\|1 \]因为 \(\ell\) 保单调性，所以
\[-\|f\|\ell(1)\leq\ell(f)\leq\|f\|\ell(1) \]于是 \(\|\ell\|\leq\ell(1)\)。事实上，取 \(f=1\) 可知 \(\|\ell\|=\ell(1)\)。
用 \(\c P\) 表示单位正线性泛函集合，也即 \(\c P=\cur{\ell:\ell(1)=1}\)。
定理：\(\c P\) 是凸集，且极值点为全体 evaluation 泛函 \(e_r:e_r(f)=f(r)\)。
显然其有凸性。
若 \(e_r=am+(1-a)\ell\)，则考虑任意 \(f(r)=0\) 且非负的 \(f\)，有
\[0=f(r)=am(f)+(1-a)\ell(f) \]由正性，必有 \(m(f)\geq0,\ell(f)\geq0\)，于是必有 \(m(f)=\ell(f)=0\)。
因为任何 \(f\) 都可以被分解为正部和负部的差，所以 \(e_r(f)=0\implies m(f)=\ell(f)=0\) 对于一切 \(f\) 成立，也即 \(m\) 和 \(\ell\) 的零空间包含 \(e_r\) 的零空间。
因为非零线性泛函零空间的余秩为 \(1\)，所以 \(m\) 和 \(\ell\) 必然是 \(e_r\) 的常数倍；因为 \(\c P\) 中全是单位正线性泛函，所以这个常数必须是 \(1\)，也即 \(\ell=m=e_r\)，则 \(e_r\) 必然是极值点。
另一方面，由 Riesz-Kakutani 表示定理，线性泛函 \(\ell\) 唯一对应测度 \(m\)，而且其正性对应 \(m\) 的非负性，单位性对应 \(m\) 的单位质量。
断言：\(\c P\) 中所有极值点的测度都是单点测度（单位非负测度集合中的极值点）；否则 \(m\) 存在 \(am_1+(1-a)m_2\) 的分解，\(m_1\) 和 \(m_2\) 对应 \(\ell_1,\ell_2\)，但因为 \(\ell\) 是极值点，所以 \(\ell=\ell_1=\ell_2\)，这意味着 \(\ell\) 存在多个不同的测度表示，违背了 Riesz-Kakutani 表示定理。
于是可以得到 \(\c P\) 的 Choquet 型表示：
其中 \(m\) 是 \(\c Q\) 上的一个测度。
定义：对于 \(f:\R^n\to\R\)，如果对于任意 \(\cur{x_1,\dots,x_N}\) 和凸系数 \(\cur{a_n}\) 均有
则称 \(f\) 是 凸函数。
对于 \(\R\) 上的凸函数，只需验证以下条件
记 \(ax+(1-a)z=y\)，则易通过移项得到
这意味着凸函数连续且有左右导数。
取二阶差商
可知其在 \(h\to0\) 时，在广义函数意义下收敛到 \(f''\)。因为这个差商是非负的，所以广义函数意义下 \(f''\geq0\)。
同理可以定义区间上的凸函数。如果区间有闭端点，则其在此处不一定连续。
考虑一个集合 \(\c C\) 包含满足以下条件的 \([0,1]\) 上凸函数：
- \(f(0)=0,f(1)=1\)。
- \(\forall x\in[0,1]:f(x)\geq0\)。
定理：\(\c C\) 是凸集，其极值点是函数 \(e_r(x)=\begin{cases}0&(x\leq r)\\\dfrac{x-r}{1-r}&(x>r)\end{cases}\)，其中 \(r\in[0,1)\)。
证明忽略。此时同样可以得到 \(\c C\) 的一个 Choquet 型表示。
定义：对于 斜对称 也即 \(a_{-n}=\bar a_n\) 的双侧无限复数列，如果对于任意有限个复数 \(\phi_n\) 其中 \(-N\leq n\leq N\)，均有
则称 \(\cur{a}\) 是 正定 的。
写成矩阵视角后，就是 \(\cur a\) 定义的 Toeplitz 矩阵——也就是卷积核——是 Hermite 半正定型。
Herglotz 定理：每个正定序列都可以唯一表示为
其中 \(m\) 是圆周 \(\c S^1\) 上非负测度。反之亦然：这样导出的序列是正定的。
该序列的正定性直接配方即可。
反之，容易通过构造特定的测试 \(\phi\) 得到正定性的必要条件是全体 \(|a_m|\leq a_0\)。此时可以构造出 Fourier 级数为 \(\cur{a}\) 的广义函数 \(a\)，而且其是非负的；由 Riesz-Kakutani 得到对应的测度表示。
特别地，\(\exp(\j n\theta)\) 是满足 \(a_0=1\) 的 正规正定序列 的全体极值点。于是这是一种 Choquet 型表示。
其也有连续版本。对于 \(\R\) 上斜对称的复值连续函数 \(a:a(s)=\ovl{a(-s)}\)，如对于一切有限个位置列表 \(\cur{s_n}\) 与复数列表 \(\cur{\phi_n}\) 均有
则称为正定函数。
Bochner 定理：所有连续正定函数都可以表示为
的形式，其中 \(m\) 是非负有限测度。
特别地，\(\exp(\j s\sigma)\) 是满足 \(a(0)=1\) 的 正规正定函数 的全体极值点。于是这也是一种 Choquet 型表示。
其可以被进一步扩展。
对于斜对称缓增广义函数 \(a(s)\)，如果对于一切 \(\c D\) 上测试函数 \(\phi\) 均有
则称其为正定的。
这里允许 \(a(s-t)\) 是纯粹记号滥用，要判断真实语义需要还原回广义函数-函数作用的格式，也即 \(\ap{a,\phi*\tilde\phi}\geq0\)，其中 \(\tilde\phi(t)=\bar\phi(-t)\)。
Schwartz 定理：正定缓增广义函数是 \(\c S'\) 上非负测度的 Fourier 变换。
Birkhoff-von Neumann 定理：双随机矩阵的极值点是全体置换矩阵。由此也可以得到一个 Choquet 型表示。
XV. Bounded Linear Maps
对于一对 Banach 空间 \(\c X,\c U\)，其上定义的任意映射 \(\b M:\c X\to\c U\) 是 连续 的，如果原空间上的强极限推出像空间上的强极限。事实上，它不仅传递强极限，还传递弱极限，因为像空间上的测试函数（有界线性泛函）可以通过下文中提到的 转置 拉回原空间。
定义：映射是 有界 的，如果其存在有限算子范数，也即存在 \(c\) 使得全体
成立。
定理：线性映射有界当且仅当其连续。
定理：假如 \(\c X,\c U\) 都仅仅是赋范空间而没有完备性，则连续线性映射可以延拓为二者完备化之间的连续映射。这可以被用于定义一系列有意义的映射，因为光滑函数空间通常是不完备的。
定义：所有有界线性映射构成的集合记作 \(\c L(\c X,\c U)\)，它是完备的。
这里有一定的记号滥用，因为第 II 节定义的普通线性映射使用相同的 notation。训练有素的读者应当学会分辨二者。
事实上，在泛函分析的语境下，因为一些原因，讨论 Banach 空间之间的无界线性映射是无意义的——它们甚至不能显式构造出来。
出于此原因，下文中如果只提到线性映射，则默认它是有界的。
特别地，当 \(\c U=\R\) 时，它就是对偶空间。
\(\b M\) 可以被用于定义 \(\c U'\to\c X'\) 的一个映射：对于 \(\ell\in\c U'\)，可以定义 \(\xi\) 满足 \(\xi(x)=\ell(\b Mx)\)，则 \(\xi\in\c X'\)。\(\b M':\ell\mapsto\xi\) 被称作 \(\b M\) 的 转置。在作用语言下，就是
定理：
- 有界线性算子的转置仍然有界，且二者算子范数相等。
- 转置的零空间是原算子值域的零化子，原算子的零空间是转置值域的零化子。
在 Hilbert 空间之间定义的线性映射，其转置被替换为 伴随，用 \(\b M^*\) 定义。然而，伴随可以通过 Riesz 表示定理，看做是原空间 \(\c U\to\c X\) 之间的映射（虽然这伴随着性质的一些变化）。这使得我们确实有必要显式区分二者。
拓扑速通：
- 拓扑是对哪些子集是「开集」的一种刻画。这必须满足三个条件：
- 全集和空集是开集。
- 关于任意并封闭。
- 关于有限交封闭。
- 但是，其关于补集不封闭。
- 回忆：\(\sigma\)-代数则要求：
- 全集和空集属于 \(\sigma\)-代数。
- 关于可数并封闭。
- 关于可数交封闭（可以由上下两条推出）。
- 关于补集封闭。
- 有了拓扑就可以定义收敛性：一个序列 \(\cur{x_n}\) 收敛到 \(x\)，如果 \(x\) 的任意邻域都完全包含该序列的某个后缀。
- 拓扑使用集族刻画，因此可以定义偏序关系：更 弱 或称更 粗 的拓扑是开集更少的。
- 任意多个拓扑的交集仍是拓扑。
- 因此对于一个集族，可以生成一个最粗的拓扑，即为所有包含它们的拓扑的交。
- 构造化描述，就是集族中所有集合先有限求交再任意求并后的结果。
- 原空间和像空间的拓扑可以定义连续映射；反过来，给定像空间的拓扑，则一个映射要想连续，原空间的拓扑需要包括所有像空间开集的原像。进一步，一族映射要想都连续，需要包括所有这些映射下的所有原像。
- 因此，通过像空间的拓扑和连续映射集合，可以反过来定义最弱的原空间拓扑。
定义：\(x\in\c X\) 可以诱导 \(\c L(\c X,\c U)\to\c U\) 的线性映射 \(\b M\mapsto \b Mx\)。使得所有这些映射连续的最弱拓扑被称为 \(\c L\) 上的 强拓扑。
定义：\(x\in\c X\) 和 \(\ell\in\c U'\) 可以诱导 \(\c L(\c X,\c U)\to\R\) 的线性映射 \(\b M\mapsto\ap{\b Mx,\ell}\)。使得所有这些映射连续的最弱拓扑被称为 \(\c L\) 上的 弱拓扑。
定义：通过算子范数可以定义 \(\c L\) 上的 一致拓扑。
定义：线性映射列称为 强收敛 的，如果一切 \(x\) 诱导下的 \(\cur{\b M_nx}\) 数列都强收敛。称为 弱收敛 的，如果都弱收敛。
这个定义是与强/弱拓扑对应的。
定理：算子范数一致有界的线性映射列只需要验证稠密的 \(x\) 即可证明强收敛性。弱收敛性同理。
一致有界原理：若 \(\cur{\b M_n}\) 对 \(x,\ell\) 的测试对给出逐点界
则其算子范数一致有界。
定理：对于 Banach 空间 \(\c X,\c U\) 以及二者间有界线性映射 \(\b M\)，存在 \(d>0\) 使得 \(\c X\) 中的开单位球在 \(\b M\) 意义下的像包裹 \(\c U\) 中原点处半径为 \(d\) 的开球。换句话说，\(\b M\) 不会把单位球在某个方向上压缩到 \(0\)。
开映射定理：Banach 空间间的有界线性映射把开集映到开集。
定理：Banach 空间间的一对一有界线性映射，其逆映射同样是有界线性映射。
定义：如果有
则称该映射是 闭线性映射。显然，连续性可以推出闭性；然而反之亦成立，闭线性映射是连续的。
考虑全体 \(g=\cur{x,\b Mx}\) 二元组，它们构成线性空间，被称作 \(\b M\) 的 图像 (graph)，而且可以良定义范数
\[\|g\|=\|x\|+\|\b M x\| \]且其是完备的。定义 \(\b P\) 为取第一分量的投影，则显然 \(\b P\) 是有界线性映射，而且其是双射，因此 \(\b P\) 的逆有界，存在 \(c\) 使得 \(\|g\|\leq c\|x\|\)，也即 \(\|\b M x\|\leq(c-1)\|x\|\)。
因为映射的闭性与其图像的闭性等价，所以该定理称作 闭图像定理。
定理：相容范数——也即若均收敛则极限相等的范数——若都是完备的则等价。这是因为相容性保证两个范数定义的空间之间的恒等映射是闭的，进而其是连续的。
定理：互补的闭子空间 \(\c X=\c Y\oplus\c Z\)，定义分量映射 \(\b P_\c Y,\b P_\c Z\)，则有：
- \(\b P_\c Y,\b P_\c Z\) 是连续线性映射——因为它们是闭的。
- \(\b P^2_\c Y=\b P_\c Y,\b P^2_\c Z=\b P_\c Z,\b P_\c Y\b P_\c Z=0\)。
定义：\(\b P^2=\b P\) 的线性映射称作 投影。
浙公网安备 33010602011771号