过完备字典

作者：默默默默
链接：https://www.zhihu.com/question/22205661/answer/236054067
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

我们先来看一个二维空间：

在这个二维空间中，有两个基向量，那么任意一个在该平面的的向量可以由这两个向量线性叠加。如果将（0，1）与（1,0）分别看做两个列向量 d_{1}=\left( 1,0 \right)^{T}，d_{2}=\left( 0,1 \right)^{T}，则表征一个二维空间的向量可以写成矩阵的形式：

y=\left[d_{1}，d_{2} \right]x = D_{1}x

x为叠加系数。那么如果一个向量y一旦确定，那么x也就是唯一确定的，也就是说y可以由 d_{1}=\left( 1,0 \right)^{T}，d_{2}=\left( 0,1 \right)^{T} 唯一确定表示， D_{1} 也是一个满秩矩阵。那么如果二维空间不光只有 d_{1}，d_{2}，还有很多其他向量：

那么同样用一个这些向量来表征二维空间中的任意一个向量：

y=\left[d_{1},...,d_{n} \right]x = D_{2}x

由于这些向量不是两两正交的，且向量个数远远高于维数，这就导致表征y的叠加系数x是不唯一的（因此就要加上x是稀疏向量的约束），也就是说矩阵 D_{2} 不是一个满秩矩阵， D_{2} 相对于 D_{1} 来说就显得非常的冗余，因为 D_{2} 中不光可能包含了二维空间的正交基向量，还有可能包含了需要表征的向量以及其他很多的向量，所以说 D_{2} 包含的向量非常多，就更加完备，所以类似于 D_{2} 这样的字典就可以叫做超完备字典。

 
 
 
 
 
 
posted @ 2018-05-24 19:52  tuji_sjp  阅读(384)  评论(0)  编辑  收藏  举报