小波变换-完美通俗解读
小波变换和motion信号处理一 这是《小波变换和motion信号处理》系列的第一篇基础普及。第
二篇我准备写深入小波的东西第三篇讲解应用。
记得我还在大四的时候在申请出国和保研中犹豫了好一阵骨子里
的保守最后让我选择了先保研。当然后来也退学了不过这是后话。
当时保研就要找老板实验室自己运气还不错进了一个在本校很
牛逼的实验室干活路。我们实验室主要是搞图像的实力在全国也是
很强的进去后和师兄师姐聊大家都在搞什么小波变换H264之
类的。当时的我心思都不在这方面尽搞什么操作系统移植
ARM+FPGA这些东西了。对小波变换的认识也就停留在神秘的“图像
视频压缩算法之王”上面。
后来我才发现在别的很广泛的领域中小波也逐渐开始流行。比如
话说很早以前我们接触的信号频域处理基本都是傅立叶和拉普拉斯
的天下。但这些年小波在信号分析中的逐渐兴盛和普及。这让人不
得不感到好奇是什么特性让它在图象压缩信号处理这些关键应用
中更得到信赖呢说实话我还在国内的时候就开始好奇这个问题
了于是放狗搜放毒搜找遍了中文讲小波变换的科普文章发现
没几个讲得清楚的当时好奇心没那么重也不是搞这个研究的懒
得找英文大部头论文了于是作罢。后来来了这边有些项目要用信
号处理不得已接触到一些小波变换的东西才开始硬着头皮看。看了一些材料听了一些课才发现还是那个老生常谈的论调国外
的技术资料和国内真TNND不是一个档次的。同样的事情别人说得
很清楚连我这种并不聪明的人也看得懂; 国内的材料则绕来绕去讲
得一塌糊涂除了少数天才没几个人能在短时间掌握的。
牢骚就不继续发挥了。在这个系列文章里我希望能简单介绍一下小
波变换它和傅立叶变换的比较以及它在移动平台做motion
detection的应用。如果不做特殊说明均以离散小波为例子。考虑
到我以前看中文资料的痛苦程度我会尽量用简单但是直观的方式
去介绍。有些必要的公式是不能少的但我尽量少用公式多用图。
另外我不是一个好的翻译者所以对于某些实在翻译不清楚的术语
我就会直接用英语。我并不claim我会把整个小波变换讲清楚这是
不可能的事我只能尽力去围绕要点展开比如小波变换相对傅立叶
变换的好处这些好处的原因是什么小波变换的几个根本性质是什
么背后的推导是什么。我希望达到的目的就是一个小波变换的初学
者在看完这个系列之后就能用matlab或者别的工具对信号做小波
变换的基本分析并且知道这个分析大概是怎么回事。
最后说明我不是研究信号处理的专业人士所以文中必有疏漏或者
错误如发现还请不吝赐教。
要讲小波变换我们必须了解傅立叶变换。要了解傅立叶变换我们
先要弄清楚什么是”变换“。很多处理不管是压缩也好滤波也好
图形处理也好本质都是变换。变换的是什么东西呢是基也就是basis。如果你暂时有些遗忘了basis的定义那么简单说在线性代
数里basis是指空间里一系列线性独立的向量而这个空间里的任
何其他向量都可以由这些个向量的线性组合来表示。那basis在变
换里面啥用呢比如说吧傅立叶展开的本质就是把一个空间中的
信号用该空间的某个basis的线性组合表示出来要这样表示的原因
是因为傅立叶变换的本质是。小波变换自然也不例外的和basis有
关了。再比如你用Photoshop去处理图像里面的图像拉伸反转
等等一系列操作都是和basis的改变有关。
既然这些变换都是在搞基那我们自然就容易想到这个basis的选
取非常重要因为basis的特点决定了具体的计算过程。一个空间中
可能有很多种形式的basis什么样的basis比较好很大程度上取决
于这个basis服务于什么应用。比如如果我们希望选取有利于压缩的
话那么就希望这个basis能用其中很少的向量来最大程度地表示信
号这样即使把别的向量给砍了信号也不会损失很多。而如果是图
形处理中常见的线性变换最省计算量的完美basis就是eigenvector
basis了因为此时变换矩阵T对它们的作用等同于对角矩阵( Tv_n =
av_na是eigenvalue )。总的来说抛开具体的应用不谈所有的
basis我们都希望它们有一个共同的特点那就是容易计算用
最简单的方式呈现最多的信号特性。 好现在我们对变换有了基本的认识知道他们其实就是在搞基。当
然搞基也是分形式的不同的变换搞基的妙处各有不同。接下来
先看看傅立叶变换是在干嘛。
傅立叶级数最早是Joseph Fourier 这个人提出的他发现这个basis
不仅仅存在与vector space还存在于function space。这个function
space本质上还是一个linear vector space可以是有限的可以是
无限的只不过在这个空间里vector就是function了而对应的标
量就是实数或者复数。在vector space里你有vector v可以写成
vector basis的线性组合那在function space里function f(x)也可
以写成对应function basis的线性组合也有norm。你的vector basis
可以是正交的我的function basis也可以是正交的比如sin(t)和
sin(2t)。唯一不同的是我的function basis是无穷尽的因为我
的function space的维度是无穷的。好具体来说那就是现在我们
有一个函数f(x)。我们希望将它写成一些cos函数和一些sin函数
的形式像这样
again这是一个无限循环的函数。其中的1cosx, sinx, cos2x …..
这些就是傅立叶级数。傅立叶级数应用如此广泛的主要原因之一
就是它们这帮子function basis是正交的这就是有趣的地方了。为
什么function basis正交如此重要呢我们说两个vector正交那就
是他俩的内积为0。那对于function basis呢function basis怎么求
内积呢 现在先复习一下vector正交的定义。我们说两个vector v,w如果正
交的话应符合
那什么是function正交呢假设我们有两个函数f(x)和g(x)那是什
么我们遵循vector的思路去想两个vector求内积就是把他们
相同位置上对应的点的乘积做一个累加。那移过来就是对每一个x
点对应的f和g做乘积再累加。不过问题是f和g都是无限函
数阿x又是一个连续的值。怎么办呢向量是离散的所以累加
函数是连续的那就是…….积分
我们知道函数内积是这样算的了自然也就容易证明按照这个形式
去写的傅立叶展开这些级数确实都是两两正交的。证明过程这里就
不展开了。好下一个问题就是为什么它们是正交basis如此重要
呢这就牵涉到系数的求解了。我们研究了函数f研究了级数一
堆三角函数和常数1那系数呢a0, a1, a2这些系数该怎么确定呢
好比如我这里准备求a1了。我现在知道什么信号f(x)是已知的
傅立叶级数是已知的我们怎么求a1呢很简单把方程两端的所
有部分都求和cosx的内积即
然后我们发现因为正交的性质右边所有非a1项全部消失了因
为他们和cosx的内积都是0所有就简化为
这样a1就求解出来了。到这里你就看出正交的奇妙性了吧:)
好现在我们知道傅立叶变换就是用一系列三角波来表示信号方程
的展开这个信号可以是连续的可以是离散的。傅立叶所用的
function basis是专门挑选的是正交的是利于计算coefficients的。
但千万别误解为展开变换所用的basis都是正交的这完全取决于具
体的使用需求比如泰勒展开的basis就只是简单的非正交多项式。
有了傅立叶变换的基础接下来我们就看看什么是小波变换。首先
来说说什么是小波。所谓波就是在时间域或者空间域的震荡方程
比如正弦波就是一种波。什么是波分析针对波的分析拉囧。
并不是说小波分析才属于波分析傅立叶分析也是波分析因为正弦
波也是一种波嘛。那什么是小波呢这个”小“是针对傅立叶波而言
的。傅立叶所用的波是什么正弦波这玩意以有着无穷的能量同
样的幅度在整个无穷大区间里面振荡像下面这样
那小波是什么呢是一种能量在时域非常集中的波。它的能量是有限
的而且集中在某一点附近。比如下面这样
这种小波有什么好处呢它对于分析瞬时时变信号非常有用。它有效
的从信号中提取信息通过伸缩和平移等运算功能对函数或信号进行
多尺度细化分析解决了傅立叶变换不能解决的许多困难问题。恩
以上就是通常情况下你能在国内网站上搜到的小波变换文章告诉你
的。但为什么呢这是我希望在这个系列文章中讲清楚的。不过在这
篇文章里我先点到为止把小波变换的重要特性以及优点cover了
在下一篇文章中再具体推导这些特性。
小波变换的本质和傅立叶变换类似也是用精心挑选的basis来表示
信号方程。每个小波变换都会有一个mother wavelet我们称之为母
小波同时还有一个scaling function中文是尺度函数也被成为父
小波。任何小波变换的basis函数其实就是对这个母小波和父小波
缩放和平移后的集合。下面这附图就是某种小波的示意图
从这里看出这里的缩放倍数都是2的级数平移的大小和当前其缩
放的程度有关。这样的好处是小波的basis函数既有高频又有低频
同时还覆盖了时域。对于这点我们会在之后详细阐述。
小波展开的形式通常都是这样注意这个只是近似表达严谨的展
开形式请参考第二篇
其中的 就是小波级数这些级数的组合就形成了小波变换中的
基basis。和傅立叶级数有一点不同的是小波级数通常是orthonormal basis也就是说它们不仅两两正交还归一化了。小
波级数通常有很多种但是都符合下面这些特性
1. 小波变换对不管是一维还是高维的大部分信号都能cover很好。
这个和傅立叶级数有很大区别。后者最擅长的是把一维的类三角波
连续变量函数信号映射到一维系数序列上但对于突变信号或任何高
维的非三角波信号则几乎无能为力。
2. 围绕小波级数的展开能够在时域和频域上同时定位信号也就是
说信号的大部分能量都能由非常少的展开系数比如a_{j,k}决
定。这个特性是得益于小波变换是二维变换。我们从两者展开的表达
式就可以看出来傅立叶级数是 而小波级数是 。
3. 从信号算出展开系数a需要很方便。普遍情况下小波变换的复
杂度是O(Nlog(N))和FFT相当。有不少很快的变换甚至可以达到
O(N)也就是说计算复杂度和信号长度是线性的关系。小波变换的
等式定义可以没有积分没有微分仅仅是乘法和加法即可以做到
和现代计算机的计算指令完全match。
可能看到这里你会有点晕了。这些特性是怎么来的为什么需要有
这些特性具体到实践中它们到底是怎么给小波变换带来比别人更
强的好处的计算简单这个可能好理解因为前面我们已经讲过正交
特性了。那么二维变换呢频域和时域定位是如何进行的呢恩我
完全理解你的感受因为当初我看别的文章也是有这些问题就是看不到答案。要说想完全理解小波变换的这些本质需要详细的讲解
所以我就把它放到下一篇了。
接下来上几张图我们以一些基本的信号处理来呈现小波变换比傅
立叶变换好的地方我保证你看了这个比较之后大概能隐约感受
到小波变换的强大并对背后的原理充满期待:)
假设我们现在有这么一个信号
看到了吧这个信号就是一个直流信号。我们用傅立叶将其展开会
发现形式非常简单只有一个级数系数不是0其他所有级数系数都
是0。好我们再看接下来这个信号
简单说就是在前一个直流信号上增加了一个突变。其实这个突变
在时域中看来很简单前面还是很平滑的直流后面也是很平滑的直
流就是中间有一个阶跃嘛。但是如果我们再次让其傅立叶展开呢
所有的傅立叶级数都为非0了为什么因为傅立叶必须用三角波来
展开信号对于这种变换突然而剧烈的信号来讲即使只有一小段变
换傅立叶也不得不用大量的三角波去拟合就像这样
看看上面这个图。学过基本的信号知识的朋友估计都能想到这不就
是Gibbs现象么Exactly。用比较八股的说法来解释Gibbs现象是
由于展开式在间断点邻域不能均匀收敛所引起的即使在N趋于无
穷大时这一现象也依然存在。其实通俗一点解释就是当变化太
sharp的时候三角波fit不过来了就凑合出Gibbs了:)
接下来我们来看看如果用刚才举例中的那种小波展开之后是这样
的
看见了么只要小波basis不和这个信号变化重叠它所对应的级数
系数都为0也就是说假如我们就用这个三级小波对此信号展开
那么只有3个级数系数不为0 。你可以使用更复杂的小波不管什
么小波大部分级数系数都会是0。原因由于小波basis的特殊性
任何小波和常量函数的内积都趋近于0。换句话说选小波的时候
就需要保证母小波在一个周期的积分趋近于0。正是这个有趣的性质
让小波变换的计算以及对信号的诠释比傅立叶变换更胜一筹原因在
于小波变换允许更加精确的局部描述以及信号特征的分离。一个傅立叶系数通常表示某个贯穿整个时间域的信号分量因此即使是临
时的信号其特征也被强扯到了整个时间周期去描述。而小波展开的
系数则代表了对应分量它当下的自己因此非常容易诠释。
小波变换的优势不仅仅在这里。事实上对于傅立叶变换以及大部分
的信号变换系统他们的函数基都是固定的那么变换后的结果只能
按部就班被分析推导出来没有任何灵活性比如你如果决定使用傅
立叶变换了那basis function就是正弦波你不管怎么scale它都
是正弦波即使你举出余弦波它还是移相后的正弦波。总之你就只
能用正弦波没有任何商量的余地。而对于小波变换来讲基是变的
是可以根据信号来推导或者构建出来的只要符合小波变换的性质和
特点即可。也就是说如果你有着比较特殊的信号需要处理你甚至
可以构建一个专门针对这种特殊信号的小波basis function集合对其
进行分析。这种灵活性是任何别的变换都无法比拟的。总结来说傅
立叶变换适合周期性的统计特性不随时间变化的信号; 而小波变换
则适用于大部分信号尤其是瞬时信号。它针对绝大部分信号的压缩
去噪检测效果都特别好。
看到这里你应该大概了解了小波变换针对傅立叶变换的优点了。你
也许对背后的原因还存在一些疑问并希望深入了解一些小波的构建
等知识请移步本系列第二篇傅立叶变换小波变换和motion信
号处理二 小波变换和motion信号处理二 这是《小波变换和motion信号处理》系列的第二篇深入小波。第
一篇我进行了基础知识的铺垫第三篇主要讲解应用。
在上一篇中讲到每个小波变换都会有一个mother wavelet我们称
之为母小波同时还有一个father wavelet就是scaling function。
而该小波的basis函数其实就是对这个母小波和父小波缩放和平移形
成的。缩放倍数都是2的级数平移的大小和当前其缩放的程度有关。
还讲到小波系统有很多种不同的母小波衍生的小波基就完全不
同。小波展开的近似形式是这样
其中的 就是小波级数这些级数的组合就形成了小波变换中的
基basis。和傅立叶级数有一点不同的是小波级数通常是
orthonormal basis也就是说它们不仅两两正交还归一化了。
我们还讲了一般小波变换的三个特点就是小波级数是二维的能定
位时域和频域计算很快。但我们并没有深入讲解比如如何理解
这个二维它是如何同时定位频域和时域的
在这一篇文章里我们就来讨论一下这些特性背后的原理。
首先我们一直都在讲小波展开的近似形式。那什么是完整形式呢
之前讲到小波basis的形成是基于基本的小波函数也就是母小波来做缩放和平移的。但是母小波并非唯一的原始基。在构建小波
基函数集合的时候通常还要用到一个函数叫尺度函数scaling
function人们通常都称其为父小波。它和母小波一样也是归一化
了而且它还需要满足一个性质就是它和对自己本身周期平移的函
数两两正交
另外为了方便处理父小波和母小波也需要是正交的。可以说完
整的小波展开就是由母小波和父小波共同定义的。
其中 是母小波 是父小波。需要提醒一点的是这个正交纯
粹是为了小波分析的方便而引入的特性并不是说小波变换的基就一
定必须是正交的。但大部分小波变换的基确实是正交的所以本文就
直接默认正交为小波变换的主要性质之一了。引入这个父小波呢主
要是为了方便做多解析度分析multiresolution analysis, MRA。说
到这里你的问题可能会井喷了好好的为什么出来一个父小波呢
这个scaling function是拿来干嘛的它背后的物理意义是什么
wavelet function背后的物理意义又是什么这个多解析度分析又是什么呢不急下面我们围绕一个例子来巩固一下前面的知识同
时再引出新的特性。
假设我们有这样一个信号
该信号长度为8是离散的一维信号。我们要考虑的就是如何用小
波将其展开。为了方便讲解我们考虑最简单的一种小波哈尔小波。
下面是它的一种母小波
那如何构建基于这个母小波的基呢刚才提到了要缩放要平移。
我们先试试缩放那就是ψ(2n)
但这样的话它与自己的内积就不是1了不符合小波基orthonormal
的要求所以我们要在前面加一个系数根号二这样我们就得到了另
一个哈尔小波的basis function
同理我们可以一直这样推广下去做scale得到4n8n…….下的
basis function。当然在这个例子里我们信号长度就是8所以做到
4n就够了。但推广来说就是这种scaling对母小波的作用为
这是归一化后的表示形式。
平移的话也很简单我们可以对母小波进行平移也可以对scale之
后的basis function进行平移。比如对上一幅图中的basis function
进行平移就成了
看得出来平移后的basis function和母小波以及仅仅scale过的小
波都是正交的附合小波basis的特点。如果我们用ψ(n)来表示这
个mother wavelet那么这些orthonormal basis函数可以写成
这里的k是可以看成时域的参数因为它控制着小波基时域的转移
而j是频域的参数因为它决定了小波基的频率特性。看到这里你
应该会感觉很熟悉因为这里的平移和变换本质和刚才对scaling
function的平移变换是一模一样的。
这样我们就有了针对此信号space的哈尔小波basis组合
图1
可以看出我们用到了三层频率尺度的小波函数每往下一层小波
的数量都是上面一层的两倍。在图中每一个小波基函数的表达形式
都写在了波形的下面。
等等你可能已经发现了有问题。这里为什么多了个没有函数表达
式的波形呢这货明显不是wavelet function阿。没错它是之前提
到的scaling function也就是父小波。然后你可能就会问为啥这个
凭空插了一个scaling function出来呢明明目标信号已经可以用纯
的小波基组合表示了。是确实是就算不包括scaling function这
些小波函数本身也组成了正交归一基但如果仅限于此的话小波变
换也就没那么神奇的功效了。引入这个scaling function才能引入我
们提到的多解析度分析的理论而小波变换的强大就体现在这个多
解析度上。那在这里我们怎么用这个多解析度呢这个哈尔小波
basis组合是怎么通过多解析度推导出来的呢
话说在数学定义中有一种空间叫Lebesgue空间对于信号处理非
常重要可以用L^p(R)表示指的是由p次可积函数所组成的函数
空间。我们在小波变换中要研究的信号都是属于L^2(R)空间的这
个空间是R上的所有处处平方可积的可测函数的集合这样就等于对
信号提出了一个限制就是信号能量必须是有限的否则它就不可积
了。小波变换的定义都是基于但不限于L^2(R)中的信号的。这玩意
的特性要具体解释起来太数学了牵涉到太多泛函知识我就不在这里详述了。而且老实说我也没能力完全讲清楚毕竟不是学这个的
有兴趣可以参考wiki。总之你记住小波变换研究中所使用的信号基
本都是平方可积的信号但其应用不限于这种信号就行了。
对L^2(R)空间做MRA是在干嘛呢就是说在L^2(R)空间中我
们可以找出一个嵌套的空间序列 并有下列性质
(i)
(ii)
(iii)
(iv)
(v) 有这样一个方程, 是 的orthonormal basis。
我来简单解释一下这些性质。这个V_j都是L^2(R)空间中的子空间
然后他们是由小到大的交集是{0}因为这是最小的子空间并集
就是L空间。是不是有点难以理解没关系看看下面这个图就清楚
了
这个图是圈圈套圈圈最里面的圈是V0之后分别是V1V2V3
V4 。那他们有趣的性质就是假如有一个函数f(t)他属于一个某空
间那你将其在时域上平移它还是属于这个空间。但如果你对它频
域的放大或缩小它就会相应移到下一个或者上一个空间了。
同时我们还知道你要形容每一个空间的话都需要有对应的
orthonormal basis这是必然的那对于V0来讲它的orthonormal
basis就是
这一系列函数是什么呢是 的时域变换而且我们刚才也说了
时域上平移是不会跳出这个空间的。这样我们就可以说由这一
系列basis所定义的L^2(R)子空间V0被这些basis所span表示成
k从负无穷到正无穷。上面的bar表示这是一个闭包空间也就是说
这样我们就定义了基本的V0这个子空间。刚才说了这个子空间
的基都是对 的整数时域变换这里我们称 为scaling function
所以换个说法就是说这里整个子空间V0由scaling function和其
时域变换的兄弟们span。 当然如果这个scaling function只是用来代表一个子空间的那它
的地位也就不会这么重要了。刚才我们提到这个嵌套空间序列有一
个性质 。这就是这个函数如果你对它频域的放
大或缩小它就会相应移到下一个或者上一个空间了。这个性质就有
意思了它代表什么呢对于任何一个包含V0的更上一层的空间来
讲他们的基都可以通过对scaling function做频域的scale后再做时
域上的整数变换得到推广开来就是说当
我们有
这也就意味着对于任何属于V_j空间的函数f(t)都可以表示为
到这里我们就明白这些个子空间和那个凭空冒出来的scaling
function的作用了。scaling的构建这些不同的子空间的基础当j越
大的时候每一次你对频率变换后的scaling function所做的时域上
的整数平移幅度会越小这样在这个j子空间里面得到的f(t)表示粒
度会很细细节展现很多。反之亦然。通俗点说就是对scaling function的变换平移给你不同的子空间而不同的子空间给你不同的
分辨率这样你就可以用不同的分辨率去看目标信号。
下面就是时候看看什么是MRA equation了这是更加有趣也是更
加核心的地方。通过刚才的讲解V0属于V1那scaling function
是在V0中的自然也在V1中了。我们把他写成V1的基的线性组合
那就是
其中的h(n)是scaling function的系数也叫做scaling filter或者
scaling vector可以是实数也可以是虚数。根号2是为了维持norm
为1的。看在这个公式里我们就把属于V0的函数用V1的基表
示出来了。同理我们可以循环如此把属于V0的 在V2, V3, …,
Vn中表示出来。这些方程就是MRA equation也叫refinement
equation它是scaling function理论的基础也是小波分析的基础
之一。
好稍微总结一下。到现在已经讲了关于scaling function的基本
理论知识知道了信号空间可以分为不同精细度的子空间这些子空
间的basis集合就是scaling function或者频率变换之后的scaling
function如下图所示
上图就是四个子空间的basis集合的展览。通过前面的讨论我们还
知道一开始的scaling function可以通过更精细的子空间的scaling
function它们都是对应子空间的basis来构建。比如
对于更加finer的scale
图2
依此类推。实际上对于任何scale和translate过的scaling function
都可以用更加精细的scale层面上的scaling function构建出来。
然后我们有各种scale下的scaling function了该看看它们分别所
对应的嵌套的空间序列 了。先看看V0自然就是以基本的scaling
function为基础去span出来的
这个不新鲜刚才就讲过了。这个子空间代表什么样的信号常量信
号。道理很简单这个scaling function在整个信号长度上没有任
何变化。继续往下看
这个相比V0更加finer的子空间代表着这样一种信号它从1-4
是常量从5-8是另一个常量。同理我们有
V2代表的信号是分别在12; 34; 56; 78上有相同值的信
号。那么V3呢则表示任何信号因为对于V3来讲任何一个时
间刻度上的值都可以不一样。而且现在我们也可以通过上面的一些scaling functions的波形验证了之前提到的多解析度分析中的一个核
心性质那就是
我们之前讲了一堆多解析度的理论但直到现在通过这些图形化的
分析我们可能才会真正理解它。那好既然我们有一个现成的信号
那就来看看对这个信号作多解析度分析是啥样子的
你看在不同的子空间对于同一个信号就有不同的诠释。诠释最好
的当然是V3完全不损失细节。这就是多解析度的意义。我们可以
有嵌套的由scaling function演变的basis function集合每一个集
合都提供对原始信号的某种近似解析度越高近似越精确。
说到这里可能你对scaling function以及多解析度分析已经比较理
解了。但是我们还没有涉及到它们在小波变换中的具体应用也就
是还没有回答刚才那个问题凭空插了一个scaling function到小波basis组合中干嘛。也就是说我们希望理解scaling function是怎么
和小波函数结合的呢多解析度能给小波变换带来什么样的好处呢。
这其实就是是小波变换中的核心知识。理解了这个后面的小波变换
就是纯数学计算了。
好我们已经知道对于子空间V0basis是scaling function
对应的小波函数是
然后子空间V1的basis集合是这俩哥们
看出什么规律了么多看几次这三个图你会惊讶地发现在V0中
的scaling function和wavelet function的组合其实就是V1中的
basis继续这样推导V1本来的的basis是
然后V1中对应的wavelet function是
他们的组合本质上也就是V2的basis参考图2。你继续推导下
去会得到同样的结论在scale j的wavelet function可以被用来
将Vj的basis扩展到V(j+1)中去这是一个非常非常关键的性质
因为这代表着对任何一个子空间Vj我们现在有两种方法去得到它
的orthonormal basis
1. 一种就是它本来的basis 对任意k。
2. 第二种就是它上一个子空间的basis对任意k以及上一级
子空间的wavelet function 对任意k。 第二种选择能给我们带来额外的好处那就是我们可以循环不断地用
上一级子空间的scaling function以及wavelet function的组合来作为
当前子空间的基。换句话说如果针对V3这个子空间它实际上就
有四种不同的但是等价的orthonormal basis
1. 本级(V3)的scaling function basis set
2. 上一级(V2)的scaling function + wavelet function;
3 . 上上一级(V1)的scaling function + 上上一级(V1)的wavelet
function + 上一级(V2)的wavelet function;
4. 上上上一级(V0)的scaling function + 上上上一级(V0)的wavelet
function + 上上一级(V1)的wavelet function + 上一级(V2)的
wavelet function
好看看最后一种选取方式有没有感到眼熟对了它就是我们之
前提到的“针对此信号space的哈尔小波basis组合”参见图1。现在我们知道了这个scaling function不是凭空插进去的而是通过
不断的嵌套迭代出来的
那为什么我们最后选定的是这种选取方式呢实际上刚才介绍的这
个性质已经告诉我们对于任何的scale j0我们都可以给我们的
signal space找到一组orthonormal basis这个basis是通过组合scale
j0上的scaling function以及所有在scale jj>=j0上的wavelets得
到的。这样基于这个orthonormal basis所有信号空间中的信号都
可以写成组成这个basis的functions的线性组合
对应的系数的计算和平常一样
这就是最终的也是最核心的小波变换形式。不管是信号压缩
滤波还是别的方式处理只要是用小波变换都逃不出这个基础流
程
1. 选取合适的wavelet function和scaling function从已有的信号
中反算出系数c和d。 2. 对系数做对应处理
3. 从处理后的系数中重新构建信号。
这里的系数处理是区别你的应用的重点。比如图像或者视频压缩就
希望选取能将能量聚集到很小一部分系数中的小波然后抛弃那些能
量很小的小波系数只保留少数的这些大头系数再反变换回去。这
样的话图像信号的能量并没有怎么丢失图像体积却大大减小了。
还有一个没有解释的问题是为什么要强调尺度函数和小波函数组成
一个orthonormal basis呢计算方便是一方面还有一个原因是
如果他们满足这个性质就满足瑞利能量定理也就是说信号的能
量可以完全用每个频域里面的展开部分的能量也就是他们的展开
系数表示
到这里我们对小波变换的形式就讲完了。虽然是用的最简单的哈尔
小波为例子但举一反三即可。我们着重介绍了多解析度分析以及它
给小波变换带来的杀手锏时域频域同时定位。结束之前再多说几
句小波变换的意义。我们拿刚才例子中V3子空间的第二种可选择的
orthonormal basis作为例子
左边这四个basis组成元素也就是scaling functions的系数表
征的是信号的local平均想想它们和信号的内积形式而右边的
这四个basis组成元素也就是wavelet functions的系数则表征了
在local平均中丢失的信号细节。得益于此多解析度分析能够对信
号在越来越宽的区域上取平均等同于做低通滤波而且它还能保
留因为平均而损失的信号细节等同于做高通滤波这样我们终于
可以解释了wavelet function和scaling function背后的物理意义了
wavelet function等同于对信号做高通滤波保留变化细节而scaling
function等同于对信号做低通滤波保留平滑的shape
对小波变换的基础知识我们就讲到这里。需要注意的是这只是小
波变换最基本最基本的知识但也是最核心的知识。掌握了这些代
表你对小波变换的物理意义有了一定的了解。但对于小波变换本身的
讲解一本书都不一定能将讲透还有很多的基础知识我都没有讲
比如如何构建自己的scaling function选取合适的系数集h[k]并
由此构建自己的wavelet functions。所以如果有深入下去研究的同学好好买一本书来看吧。而只是希望用小波变换来服务自己的应用
的同学个人觉得这些知识已经足够让你用来起步了。
