EDA365电子论坛网

标题: 小波变换完美通俗解读 [打印本页]

作者: geronimo123    时间: 2021-1-29 14:54
标题: 小波变换完美通俗解读
       要讲小波变换,我们必须了解傅立叶变换。要了解傅立叶变换,我们先要弄清楚
      什么是”变换“。很多处理,不管是压缩也好,滤波也好,图形处理也好,本质都是变换。变换的是什么东西呢?是基,也就是basis。如果你暂时有些遗忘了basis 的定义,那么简单说,在线性代数里,basis 是指空间里一系列线性独立的向量,而这个空间里的任何其他向量,都可以由这些个向量的线性组合来表示。那basis 在变换里面啥用呢?比如说吧,傅立叶展开的本质,就是把一个空间中的信号用该空间的某个basis 的线性组合表示出来,要这样表示的原因,是因为傅立叶变换的本质,是。小波变换自然也不例外的和basis 有关了。再比如你用Photoshop 去处理图像,里面的图像拉伸,反转,等等一系列操作,都是和basis 的改变有关。

/ X: K+ n1 a7 f. c' |
      既然这些变换都是在搞基,那我们自然就容易想到,这个basis 的选取非常重要,因为basis 的特点决定了具体的计算过程。一个空间中可能有很多种形式的basis,什么样的basis 比较好,很大程度上取决于这个basis 服务于什么应用。比如如果我们希望选取有利于压缩的话,那么就希望这个basis 能用其中很少的向量来最大程度地表示信号,这样即使把别的向量给砍了,信号也不会损失很多。而如果是图形处理中常见的线性变换,最省计算量的完美basis 就是eigenvector basis 了,因为此时变换矩阵T 对它们的作用等同于对角矩阵( Tv_n = av_n,a 是eigenvalue )。总的来说,抛开具体的应用不谈,所有的basis,我们都希望它们有一个共同的特点,那就是,容易计算,用最简单的方式呈现最多的信号特性。
    好,现在我们对变换有了基本的认识,知道他们其实就是在搞基。当然,搞基也是分形式的,不同的变换,搞基的妙处各有不同。接下来先看看,傅立叶变换是在干嘛。
     傅立叶级数最早是Joseph Fourier 这个人提出的,他发现,这个basis 不仅仅存在与vector space,还存在于function space。这个function space 本质上还是一个linear vector space,可以是有限的,可以是无限的,只不过在这个空间里,vector 就是function 了,而对应的标量就是实数或者复数。在vector space 里,你有vector v可以写成vector basis 的线性组合,那在function space 里,function f(x)也可以写成对应function basis 的线性组合,也有norm。你的vector basis 可以是正交的,我的function basis 也可以是正交的(比如sin(t)和sin(2t))。唯一不同的是,我的function basis 是无穷尽的,因为我的function space 的维度是无穷的。好,具体来说,那就是现在我们有一个函数,f(x)。我们希望将它写成一些cos 函数和一些sin 函
数的形式,像这样
     again,这是一个无限循环的函数。其中的1,cosx, sinx, cos2x …..这些,就是傅立叶级数。傅立叶级数应用如此广泛的主要原因之一,就是它们这帮子function basis是正交的,这就是有趣的地方了。为什么function basis 正交如此重要呢?我们说两个vector 正交,那就是他俩的内积为0。那对于function basis 呢?function basis 怎么求内积呢?
    现在先复习一下vector 正交的定义。我们说两个vector v,w 如果正交的话,应符合:
    那什么是function 正交呢?假设我们有两个函数f(x)和g(x),那是什么?我们遵循vector 的思路去想,两个vector 求内积,就是把他们相同位置上对应的点的乘积做一个累加。那移过来,就是对每一个x 点,对应的f 和g 做乘积,再累加。不过问题是,f 和g 都是无限函数阿,x 又是一个连续的值。怎么办呢?向量是离散的,所以累加,函数是连续的,那就是…….积分!
      我们知道函数内积是这样算的了,自然也就容易证明,按照这个形式去写的傅立叶展开,这些级数确实都是两两正交的。证明过程这里就不展开了。好,下一个问题就是,为什么它们是正交basis 如此重要呢?这就牵涉到系数的求解了。我们研究了函数f,研究了级数,一堆三角函数和常数1,那系数呢?a0, a1, a2 这些系数该怎么确定呢?好,比如我这里准备求a1 了。我现在知道什么?信号f(x)是已知的,傅立叶级数是已知的,我们怎么求a1 呢?很简单,把方程两端的所有部分都求和cosx 的内积,即:
然后我们发现,因为正交的性质,右边所有非a1 项全部消失了,因为他们和
cosx 的内积都是0!所有就简化为
    这样,a1 就求解出来了。到这里,你就看出正交的奇妙性了吧
好,现在我们知道,傅立叶变换就是用一系列三角波来表示信号方程的展开,这个信号可以是连续的,可以是离散的。傅立叶所用的function basis 是专门挑选的,是正交的,是利于计算coefficients 的。但千万别误解为展开变换所用的basis 都是正交的,这完全取决于具体的使用需求,比如泰勒展开的basis 就只是简单的非正交多项式。
    有了傅立叶变换的基础,接下来,我们就看看什么是小波变换。首先来说说什么是小波。所谓波,就是在时间域或者空间域的震荡方程,比如正弦波,就是一种波。什么是波分析?针对波的分析拉(囧)。并不是说小波分析才属于波分析,傅立叶分析也是波分析,因为正弦波也是一种波嘛。那什么是小波呢?这个”小“,是针对傅立叶波而言的。傅立叶所用的波是什么?正弦波,这玩意以有着无穷的能量,同样的幅度在整个无穷大区间里面振荡,像下面这样:
  D8 j# q: \* o9 Q$ t) K- v3 {: V

. c2 m5 g4 X3 ]% r! c% i
那小波是什么呢?是一种能量在时域非常集中的波。它的能量是有限的,而且集中在某一点附近。比如下面这样:
/ A. R4 O/ S+ }6 E4 }
% u' k9 v( X( b$ E$ g' f
这种小波有什么好处呢?它对于分析瞬时时变信号非常有用。它有效的从信号中提取信息,通过伸缩和平移等运算功能对函数或信号进行多尺度细化分析,解决了傅立叶变换不能解决的许多困难问题。恩,以上就是通常情况下你能在国内网站上搜到的小波变换文章告诉你的。但为什么呢?这是我希望在这个系列文章中讲清楚的。不过在这篇文章里,我先点到为止,把小波变换的重要特性以及优点cover 了,在下一篇文章中再具体推导这些特性。
    小波变换的本质和傅立叶变换类似,也是用精心挑选的basis 来表示信号方程。每个小波变换都会有一个mother wavelet,我们称之为母小波,同时还有一个scaling function,中文是尺度函数,也被成为父小波。任何小波变换的basis 函数,其实就是对这个母小波和父小波缩放和平移后的集合。下面这附图就是某种小波的示意图:

, C4 S& [* T9 e) i
" h/ A" ~0 b/ t5 V
从这里看出,这里的缩放倍数都是2 的级数,平移的大小和当前其缩放的程度有关。这样的好处是,小波的basis 函数既有高频又有低频,同时还覆盖了时域。对于这点,我们会在之后详细阐述。
    小波展开的形式通常都是这样(注意,这个只是近似表达,严谨的展开形式请参
考第二篇):

2 G: k, p8 F6 R; A) ]; ~

5 ]- W" l1 H9 n0 |9 ~6 G9 m
其中的 就是小波级数,这些级数的组合就形成了小波变换中的基basis。和傅立叶级数有一点不同的是,小波级数通常是orthonormal basis,也就是说,它们不仅两两正交,还归一化了。小波级数通常有很多种,但是都符合下面这些特性:
1. 小波变换对不管是一维还是高维的大部分信号都能cover 很好。这个和傅立叶级数有很大区别。后者最擅长的是把一维的,类三角波连续变量函数信号映射到一维系数序列上,但对于突变信号或任何高维的非三角波信号则几乎无能为力。
2. 围绕小波级数的展开能够在时域和频域上同时定位信号,也就是说,信号的大部分能量都能由非常少的展开系数,比如a_{j,k},决定。这个特性是得益于小波变换是二维变换。我们从两者展开的表达式就可以看出来,傅立叶级数是,而小波级数是。
3. 从信号算出展开系数a 需要很方便。普遍情况下,小波变换的复杂度是
O(Nlog(N)),和FFT 相当。有不少很快的变换甚至可以达到O(N),也就是说,计算复杂度和信号长度是线性的关系。小波变换的等式定义,可以没有积分,没有微分,仅仅是乘法和加法即可以做到,和现代计算机的计算指令完全match。

% e. V; I2 R  m( j. o; a  F
可能看到这里,你会有点晕了。这些特性是怎么来的?为什么需要有这些特性?
具体到实践中,它们到底是怎么给小波变换带来比别人更强的好处的?计算简单这个可能好理解,因为前面我们已经讲过正交特性了。那么二维变换呢?频域和时域定位是如何进行的呢?恩,我完全理解你的感受,因为当初我看别的文章,也是有这些问题,就是看不到答案。
    接下来,上几张图,我们以一些基本的信号处理来呈现小波变换比傅立叶变换好的地方,我保证,你看了这个比较之后,大概能隐约感受到小波变换的强大,并对背后的原理充满期待
    假设我们现在有这么一个信号:
1 S! |: U% z" L+ i/ Z! q
0 F6 o, g2 v8 ^1 k+ N5 X
看到了吧,这个信号就是一个直流信号。我们用傅立叶将其展开,会发现形式非常简单:只有一个级数系数不是0,其他所有级数系数都是0。我们再看这个信号:
( A& }) `9 O9 V8 g9 e

  Z  Q% Y  f: G! H% ^8 u5 {
简单说,就是在前一个直流信号上,增加了一个突变。其实这个突变,在时域中看来很简单,前面还是很平滑的直流,后面也是很平滑的直流,就是中间有一个阶跃嘛。但是,如果我们再次让其傅立叶展开呢?所有的傅立叶级数都为非0 了!为什么?因为傅立叶必须用三角波来展开信号,对于这种变换突然而剧烈的信号来讲,即使只有一小段变换,傅立叶也不得不用大量的三角波去拟合,就像这样:

* ~1 B5 B+ u: e/ w8 W

6 R  a5 v# I8 e* c& @2 l1 I# w
看看上面这个图。学过基本的信号知识的朋友估计都能想到,这不就是Gibbs 现象么?Exactly。用比较八股的说法来解释,Gibbs 现象是由于展开式在间断点邻域不能均匀收敛所引起的,即使在N 趋于无穷大时,这一现象也依然存在。其实通俗一点解释,就是当变化太sharp 的时候,三角波fit 不过来了,就凑合出Gibbs 了接下来我们来看看,如果用刚才举例中的那种小波,展开之后是这样的:
& F. w2 h1 s8 ?% \  e+ p7 Z$ O( M
/ \  T; M/ c6 e3 E4 N6 E' t9 N4 ?
      看见了么?只要小波basis 不和这个信号变化重叠,它所对应的级数系数都为0!也就是说,假如我们就用这个三级小波对此信号展开,那么只有3 个级数系数不为0 。你可以使用更复杂的小波,不管什么小波,大部分级数系数都会是0。原因?由于小波basis 的特殊性,任何小波和常量函数的内积都趋近于0。换句话说,选小波的时候,就需要保证母小波在一个周期的积分趋近于0。正是这个有趣的性质,让小波变换的计算以及对信号的诠释比傅立叶变换更胜一筹!原因在于,小波变换允许更加精确的局部描述以及信号特征的分离。一个傅立叶系数通常表示某个贯穿整个时间域的信号分量,因此,即使是临时的信号,其特征也被强扯到了整个时间周期去描述。小波展开的系数则代表了对应分量它当下的自己,因此非常容易诠释。小波变换的优势不仅仅在这里。事实上,对于傅立叶变换以及大部分的信号变换系统,他们的函数基都是固定的,那么变换后的结果只能按部就班被分析推导出来,没有任何灵活性,比如你如果决定使用傅立叶变换了,那basis function 就是正弦波,你不管怎么scale,它都是正弦波,即使你举出余弦波,它还是移相后的正弦波。总之你就只能用正弦波,没有任何商量的余地。而对于小波变换来讲,基是变的,是可以根据信号来推导或者构建出来的,只要符合小波变换的性质和特点即可。也就是说,如果你有着比较特殊的信号需要处理,你甚至可以构建一个专门针对这种特殊信号的小波basis function 集合对其进行分析。这种灵活性是任何别的变换都无法比拟的。
    总结来说,傅立叶变换适合周期性的,统计特性不随时间变化的信号; 而小波变换则适用于大部分信号,尤其是瞬时信号。它针对绝大部分信号的压缩,去噪,检测效果都特别好。

/ f. X& n0 O1 X0 D% S% [* Q/ t# Q0 F
作者: shapeofyou888    时间: 2021-1-29 15:28
傅立叶变换适合周期性的,统计特性不随时间变化的信号




欢迎光临 EDA365电子论坛网 (https://bbs.eda365.com/) Powered by Discuz! X3.2