百度空间 | 百度首页 | 登录
在狂风中摇曳
我的学习BLOG
主页博客相册个人档案好友
查看文章
[转]小波变换与傅里叶变换
2009-09-22 09:59
如果有人问我,如果傅里叶变换没有学好(深入理解概念),是否能学好小波。答案是否定的。如果有人还问我,如果第一代小波变换没学好,能否学好第二代小波变换。答案依然是否定的。但若你问我,没学好傅里叶变换,能否操作(编程)小波变换,或是没学好第一代小波,能否操作二代小波变换,答案是肯定的。
一、一、基的概念
我们要明确的是基的概念。两者都是基,信号都可以分成无穷多个他们的和(叠加)。而展开系数就是基与信号之间的内积,更通俗的说是投影。展开系数大的,说明信号和基,是足够相似的。这也就是相似性检测的思想。但我们必须明确的是,傅里叶是0-2pi标准正交基,而小波是-inf到inf之间的基。因此,小波在实轴上是紧的。而傅里叶的基(正弦或余弦),与此相反。而小波能不能成为Reisz基,或标准稳定的正交基,还有其它的限制条件。此外,两者相似的还有就是PARSEVAL定理。(时频能量守恒)。
二、二、离散化的处理
傅里叶变换,是一种数学的精妙描述。但计算机实现,却是一步步把时域和频域离散化而来的。第一步,时域离散化,我们得到离散时间傅里叶变换(DTFT),频谱被周期化;第二步,再将频域离散化,我们得到离散周期傅里叶级数(DFS),时域进一步被周期化。第三步,考虑到周期离散化的时域和频域,我们只取一个周期研究,也就是众所周知的离散傅里叶变换(DFT)。这里说一句,DFT是没有物理意义的,它只是我们研究的需要。借此,计算机的处理才成为可能。
下面我们谈谈小波。所有满足容许性条件(从-INF到+INF积分为零)的函数,都可以成为小波。小波作为尺度膨胀和空间移位的一组函数也就诞生了。但连续取值的尺度因子和平移因子,在时域计算量和频域的混叠来说,都是极为不便的。用更为专业的俗语,叫再生核。
也就是,对于任何一个尺度a和平移因子b的小波,和原信号内积,所得到的小波系数,都可以表示成,在a,b附近生成的小波,投影后小波系数的线性组合。这就叫冗余性。这时的连续小波是与正交基毫无关系的东西,它顶多也只能作为一种积分变换或基。但它的显微镜特点和相似性检测能力,已经显现出来了。为了进一步更好的将连续小波变换离散化,以下步骤是一种有效方法。第一步,尺度离散化。
一般只将a二进离散化,此时b是任意的。这样小波被称为二进小波。
第二步,离散b。怎么离散化呢?b取多少才合适呢?于是,叫小波采样定理的东西,就这样诞生了。也就是小波平移的最小距离(采样间隔),应该大于二倍小波基的最高频率(好像类似,记不清了)。所以
b取尺度的整数倍就行了。也就是越胖的小波,对应频谱越窄,平移量应该越大,采样间隔越大。当然,第一二两步的频域理解,即在满足频域窗口中心是3倍的频域窗口半径的前提下,频域就在统计上是完美二分的。(但很多小波满足不了这个条件,而且频域窗口能量不集中,所以只是近似二分的)。这时的小波变换,称为离散二进小波变换。第三步,引入稳定性条件。也就是经过变换后信号能量和原信号能量有什么不等式关系。满足稳定性条件后,也就是一个小波框架产生成了可能。他是数值稳定性的保证。一个稍弱的稳定条件,就是0 三、三、快速算法 如果说现代数字信号处理革命的算法,甚至是很多快速算法的老始祖,或者是满矩阵向量乘法一个几乎不可抗拒的最小计算量NlogN,那就是令我不得不佩服的快速傅里叶变换(FFT)。这里我不想解释过多的基2算法,和所谓的三重循环,还有那经典的蝶形单元,或是分裂基之类,我想说的就是一种时频对应关系。也就是算法的来源。我们 首先明确,时域的卷积对应频域的相乘,因此我们为了实现卷积,可以先做傅里叶变换,接着在频域相乘,最后再做反傅里叶变换。这里要注意,实际我们在玩DSP。因此,大家要记住,圆周卷积和离散傅里叶变换,是一家子。快速傅里叶是离散傅里叶的快速算法。因此,我们实现离散线性卷积,先要补零。然后使得它和圆周卷积相等。然后就是快速傅里叶变换,频域相乘,最后反快速傅里叶变换。当然,如果我们就需要的是圆周卷积,那我们也就不需要多此一举的补零。这里,我们可以把圆周卷积,写成矩阵形式。这点很重要。Y=AX。这里的A是循环矩阵。但不幸的是A仍然是满阵。 小波的快速算法。MALLET算法,是一个令人振奋的东西。它实质给了多分辨率分析(多尺度分析)一个变得一发而不可收的理由。它实质上,讲了这样一个意思。也就是。我在一个较高的尺度(细节)上作离散二进稳定的小波变换,得到了一个结果(小波系数),我若是想得到比它尺度低的小波系数(概貌),我不用再计算内积,只是把较高尺度的小波系数和低通或高通滤波器卷积再抽取即可。但是,所有这些证明的推导是在整个实轴上进行的。即把信号看成无限长的。但这仍不是我们想要的。还有,我们还必须在较高尺度上作一次内积,才可以使用此算法。因此,我们开始简化,并扩展此理论。第一,我们把信号的采样,作为一个较高层的小波系数近似初始值。(这是可以的,因为小波很瘦时,和取样函数无异)。第二,我们把原来的卷积,换为圆周卷积。这和DSP何尝不一样呢?他的物理意义,就是把信号作周期延拖(边界处理的一种),使之在整个实轴上扩展。这种算法令 我为之一贯坚持的是,它是完全正交的,也就是说是正交变换。正变换Y=AX;反变换X=A’Y;一般对于标准正交基,A’是A的共轭转置,对于双正交A’是A的对偶矩阵。但不管如何,我们可以大胆的写,AA’=A’A=I。这里I是单位矩阵。 那怎样操作才是最快的呢?我们来分析A的特点,首先A是正交阵,其次A是有循环矩阵特点,但此时A上半部分是由低通滤波器构成的循环子矩阵,下半部分是由高通滤波器构成的子矩阵,但却是以因子2为循环的。为什么,因为你做了2抽取。所以我们可以,实现小波变换用快速傅里叶变换。这时如果A是满阵的,则复杂度由O(N.^2)下降到O(NlogN)。(这个程序我已经传在了研学上,在原创区)。但还有一点,我们忘了A是稀疏的,因为信号是很长的,而滤波器确实很短的,也就是这个矩阵是个近似对角阵。所以,快速傅里叶是不快的,除非你傻到含有零的元素,也作了乘法。因此,小波变换是O(N)复杂度的。 这是它的优势。但要实现,却不是那么容易,第一个方法,稀疏矩阵存储和稀疏矩阵乘法。第二个方法,因子化。因子化,是一个杰出的贡献。它在原有的O(N)的复杂度基础上,对于长滤波器,又把复杂度降低一半。但量级仍然是O(N)。 四、四、时频分析 对于平稳信号,傅里叶再好不过了。它反映的是信号总体的整个时间段的特点。在频率上,是点频的。而对于非平稳信号,它就无能为力了。而小波恰好对此派上用场。小波是反映信号,某个时间段的特 点的。在频域上,是某个频率段的表现。但小波,作为频谱分析确实存在很多问题。但我们确实可以做出很多的小波满足这个特点。大家可以看冉启文的《小波变换与分数傅里叶变换》书,这里我不再赘述。还有,我们老是说小波是近似频域二分的,这在DSP上是怎样的,最近我也在思考。 五、压缩、消噪、特征提取 傅里叶变换的压缩,已经广泛应用了。它的简化版本就是DCT 变换。而小波包的提出,也就使DCT有些相形见拙。首先,它提出代价函数,一般就是熵准则。其次,一个自适应树分解。再次,基于矩阵范数或较少位编码的稀疏化策略。这些使小波包的压缩近乎完美。小波包是从频域上实现的。从时域上,我们也可采用类似的分裂和并算法,来实现信号最优的表达,这种可变窗小波成为MALVAR小波。记住,压缩是小波最大的优势。 消噪,一般的傅里叶算法,一般可以是IIR滤波和FIR滤波。两者各有优缺点。而小波的消噪,一般也是由多层分解和阈值策略组成。我们需要的是信号的特点,噪声的特点,然后确定用不用小波,或用什么小波。这点上,小波的优势并不是很明显。 特征提取。这是小波的显微镜特点很好地运用。利用模极大值和LIPSCHITZ指数,我们可以对信号的突变点做分析。但这里面的问题也是很多。首先,在不同尺度上,噪声和信号的模极大值变化不同。再次,一般我们用求内积方法,求模极大值,而不用MALLET算法,或者改用叫多孔算法的东西来做。这点,我没任何体会,希望大家多讨论吧。 这里,我不能谈应用很多的细节。但我们必须明确:1。你要对小波概念有着明确的理解。对诸如多分辨率,时频窗口与分析,框架,消失矩,模极大值,LIPSCHITZ指数等有着清醒地认识。2。你必须考虑小波在此问题上的可行性,这点尤为重要,小波不是万能的。 类别:论文| | 添加到搜藏| 分享到i贴吧| 浏览(49) | 评论(0) 上一篇:MPEG-2压缩编码技术原理应用(九) 下一篇:快速傅立叶变换的应用 最近读者: 登录后,您就出现在这里。网友评论: 发表评论: ?2010 Baidu 小波变换与傅里叶变换的对比、异同 一、基的概念 两者都是基,信号都可以分成无穷多个他们的和(叠加)。而展开系数就是基与信号之间的内积,更通俗的说是投影。展开系数大的,说明信号和基是足够相似的。这也就是相似性检测的思想。但我们必须明确的是,傅里叶是0-2pi 标准正交基,而小波是-inf到inf之间的基。因此,小波在实轴上是紧的。而傅里叶的基(正弦或余弦),与此相反。而小波能不能成为Reisz基,或标准稳定的正交基,还有其它的限制条件。此外,两者相似的还有就是PARSEVAL定理。(时频能量守恒)。 二、离散化的处理 傅里叶变换,是一种数学的精妙描述。但计算机实现,却是一步步把时域和频域离散化而来的。第一步,时域离散化,我们得到离散时间傅里叶变换(DTFT),频谱被周期化;第二步,再将频域离散化,我们得到离散周期傅里叶级数(DFS),时域进一步被周期化。第三步,考虑到周期离散化的时域和频域,我们只取一个周期研究,也就是众所周知的离散傅里叶变换(DFT)。这里说一句,DFT是没有物理意义的,它只是我们研究的需要。借此,计算机的处理才成为可能。所有满足容许性条件(从-INF到+INF积分为零)的函数,都可以成为小波。小波作为尺度膨胀和空间移位的一组函数也就诞生了。但连续取值的尺度因子和平移因子,在时域计算量和频域的混叠来说,都是极为不便的。用更为专业的俗语,叫再生核。也就是,对于任何一个尺度a和平移因子b的小波,和原信号内积,所得到的小波系数,都可以表示成,在a,b附近生成的小波,投影后小波系数的线性组合。这就叫冗余性。这时的连续小波是与正交基毫无关系的东西,它顶多也只能作为一种积分变换或基。但它的显微镜特点和相似性检测能力,已经显现出来了。为了进一步更好的将连续小波变换离散化,以下步骤是一种有效方法。第一步,尺度离散化。一般只将a二进离散化,此时b是任意的。这样小波被称为二进小波。第二步,离散b。怎么离散化呢?b取多少才合适呢?于是,叫小波采样定理的东西,就这样诞生了。也就是小波平移的最小距离(采样间隔),应该大于二倍小波基的最高频率(好像类似,记不清了)。所以b取尺度的整数倍就行了。也就是越胖的小波,对应频谱越窄,平移量应该越大,采样间隔越大。当然,第一二两步的频域理解,即在满足频域窗口中心是3倍的频域窗口半径的前提下,频域就在统计上是完美二分的。(但很多小波满足不了这个条件,而且频域窗口能量不?,所以只是近似二分的).这时的小波变换,称为离散二进小波变换.第三步,引入稳定性条件.也就是经过变换后信号能量和原信号能量有什么不等式关系.满足稳定性条件?后,也就是一个小波框架产生了可能.他是数值稳定性的保证.一个稍弱的稳定条件???,就是? 基于二维傅里叶变换和小波变换的图像稀疏表示 一、基于二维傅里叶变换的图像稀疏表示 傅里叶变换是数字图像处理技术的基础,其通过在时空域和频率域来回切换图像,对图像的信息特征进行提取和分析。一幅静止的数字图像可以看成是矩阵,因此,数字图像处理主要是对包含数据的矩阵进行处理。 经过对图像进行二维离散傅里叶变换可以得到它的频谱,进而得到我们所需要的特征。二维离散傅里叶变换及逆变换可以表示为: 其中u=0,1,2,...,M-1和v=0,1,2,...,N-1。其中变量u和v用于确定它们的频率,频域系统是由F(u,v)所张成的坐标系,其中u和v用做(频率)变量。空间域是由f(x,y)所张成的坐标系。 傅立叶频谱图上我们看到的明暗不一的亮点,其意义是指图像上某一点与邻域点差异的强弱,即梯度的大小,也即该点的频率的大小(可以这么理解,图像中的低频部分指低梯度的点,高频部分相反)。一般来讲,梯度大则该点的亮度强,否则该点亮度弱。下图为cameraman原图像及其频谱分布图: cameraman原图像大小为256*256,其傅里叶变换频谱图大小为256*256。 图像从频域到时域的变换过程称为重构过程,通过峰值信噪比(PSNR)对图像进行评价,公式如下: PSNR=10*log10((2^n-1)^2/MSE) MSE是原图像与处理后图像之间均方误差,n是每个采样值的比特数。通过取不同的大系数个数观察图像变化,单独取第1个大系数时: N=1 PSNR=12.2353所取频谱系数对应图 单独取第9个系数时: N=1 PSNR=6.3108第9个频谱系数对应图 N=2 PSNR= 13.1553所取频谱系数对应图 N=10 PSNR=15.4961 所取频谱系数对应图 N=50 PSNR=17.1111 所取频谱系数对应图 拉氏变换和傅里叶变换的关系 一、拉氏变换 1、拉氏变换的定义: 如果有一个以时间t 为自变量的实变函数 ()t f ,它的定义域是 0≥t ,,那么()t f 的的拉普拉斯变换定义为 ()()()0e d st F s L f t f t t ∞ -=?????? (2.10) s 是复变数, ωσj +=s (σ、ω均为实数), ?∞-0e st 称为拉普拉斯积分; )(s F 是函数 )(t f 的拉普拉斯变换,它是一个复变函数,通常也称 )(s F 为 )(t f 的象函数,而称 )(t f 为 )(s F 的原函数;L 是表示进行拉普拉斯变换的符号。 式(2.10)表明:拉氏变换是这样一种变换,即在一定条件下,它能把一实数域中的实变函数变换为一个在复数域内与之等价的复变函数 )(s F 。 2、拉氏变换的意义 工程数学中常用的一种积分变换。它是为简化计算而建立的实变量函数和复变量函数间的一种函数变换。对一个实变量函数作拉普拉斯变换,并在复数域中作各种运算,再将运算结果作拉普拉斯反变换来求得实数域中的相应结果,往往比直接在实数域中求出同样的结果在计算上容易得多。拉普拉斯变换的这种运算步骤对于求解线性微分方程尤为有效,它可把微分方程化为容易求解的代数方程来处理,从而使计算简化。在经典控制理论中,对控制系统的分析和综合,都是建立在拉普拉斯变换的基础上的。 在工程学上,拉普拉斯变换的重大意义在于:将一个信号从时域上,转换为复频域(s 域)上来表示;在线性系统,控制自动化上都有广泛的应用 二、傅里叶变换 1、傅里叶变换的定义: f(t )是t 的函数,如果t 满足狄里赫莱条件:具有有限个间断点;具有有限个极值点;绝对可积。则有下图①式成立。称为积分运算f(t )的傅立叶变换, ②式的积分运算叫做F (ω)的傅立叶逆变换。F (ω)叫做f(t )的像函数,f(t )叫做 F (ω)的像原函数。F (ω)是f(t )的像。f(t )是F (ω)原像。 ① 傅里叶变换 ② 详解傅里叶变换与小波变化 希望能简单介绍一下小波变换,它和傅立叶变换的比较,以及它在移动平台做motion detection的应用。如果不做特殊说明,均以离散小波为例子。考虑到我以前看中文资料的痛苦程度,我会尽量用简单,但是直观的方式去介绍。有些必要的公式是不能少的,但我尽量少用公式,多用图。另外,我不是一个好的翻译者,所以对于某些实在翻译不清楚的术语,我就会直接用英语。我并不claim我会把整个小波变换讲清楚,这是不可能的事,我只能尽力去围绕要点展开,比如小波变换相对傅立叶变换的好处,这些好处的原因是什么,小波变换的几个根本性质是什么,背后的推导是什么。我希望达到的目的就是一个小波变换的初学者在看完这个系列之后,就能用matlab或者别的工具对信号做小波变换的基本分析并且知道这个分析大概是怎么回事。 要讲小波变换,我们必须了解傅立叶变换。要了解傅立叶变换,我们先要弄清楚什么是”变换“。很多处理,不管是压缩也好,滤波也好,图形处理也好,本质都是变换。变换的是什么东西呢?是基,也就是basis。如果你暂时有些遗忘了basis的定义,那么简单说,在线性代 数里,basis是指空间里一系列线性独立的向量,而这个空间里的任何其他向量,都可以由这些个向量的线性组合来表示。那basis在变换里面啥用呢?比如说吧,傅立叶展开的本质,就是把一个空间中的信号用该空间的某个basis的线性组合表示出来,要这样表示的原因,是因为傅立叶变换的本质,是。小波变换自然也不例外的和basis有关了。再比如你用Photoshop去处理图像,里面的图像拉伸,反转,等等一系列操作,都是和basis的改变有关。 既然这些变换都是在搞基,那我们自然就容易想到,这个basis的选取非常重要,因为basis的特点决定了具体的计算过程。一个空间中可能有很多种形式的basis,什么样的basis比较好,很大程度上取决于这个basis服务于什么应用。比如如果我们希望选取有利于压缩的话,那么就希望这个basis能用其中很少的向量来最大程度地表示信号,这样即使把别的向量给砍了,信号也不会损失很多。而如果是图形处理中常见的线性变换,最省计算量的完美basis就是eigenvector basis了,因为此时变换矩阵T对它们的作用等同于对角矩阵(Tv_n= av_n,a是eigenvalue)。总的来说,抛开具体的应用不谈,所有的basis,我们都希望它们有一个共同的特点,那就是,容易计算,用最简单的方式呈现最多的信号特性。 好,现在我们对变换有了基本的认识,知道他们其实就是在搞基。当然,搞基也是分形式的,不同的变换,搞基的妙处各有不同。接下来先看看,傅立叶变换是在干嘛。 小波变换与傅里叶变换 的对比异同 IMB standardization office【IMB 5AB- IMBK 08- IMB 2C】小波变换与傅里叶变换的对比异同
基于傅里叶变换和小波变换的图像稀疏表示
拉氏变换和傅里叶变换的关系
详解傅里叶变换与小波变换
小波变换与傅里叶变换的对比异同