搜档网
当前位置:搜档网 › 盲源分离算法初步研究

盲源分离算法初步研究

盲源分离算法初步研究
盲源分离算法初步研究

盲源分离算法初步研究

一、盲源分离基本问题

1.概念

BSS 信号盲分离,是指从若干观测到的混合信号中恢复出未知的源信号的方法。典型的观测到的混合信号是一系列传感器的输出,而每一个传感器输出的是一系列源信号经过不同程度的混合之后的信号。其中,“盲”有两方面的含义:(1)源信号是未知的;(2)混合方式也是未知的。

根据不同的分类标准,信号盲分离问题可以分成以下几类:

(1)从混合通道的个数上分,信号的盲分离可以分为多通道信号分离和单通道信号分离。单通道信号分离是指多路源信号混合后只得到一路混合信号,设法从这一路混合信号中分离出多个源信号的问题就是单通道信号分离。多通道信号分离是M 个源信号混合后得到N 路混合信号(通常N ≥M )。从N 路混合信号中恢复出M 个源信号的问题即为多通道信号分离。一般情况下,单通道信号分离的难度要超过多通道信号分离。

(2)从源信号的混合方式上分,可将信号盲分离问题分为瞬时混合和卷积混合、线性混合和非线性混合等不同种类。在目前信号盲分离的研究文章中,所建模型大部分为瞬时混合。但是,作为更接近实际情况的卷积混合方式正受到越来越多的关注。

(3)根据源信号的种类,也可将信号盲分离分为多类。在通常的处理方法上,根据不同种类信号的特点,也有一些独特的处理技术。

2.盲分离问题的描述

BSS 是指仅从观测的混合信号(通常是多个传感器的输出)中恢复独立的源信号,在科学研究和工程应用中,很多观测信号都可以假设成是不可见的源信号的混合。所谓的“鸡尾酒会”问题就是一个典型的例子。在某个场所,多个人正在高声交谈。我们用多个麦克风来接受这些人说话的声音信号。每个人说话的声音是源信号,麦克风阵列的输出是观测信号。由于每个麦克风距离各个说话者的相对方位不同,它们接受到的也是这些人的声音信号以不同方式的混合。盲信号分离此时的任务是从麦克风阵列的输出信号中估计出每个人各自说话的声音信号,即源信号。如果混合系统是已知的,则以上问题就退化成简单的求混合矩阵的逆矩阵。但是在更多的情况下,人们无法获取有关混合系统的先验知识,这就要求人们从观测信号来推断这个混合矩阵,实现盲源分离。

3.混合模型

信号的混合模型包含两个方面的内容:(1)源信号的统计特征;(2)源信号的混合方式。

3.1源信号的统计特征

已有的研究表明如果加上源信号间相互独立的限制条件,就可以有效地补偿对以上先验知识的缺乏。如果用q i 表示第i 个分量的概率密度函数,则这种统计独立性可以表示为:

11221()()...()()n

n n i i i q s q s q s q s ==???=∏q(s) 其中q(s)是s 的联合概率密度函数。

3.2源信号的混合方式

最简单的混合模型假定各个分量是线性叠加混合在一起而形成观测信号的。基于这样的假设,我们可以把观测信号和源信号用矩阵的方式表示为:

()()t t =x Hs

式中H 是n ×n 阶的混合矩阵。基于该模型,盲信号分离()()t t =x Hs 的目标可以表

述为,找到一个分离矩阵W ,使得()()t t =y Wx ,是对源信号()t s 的良好的估计,显然在最理想的情况下我们应该能找到1-=W H ,此时有()()t t =y s ,

即我们完全恢复了源信号。 4.盲分离的数学模型

由此我们建立这样的盲源分离的数学模型:设有N 个未知的源信号()i s t ,i=1,…,N 构成一个列向量1()(),...,()T

N t s t s t ??=??S ,其中t 是离散时刻,取值为0,1,2…。设A 是一个M ×N 维矩阵,一般称为混合矩阵。设1(t)(),...,()T M x t x t ??=??X 是由M 个可观察信号(t)i X ,i=1,…,M 构成的列向量,且满足下列方程: (t)()t =X AS , M ≥N

BSS 的问题是,对任意t ,根据已知的(t)X 在A 未知的条件下求已知的()t S 。这构成了一个无噪声的盲分离问题。设1()(),...,()T

M N t N t N t ??=??是由M 个白色、高斯、统计独立噪声信号()i N t 构成的列向量,且(t)X 满足下列方程: (t)()()t N t =+X AS , M ≥N

则由已知的(t)X 在A 未知的条件下求已知的()t S 的问题是一个有噪声盲分离问题。

5.信号盲分离的不确定性

需要指出的是对瞬时混合信号盲分离,当源信号可以精确恢复的情况下应有1-=W A ,在假设条件的约束下,盲源分离问题是可解的,只不过存在两个不确定性,即恢复的源信号的幅度不确定和源信号各分量次序的不确定性。

5.1分离结果的幅度存在不确定性

由于在X =AS 中,A 和S 均未知,如果将S 中任一分量i S 扩大a 倍,只需将A 中相应的混合系数乘以1/a ,上式仍成立。在观测信号幅度不变的前提下,源信号的幅度存在不确定性。因此,在求解独立分量时,往往事先假设S 具有单位方差{}2

1i E S =,且各分量均值为零。

5.2分离结果的排序存在不确定性

由于A 和S 的未知,公式X =AS 中独立分量的顺序可能会被调换,在X =AS 中插入一个置换矩阵P 和它的逆矩阵P -1,得到-1X =AP PS ,将-1AP 看成新的混合矩阵,则PS 中的各分量便成为新的已调换顺序的独立源i S 。这表明ICA 分离结果存在顺序上的不确定性。

二、独立分量分析

1.独立分量分析介绍

目前的盲信源分离方法主要都是基于神经网路的ICA 独立分量分析方法,ICA 是20世纪90年代发展起来的一种新的型号处理技术,最早是由Comon 提出的,它是从多维统计数据中找出隐含因子或分量的方法。从线性变换和线性空间角度,源信号为相互独立的非高斯型号,可以看作线性空间的基信号,而观测信号则为源信号的线性组合,ICA 就是在源信号和线性变换均不可知的情况下,从观测的混合信号中估计出数据空间的基本结构或者说源信号。所以说ICA 的任务和目的就是在只有传感器观测数据的条件下恢复独立的源信号,而这些传感器观测数据是那些不可测量的独立源信号经过未知线性混合后的输出。

2.独立分量分析的线性模型

ICA 是伴随着BSS 问题发展起来的,ICA 的目的是对任何t ,根据已知的X(t)在A 未知时求未知的S(t),ICA 的思路是设置一个N ×N 维反混合阵(w )ij =W ,X(t)经过W 变换后得到N 维输出列向量Y(t),1()(),...,()T

N Y t Y t Y t ??=??,考虑如下线性瞬时混合信号系统模型,即假设传输是瞬时的,也就是不同信号到达各个传感器的时间差别可以忽略不计,并且传感器接收到的是各个源信号的线性组合,即有 ()()()t t t ==Y WX WAS

整个过程可以表示成如下图:

如果通过学习得以实现WA =I (I 是N ×N 维单位阵),则()()t t =Y S ,从而达到了源信号分离目标。

3.ICA 问题中的基本假设

由于源信号来自不同的信号源,所以一个合理的假设是认为各个源信号S i (t)之间是统计独立的。用f(s)表示源信号矢量s(t)的联合概率密度函数,而用f 1(s 1),…,f N (s N )分别表示源信号的边际概率密度函数,则源信号矢量各个分量之间的统计独立性假设描述为:

11221()()()...()()N

n n i i i f s f s f s f s f s ==???=∏ 即源信号矢量s(t)的联合概率密度函数为其各分量的边际概率密度函数的乘积。这一源信号的统计独立性假设,是已有的绝大多数信号源盲分离算法的基础出发点。

除了对源信号矢量s(t)各个分量之间的统计独立性假设之外,还需要对混合矩阵做出合理的假设。显然,如果能求出矩阵A 的广义逆矩阵A -1,则有

-1()(t )S t A X =

为使盲分离问题可解,必须保证混合矩阵A 的左逆存在,因此盲分离问题总假设混合矩阵A 是列满秩的。

综上所示,ICA 的几个基本假设条件来解决BSS 问题:

(1)各源信号S i (t)均为0均值、实随机变量,各源信号之间统计独立。

(2)源信号数M 与观察信号数N 相同,即N=M ,这是混合阵A 是一个确定且未知的N ×N 维方阵。假设A 是列满秩的,逆矩阵A -1存在。

(3)各个S i (t)的概率分布函数中最多允许有一个具有高斯分布。

(4)各观察器引入的噪声很小,可以忽略不计。源信号与观察信号之间的关系N=M 。

(5)关于各源信号的概率分布函数要略有一些先验知识。

4.对信号的预处理

在使用ICA 算法之前进行一些预处理通常是十分有利的。它们常使ICA 估计问题变得更加简单。最常见的预处理过程有两个,一是去除信号的均值,另一个事白化。

4.1信号的零均值化

对观测信号去均值是ICA 算法最基本和最必须的预处理步骤,其处理过程是从观测信号中减去信号的均值向量(x)m =E ,使得观测信号成为零均值向量。这意味着ICA 得到的源信号的S(t)估计y(t)也是零均值的,该预处理只是为了简化ICA 算法,并不意味着均值不能估计出来。用去均值数据估计分离矩阵W 后,可以在源信号的估计Y 上加上均值,此时所加的均值矢量是-1A m ,m 为在预处理过程中所减去的均值。

4.2白化

一般情况下,所获得的数据都具有相关性,所以通常都要求对数据进行初步的白化或球化处理,因为白化处理可去除观测信号之间的相关性,从而简化了后续独立分量的提取过程,而且通常情况下,数据进行白化处理与不对数据进行白化处理相比,算法的收敛性较好,有更好的稳定性。但是当混合矩阵A 为病态矩阵或者某些源信号较其他源信号强度弱很多时,白化可能使ICA 很难甚至不可能实现分离。

5.独立分量分析独立性的度量

ICA 以统计独立性为基本原则,统计独立的衡量为ICA 算法的关键。

5.1非高斯性极大

非高斯性的存在是ICA 方法必须的前提条件,如果随机变量都是高斯分布,那么ICA 方法也就没有研究的必要。实际上,自然界中的大部分随机信号都是超高斯或亚高斯分布,真正满足高斯分布的很少,因此ICA 具有极其重要的意义和广泛的应用前景。基于非高斯性极大的ICA 思想来自于中心极限定理,中心极限定理表明,当一组均值和方差为同一数量级的随机变量共同作用的结果必接近于高斯分布。因此,如果观测信号是多个独立源的线性组合,那么观测信号比源信号更接近高斯分布,或者说源信号的非高斯性比观测信号的非高斯性要强。根据这一思想,我们可以对分离结果的非高斯性进行度量,当其非高斯性达到最大时,可以认为实现最佳分离。

5.2互信息量最小

互信息通常为非负值,只有当变量之间相互独立时,互信息为0。设N 维随机列向量X(t)的概率分布函数为p X (X),它的各分量X i (t)的概率分布函数为p i (X i ),i=1~N 。可以用p X (X)和i 1()N i i p X =∏

之间的KL 发散度来衡量X(t)各分量之间的统计独立性。这一量也称为X(t)

各分量间的互信息,并表示为I(X),即有:

i 1i 1()()[()p ()]p ()ln p ()N X X i i X N X i i p X I X KL p X X X dX X ==??????==??????

∏?

∏ 可以看到,()0I X =,i 1()p ()N

X i i p X X ==∏,X(t)的各分量统计独立,这三种表述

完全等价。多以互信息也可用来度量独立性。

5.3非线性不相关

由统计分析知识可知,对于统计独立的源信号矢量,其联合概率密度是可分的,且可推出相互独立的随机变量的任意阶联合矩也是可分的。非线性不相关用于分离结果独立性的度量,以不同的方式在很多ICA 分离算法中得以体现。差别在于非线性函数的选择所有不同,但本质上都是为了充分利用随机变量的高阶统计特性进行盲分离,以实现最佳的分离结果。下图为带有非线性环节的分离模型。

6.基于盲源分离的电磁干扰测试可行性分析

对电磁干扰的研究实际上就是对电磁波的研究。电磁波具有其可以辨识的特点,即频率及幅度。我们可以用这两个特点作为基函数,对不同干扰源发射的电磁干扰加以区别。在对干扰源的定义上我们认为由同一信号源发出的基带信号及其谐波信号和寄生信号同属于一个干扰信号。因为同一信号源发出的电磁干扰在统计上的概率是具有相关性的,因此可以以此为依据对电磁干扰源进行分离。由以上的分析可以看出,电磁干扰测试满足盲源分离所需的条件,因此将盲源分离技术应用于电磁干扰测试是可行的。

对于空间电磁波,我们可以将其视为正弦时变场。因为正弦时变场在数学上求解相对简单,并且非正弦时变场总可以通过傅里叶变换转化为正弦时变场的叠加。在正弦时变场中,场是按t ωcos 或t ωsin 得关系与时间变量相联系的。瞬时正弦时变场

()()()[]()()[]

()()[]r t r A i r t r A i r t r A i t r A z z z y y y x x x θωθωθω+++++=cos cos cos , 由上式可以看出,针对不同的干扰源其发射的电磁波具有不同的频率和幅度,这是进行分离的一个突破口。目前的电磁干扰测试多集中在频域中进行,可以很清楚地看出不同频率信号的特点,但无法将各个信号分离开来,对每个干扰源的特性也无从了解。而盲源分离技术在时域有很好的应用,因此可以对时域与频域的相关性进行分析,从而解决信号的辨识问题。不同频率的电磁波的幅度是可测的,由此可以根据不同接收器所接收信号幅度的不同来判断干扰源的位置。这两点结论的得出对电磁干扰测试是很有价值的。

可将电磁干扰信号的混合形式理解成线性瞬时混合模型,则对电磁干扰信号的盲源分离过程可采用神经网络结构,由下图所示的结构模型表示,一个等变化的盲信号分离批处理算法若变成自适应算法,则批处理算法提供“均匀性能”的原有特点也将被其自适应算法所继承。

s 1s n 未知信号源未知混合矩阵可观测的混合信号神经网络被分离的输出信号

图中()t x i 是经过线性瞬时混合得到M 个观测信号:

()()M i s a t x N

j j ij i ,...,2,1 1==∑=

其中,],...2,1[],,...,2,1[,M j N i a ij ∈∈是混合参数,],...,2,1[,N j s j ∈是源信号,],...2,1[,M i x i ∈是观测信号。上式也可以用矩阵形式表达为:

()()t AS t X =

其中,()()()()T

M t x t x t x t X ],...,,[21=,()()()()T N t s t s t s t S ],...,,[21=,A 是元素ij a 的混合矩阵。

矩阵W 是要求出的分离矩阵,],...,2,1[,N i y i ∈是源信号的一个估计,整个分离过程是一个自适应的学习过程,经过多次的反馈运算,最后得到一个与源信号最为接近的估计,整个过程的收敛速度与算法的选择密切相关。

孙烽原 基于MATLAB的线性盲信号分离算法的研究

毕业论文(设计)材料 题目:基于 MATLAB 的线性盲信号分离算 法的研究 学生姓名:孙烽原 学生学号:0908030229 系别:电气信息工程学院 专业:电子信息工程 届别:2013 指导教师:张大雷

填写说明 1、本材料包括淮南师范学院本科毕业论文(设计)任务书、开题报告以及毕业论文(设计)评审表三部分内容。 2、本材料填写顺序依次为: (1)指导教师下达毕业论文(设计)任务书; (2)学生根据毕业论文(设计)任务书的要求,在文献查阅的基础上撰写开题报告,送交指导教师审阅并签字认可; (3)毕业论文(设计)工作后期,学生填写毕业论文(设计)主要内容,连同毕业论文(设计)全文一并送交指导教师审阅,指导教师根据学生实际完成的论文(设计)质量进行评价; (4)指导教师将此表连同学生毕业论文(设计)全文一并送交评阅教师评阅。 3、指导教师、评阅教师对学生毕业论文(设计)的成绩评定均采用百分制。 4、毕业论文(设计)答辩记录不包括在此表中。

一、毕业论文(设计)任务书 要求完成的主要任务及达到的目标 顾名思义,盲信号是指未知的、有杂乱无章特征的信号,人们难以得知源信号以及源信号的结合形式。对于盲信号的处理是通信时代比较前沿的技术之一,从接收信号中尽力还原源信号的技术称为盲源分离、盲信号提取。这已经称为通信信号学术领域的研究焦点。盲信号处理如今广泛被语音识别、语音增强、图像处理、通信系统、地震探测、遥感、数据挖掘、计量经济学、医学成像等领域所应用。根据传输介质的不同混合方式,盲信号处理有线性瞬时混合信号盲处理、线性卷积混合信号盲处理、非线性混合信号盲处理三种。本研究主要讨论有线性瞬时混合信号忙处理的计算方法。 ?对盲信号处理学各类算法的了解和掌握; ?对有线瞬时混合信号忙处理方法的熟悉和精通; ?对于MATLAB软件的熟练操作; ?实现用MATLAB软件实现对线性盲信号分离算法。 在此基础上巩固、加深和扩大MATLAB应用的知识面,进一步了解用此款软件对数字信号处理、数字图像处理、工程设计等的应用。加深对盲信号处理知识的掌握深度,加强对线性盲信号分离算法的理解,提高综合及灵活运用所学知识研究各类数学算法的能力。学会查阅书籍,并且要能够熟练的运用数学软件、编写程序、仿真、处理信号问题的方法、内容及步骤。学会对课题设计方案的分析、选择、比较。 工作进度要求

盲信号分离基础知识

专业课程设计学习材料 源信号分离Source Signal Separation

第一部分 简单介绍 一、 目标 我们的目标就是学习源信号分离理论的基础知识和源信号分离时涉及的相关学科知识,最终从观测信号中将源信号分离开来。注意:此时信号源和混合形式可能是未知的。 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.500.050.10.150.20.250.30.350.40.45 -1.5-1.0-0.50.00.51.01.500.050.10.150.20.250.30.350.40.45 图1 源信号波形 -2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.000.050.10.150.20.250.30.350.40.45 -2.0-1.00.01.02.000.050.10.150.20.250.30.350.40.45 图2 混合信号波形 -2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0 -2.0-1.5-1.0-0.50.00.51.01.5 2.0 图3 分离信号波形 二、分离方法 1、FFT 法;条件:不同源信号占有不同的频带 2、自适应滤波方法;条件:已经信号的某些特征 3、盲信号分离方法;条件:遵从某些统计假设条件 三、盲分离的基本模型 盲信号分离的基本模型如图(1)所示。 )(1t )(2t y ) (t y m 图1 盲信号分离的基本模型 其中:)(1t s ,)(2t s ,……,)(t s n 为n 个源信号;)(1t x ,)(2t x ,……,)(t x m 为m 个观测信号;)(1t y ,)(2t y ,……,)(t y n 为待求解的n 个分离信号;)(1t n ,

盲源分离 开题报告

一、研究背景及意义 语音信号的分离近年来成为信号处理领域的一个研究热点,它在电话会议、助听器及便携设备、机器的语音识别方面有很多的应用与影响。而语音信号常使用盲信号处理的方法分离。 盲信号处理(Blind Source Processing)作为一种新兴的信号处理方法,逐步发展并得到了越来越多的关注。盲信号处理与现代信号处理朝向非平稳、非高斯、非线性的发展方向相吻合,有利于复杂信号的分析以及处理,其研究对象主要为非高斯信号。它在传统信号处理方法的基础上结合了信息论、统计学和人工神经网络的相关思想。如图1所示,所谓的“盲分离”是指在没有关于源信号本身以及传输信道的知识,对数据及系统参数没有太多先验知识的假设的情况下,如何从混迭信号(观测信号)中分离出各源信号的过程。它能适用于更广泛的环境,为许多受限于传统信号处理方法的实际问题提供了崭新的思路。 图1 盲分离的概念 在科学研究和工程应用中,很多观测信号都可以假设成是不可见的源信号的混合,如通信信号、图像、生物医学信号、雷达信号等等。例如经典的“鸡尾酒会”问题,在一个充满宾客的宴会厅里,我们每个人都会听到来自不同地方的声音,如音乐,歌声及说话声等,正常的人类拥有在这种嘈杂环境下捕捉到所感兴趣的语音的能力。可以看到,盲信号处理同传统信号处理方法最大的不同就在于用它致力于用最少的信息得到理想的处理结果。

盲信号分离可以有不同的分类方法。 根据所处理信号的不同,可以分为声纳信号盲分离,雷达信号盲分离,通信信号盲分离,语音信号盲分离,脑电信号盲分离等。 根据盲处理领域的不同,可以分为时域盲分离和频域盲分离。 根据传输信道的情况,可以分为无噪声,有加性噪声,有乘性噪声等。 根据源信号在传输信道中被混合方式的不同,可以分为瞬时混合,卷积混合,非线性混合等。 根据源信号和观测信号数目的不同,可以分为正定盲分离,欠定盲分离,过定盲分离等。 本文研究的主要内容是正定不含噪的卷积混合语音信号的频域盲分离 方法。 总的来说,盲信号分离是一种仅利用观测到的混合信号来估计源信号的方法,它是以独立分量分析(Independent Component Analysis,ICA)为理论基础的。与传统信号处理方法如FIR 滤波,小波分析等不同的是,它不要求有关于源信号本身以及信号传输通道的知识。受益于这种“盲”的条件,盲信号分离对多个领域有很大的促进作用,特别是它在声纳、雷达、通信、语音、图像等方面的应用对军事,国防科技的发展起着非常重要的作用。近十多年来,各国学者在盲信号分离领域展开了深入的研究,有了一系列的成果。本课题就是在这样的背景下对语音信号进行盲分离的研究,以探索新的算法,新的应用。 二、研究的基本内容,拟解决的主要问题 1.研究的基本内容 本课题详细研究语音分离的基本理论,重点研究卷积混合频域解法模型框架下的语音信号分离算法。 基于时域实值瞬时混合模型的盲分离算法已经研究的比较充分,但是在语音信号在现实中往往是卷积混合,而且在频域分离方法中信号是复值的,本文将研究利用复值信号特征的瞬时混合盲分离算法,对不同的复数域盲分

基于MATLAB的线性盲信号分离算法的研究

毕业论文(设计) 论文题目:基于MATLAB的线性盲信号分离算法的研究 学生姓名:孙烽原 学号:0908030229 所在院系:电气信息工程学院 专业名称:电子信息工程 届次:2013届 指导教师:张大雷

淮南师范学院本科毕业论文(设计) 诚信承诺书 1.本人郑重承诺:所呈交的毕业论文(设计),题目《 》是本人在指导教师指导下独立完成的,没有弄虚作假,没有抄袭、剽窃别人的内容; 2.毕业论文(设计)所使用的相关资料、数据、观点等均真实可靠,文中所有引用的他人观点、材料、数据、图表均已注释说明来源; 3. 毕业论文(设计)中无抄袭、剽窃或不正当引用他人学术观点、思想和学术成果,伪造、篡改数据的情况; 4.本人已被告知并清楚:学院对毕业论文(设计)中的抄袭、剽窃、弄虚作假等违反学术规范的行为将严肃处理,并可能导致毕业论文(设计)成绩不合格,无法正常毕业、取消学士学位资格或注销并追回已发放的毕业证书、学士学位证书等严重后果; 5.若在省教育厅、学院组织的毕业论文(设计)检查、评比中,被发现有抄袭、剽窃、弄虚作假等违反学术规范的行为,本人愿意接受学院按有关规定给予的处理,并承担相应责任。 学生(签名): 日期:年月日

目录 前言 (2) 1 概述 (2) 1.1盲信号处理的概念与分类 (3) 1.2盲处理概念 (4) 1.3盲信号处理的分类 (4) 1.4盲信号处理的应用 (4) 2 盲信号分离的基础 (4) 2.1盲信号的预处理 (5) 2.2信号的去均值处理 (5) 2.3盲信号分离原理 (5) 2.4盲信号分离的方法 (6) 3 盲分离的算法和仿真结果 (6) 3.1最大信噪比的盲信号分离算法 (6) 3.2基于最大信噪比盲信号分离的算法流程 (7) 3.3基于峭度的盲信号分离的算法 (7) 3.4基于峭度的盲信号分离的算法流程 (8) 3.5基于两种算法的仿真 (8) 3.6仿真结果分析 (12) 4 结论 (13) 4.1总结 (13) 4.2未来工作 (13) 参考文献 (14)

盲源分离欠定问题欠定问题的研究与应用

盲源分离欠定问题欠定问题的研究与应用盲源分离(Blind Source Separation,BSS)技术,越来越成为信号处理领域中的重点关注问题。“盲源分离”这一概念的最初提出,主旨是为了解决某系统在源信号及信号个数未知、混合矩阵未知而只有观测号已知的情况下,对源信号进行恢复。 本文主要研究的是欠定盲源分离问题,即观测信号数目小于源信号数目的情况。基于稀疏分量分析(Sparse Component Analysis,SCA)法,分两个阶段讨论了混合矩阵和源信号的估计,并分别提出了估计混合矩阵和恢复源信号的新方法。 本文主要内容包括:讨论了基于SCA的“两步法”。在混合矩阵的估计阶段,研究了三类估计方法,分别是k均值算法、霍夫变换发及势函数法;对各算法的原理进行了分析,并通过仿真实验实现各算法,并验证了算法的有效性。 在源信号估计阶段,主要研究了目前最常用的最短路径法。提出了一种基于蚂蚁觅食原理的改进蚁群聚类算法估计混合矩阵,并利用网格密度法对聚类中心进行进一步修正。 首先利用源信号的稀疏性,对观测信号进行标准化处理形成球状堆;再利用观测信号之间的欧氏距离确定初始信息素矩阵,得出初始聚类中心;然后按照传统蚁群聚类法对数据进行聚类;接着利用网格密度法提取出每一类密度最大的网格,将该网格的中心作为该类聚类中心;最后输出每个聚类中心作为混合矩阵各列向量。提出了一种基于加权的最小l1范数法对源信号进行恢复,相较于传统l1范数法的寻找一组最优解,改进的范数法将其他可能的分解项按照权值进行相加,从而使恢复出的信号更加接近源信号向量。 当有两路观测信号时,按照分解项与观测信号的角度差大小作为加权值;当

盲源分离算法初步研究

盲源分离算法初步研究 一、盲源分离基本问题 1.概念 BSS 信号盲分离,是指从若干观测到的混合信号中恢复出未知的源信号的方法。典型的观测到的混合信号是一系列传感器的输出,而每一个传感器输出的是一系列源信号经过不同程度的混合之后的信号。其中,“盲”有两方面的含义:(1)源信号是未知的;(2)混合方式也是未知的。 根据不同的分类标准,信号盲分离问题可以分成以下几类: (1)从混合通道的个数上分,信号的盲分离可以分为多通道信号分离和单通道信号分离。单通道信号分离是指多路源信号混合后只得到一路混合信号,设法从这一路混合信号中分离出多个源信号的问题就是单通道信号分离。多通道信号分离是M 个源信号混合后得到N 路混合信号(通常N ≥M )。从N 路混合信号中恢复出M 个源信号的问题即为多通道信号分离。一般情况下,单通道信号分离的难度要超过多通道信号分离。 (2)从源信号的混合方式上分,可将信号盲分离问题分为瞬时混合和卷积混合、线性混合和非线性混合等不同种类。在目前信号盲分离的研究文章中,所建模型大部分为瞬时混合。但是,作为更接近实际情况的卷积混合方式正受到越来越多的关注。 (3)根据源信号的种类,也可将信号盲分离分为多类。在通常的处理方法上,根据不同种类信号的特点,也有一些独特的处理技术。 2.盲分离问题的描述 BSS 是指仅从观测的混合信号(通常是多个传感器的输出)中恢复独立的源信号,在科学研究和工程应用中,很多观测信号都可以假设成是不可见的源信号的混合。所谓的“鸡尾酒会”问题就是一个典型的例子。在某个场所,多个人正在高声交谈。我们用多个麦克风来接受这些人说话的声音信号。每个人说话的声音是源信号,麦克风阵列的输出是观测信号。由于每个麦克风距离各个说话者的相对方位不同,它们接受到的也是这些人的声音信号以不同方式的混合。盲信号分离此时的任务是从麦克风阵列的输出信号中估计出每个人各自说话的声音信号,即源信号。如果混合系统是已知的,则以上问题就退化成简单的求混合矩阵的逆矩阵。但是在更多的情况下,人们无法获取有关混合系统的先验知识,这就要求人们从观测信号来推断这个混合矩阵,实现盲源分离。 3.混合模型 信号的混合模型包含两个方面的内容:(1)源信号的统计特征;(2)源信号的混合方式。 3.1源信号的统计特征 已有的研究表明如果加上源信号间相互独立的限制条件,就可以有效地补偿对以上先验知识的缺乏。如果用q i 表示第i 个分量的概率密度函数,则这种统计独立性可以表示为: 11221()()...()()n n n i i i q s q s q s q s ==???=∏q(s) 其中q(s)是s 的联合概率密度函数。 3.2源信号的混合方式 最简单的混合模型假定各个分量是线性叠加混合在一起而形成观测信号的。基于这样的假设,我们可以把观测信号和源信号用矩阵的方式表示为: ()()t t =x Hs 式中H 是n ×n 阶的混合矩阵。基于该模型,盲信号分离()()t t =x Hs 的目标可以表

Ica盲源分离Matlab程序

Ica盲源分离Matlab程序 close all; clear all; i4=imread('1.jpg'); i5=imread('2.jpg'); i6=imread('2.png'); i1=rgb2gray(i4); i2=rgb2gray(i5); i3=rgb2gray(i6); s1=reshape(i1,[1,256*256]); s2=reshape(i2,[1,256*256]); s3=reshape(i3,[1,256*256]); s=[s1;s2;s3];sig=double(s); aorig=rand(size(sig,1)); mixedsig=aorig*sig; ms1=reshape(mixedsig(1,:),[256,256]); ms2=reshape(mixedsig(2,:),[256,256]); ms3=reshape(mixedsig(3,:),[256,256]); figure; subplot(331),imshow(i1),subplot(332),imshow(i2),subplot(333),imshow(i3); subplot(334),imshow(uint8(ms1)),subplot(335),imshow(uint8(ms2)),subplot(336),i mshow(uint8(ms3)); % mixedsig=zeros(size(mixedsig)); meanValue=mean(mixedsig')'; mixedsig=mixedsig-meanValue*ones(1,size(mixedsig,2)); covarianceMatrix=cov(mixedsig',1); [E,D]=eig(covarianceMatrix); eigenvalues=flipud(sort(diag(D))); whiteningMatrix=inv(sqrt(D))*E'; dewhiteningMatrix=E*sqrt(D); whitesig=whiteningMatrix*mixedsig; X=whitesig; [vectorSize,numSamples]=size(X); B=zeros(vectorSize); numOFIC=vectorSize; for r=1:numOFIC i=1;maxNumIterations=100; w=rand(vectorSize,1)-.5; w=w/norm(w); while i<=maxNumIterations+1

盲源分离问题综述

盲源分离问题综述 摘要:盲源分离,是从观测到的混合信号中恢复不可观测的源信号的问题。作为阵列信号处理的一种新技术,近几年来受到广泛关注。本文主要阐述了盲源分离问题的数学模型、典型算法以及盲源分离的应用,并结合盲源分离问题的研究现状,分析了其未来的发展方向。主题词:盲源分离;盲源分离的典型算法 1. 引言 盲信号分离问题起源于人们对“鸡尾酒会”问题的研究。在某个聚会上,我们正在相互交谈,同一时刻同一场景下其他人的交谈也在同时进行着,可能还有乐队的音乐伴奏,这时整个会场上是一片嘈杂。但是非常奇妙的是,作为交谈对象的双方,我们能够在这混乱的众多声音中很清晰的听到对方的话语,当然,如果我们偶尔走神,将精力放在乐队奏出的音乐时,我们也同样可以听清楚音乐的主旋律。这种可以从由许多声音所构成的混合声音中选取自己需要的声音而忽视其他声音的现象就是鸡尾酒会效应。如何在这种从观察到的混合信号中分离出源信号的问题就是所谓的盲分离(Blind Signal Separation, BSS)问题,有时也被称为盲源分离(Blind Source Separation)问题。1986年,法国学者Jeanny Herault和Christian Jutten提出了递归神经网络模型和基于Hebb学习律的学习算法,以实现两个独立源信号混合的分离,这一篇开创性论文的发表使盲源分离问题的研究有了实质性的进展。随着数字信号处理理论和技术的发展以及相关学科的不断深入,大量有效的盲分离算法不断被提出,使盲分离问题逐渐成为当今信息处理领域中最热门的研究课题之一,在无线通信、图象处理、地震信号处理、阵列信号处理和生物医学信号处理等领域得到了广泛的应用。 2. 盲源分离问题的数学模型 盲源分离是指在不知道源信号和信道传输参数的情况下,根据输入信号的统计特性,仅由观测信号恢复出源信号各个独立成分的过程。盲源分离研究的信号模型主要有三种:线性混合模型、卷积混合模型和非线性混合模型。 2.1 线性混合模型 线性混合模型在神经网络、信号处理等研究中常常用到,其数学模型描述为: S1(t),S2(t)…S n(t)是一个随机的时间序列,用m个话筒表示接收到的混合信号,用X1(t),X2(t)…X m(t)来表示。它们有如下关系: { X1(t)=a11S1(t)+?+a1n S n(t) … X m(t)=a m1S1(t)+?+a mn S n(t) 其中{a ij}是未知的混合系数,在线性瞬时混合中,一般假定{a ij}是未知的常数矩阵。盲源分离需要解决的问题就是如何从接收到的观察信号中估计出源信号S1(t),S2(t)…S n(t)和混合矩阵的过程。实际上式还应该存在一个干扰存项,如果考虑到噪声的存在,那么上式可以

盲信号分离的理论与发展现状

前沿技术 尺寸的减小,场区参数R1和R2相应收缩。这是一个很有意义的结果。 5 结束语 基于以上的分析和验算,可以说明ISO/IEC18047标准规定的测试参数:观察距离3λ和10λ,天线尺寸 0.1m和 是可行的。 ★【作者简介】 刘礼白:研究员级高工,中国电子科技集团公司第七研究所科技委主任、专家委员会副主任,信息产业部宽带无线移动通信技术专家组成员。中华人民共和国电子工业部有突出贡献专家,享受国务院颁发的 政府特殊津贴。 1 引言 盲分离是信号处理领域一个极富挑战性的研究课题。由于盲分离在语音识别、信号去噪、无线通讯、声纳问题、生物医学信号处理、光纤通信等众多应用领域有着广泛的应用前景,从而成为信号处理领域和神经网络领域的研究热点。 盲分离(B S S,B l i n d S o u r c e S e p a r a t i o n)的研究起源于鸡尾酒问题。在多个说话人同时讲话的语音环境中,通常每个麦克风接收到是多个说话者的混合声音,如何仅仅从话筒接收到的语音信号中分离出所需要的说话者的声音?这便是盲分离问题。 盲分离问题的主要特征就是在未知混叠参数的情 盲信号分离的理论与发展现状* 李荣华 赵 敏 华南理工大学电子与信息学院 王 进 国家移动通信工程中心 【摘要】文章首先介绍了盲信号分离问题的起源、特征、含义,然后介绍了盲信号分离的原理 和算法,最后介绍了盲分离研究的现状,探讨了盲分离研究仍存在的一些问题。 【关键词】盲信号分离 混叠模型 瞬时线性 非线性 卷积 收稿日期:2008年3月14日 *本文得到国家自然科学基金重点项目(U0635001),国家 自然科学基金(60774094)的资助。

最大信噪比盲源分离算法研究

最大信噪比盲源分离算法研究 1 程序说明 该算法参考文为“基于最大信噪比的盲源分离算法”(《计算机仿真》,2006),程序的Matlab代码如下: function[ys,w]=SNR_Max(x) [n,T]=size(x); x=x-mean(x')'*ones(1,T); %去均值 %---------------白化处理------------------------- [F,D]=eig((x*x')/T); v=F*(D^(-0.5))*F'; x=v*x; p=80; a=ones(1,p)/p; x=x'; S=filter(a,1,x); %滑动平均处理 U=cov(S-x,1); %计算协方差 V=cov(x,1); [W d]=eig(V,U); %计算特征值 ys=(x*W)'; %源信号估计 mplot(x); figure(2); mplot(ys); 上述程序中引用了一个画图子程序mplot(s),能画小于6个信号的图形,该程序代码如下: function mplot(s) [dim,sample]=size(s); if dim>sample s=s'; [dim,sample]=size(s); end if dim>6 error('dim can not more than six'); end for i=1:dim subplot(dim,1,i); plot(s(i,:)); axis('tight'); set(gca,'XTick',[]); end 程序调用说明:输入混合信号x为一个n*T阶数据矩阵,输出的分离信号ys是n*T阶

图像的盲分离

信息处理课群设计任务书 学生姓名:专业班级: 指导教师:工作单位:武汉理工大学 题目: 图像的盲分离 基础强化训练目的 目的:通过课程设计,使学生加强对信号处理的理解,学会查寻资料﹑方案比较,以及设计计算等环节。培养学生综合运用所学信号与系统、数字信号处理等信息处理知识,分析和解决工程技术问题的能力。 训练内容和要求 根据盲信号分离原理,选取两个以上相同大小的图像,选择合适的混合矩阵生成若干混合图像。选取合适的盲信号分离算法(如独立成分分析ICA等)进行训练学习,求出分离矩阵和分离后的图像。 设计要求 (1)选取两个以上大小相同的原图像,并绘制每个图像的直方图。 (2)采用混合图像进行训练学习,求出分离矩阵编写出相应的确matlab代码。(3)用求出的分离矩阵从混合图像中分离原图像,并做出分离图像的直方图。(4)做出原图像和分离后图像的差值图,和差值图对应的直方图。 对结果进行对比分析。 时间安排: 序号设计内容 所用 时间 1 根据课题的技术指标,确定整体方案,并进行参数设计计算2天 2 根据实验条件进行全部或部分程序的编写与调试,并完成基本功能7天 3 总结编写课程设计报告1天 合计2周 指导教师签名:年月日系主任(或责任教师)签名:年月日

目录 摘要 (2) Abstract (3) 1盲分离原理 (4) 1.1 盲信号处理的基本概念 (4) 1.2盲信号处理的方法和分类 (5) 1.3 盲源分离法 (6) 1.3.1 盲源分离技术 (6) 1.3.2 盲分离算法实现 (6) 2ICA基本原理 (7) 3FastICA算法原理及实现 (8) 3.1 数据的预处理 (8) 3.2 FastICA算法原理 (10) 3.3 FastICA算法的基本步骤及流程图 (12) 4图像的盲分离仿真与分析 (13) 5总结 (17) 6参考资料 (18) 附录1 matlab源程序 (19)

基于SCA的盲源分离开题报告1

1、立论依据 课题来源及研究的目的和意义: 信号处理技术在实际应用中一直具有非常重要的作用,随着科技的飞速发展,信号处理技术面临巨大的挑战,比如在移动通信技术中,发射端发射未知信号,称之为源信号[1],怎样只根据接收端接收的信号判别同时提取出源信号,成为一项值得深入探索的难题,为此产生了盲信号处理理论,称之为盲源分离(Blind Source Separation,BSS)[2]。 盲源分离理论来源于“鸡尾酒会”模型,即在酒会上众多人讲话声音与音乐声以及其它各种声音混杂在一起,致使我们难以得到感兴趣的某些声音信号,这类问题的显著特点就是源信号与传输信道参数均是无法预知的,要想从麦克风采集到的混叠声音中获取我们想要得到的声音信号,具有很大难度。但是盲源分离可以解决此类问题,从而可以从麦克风的混叠声音中分离出想要得到的声音信号。 由此可得,盲源分离[3-5]可以解释为在源信号和传输信道模型参数均为不可预知的情况下,按照所输入信号数学特征,只通过观测所得混合信号来重构并分离得到源信号的过程。 传统解决盲源分离的算法有主成分分析法(Principal Component Analysis,PCA)、独立分量分析法(Independent Component Analysis,ICA)[6-7]等方法,尤其ICA较大程度促进了盲源分离的进步,许多学者在此算法基础上进行改进并创新。 欠定盲源分离(Underdetermined Blind Source Separation,UBSS)是盲源分离中的一种特殊情况,即观测信号的数目少于源信号的数目。欠定盲源分离模型的系统为不可逆的,因而研究起来比较困难,解决欠定盲源分离问题已经不能使用传统解决盲源分离的方法。在实际应用中许多信号在一定条件下具备稀疏特性,该稀疏特性可以体现在时域或变换域中[8],因此有学者提出稀疏分量分析方法(Sparse Component Analysis,SCA),有的称为稀疏表示(Sparse Representation)[9-10]解决欠定盲源分离问题。其中“两步法”是解决基于稀疏分量分析的欠定盲源分离的常用方法,“两步法”的第一步是使用聚类或者势函数方法估计混合矩阵;第二步根据估计的混合矩阵重构源信号。 在实际应用中,通常许多信号在时域中并不是稀疏信号,但是在时频域会呈现出一定稀疏性,对于时域中非稀疏信号利用稀疏变换工具,如傅里叶变换、短时傅里叶变换、小波变换和Gabor变换等,使该信号在其对应变换域中表现出良好的稀疏性。然后利用信号在时域或其变换域中的稀疏特性实现对欠定盲源信号的分离。 本文在对国内外研究现状深入分析的基础之上,主要针对源信号稀疏性较弱的情况,对欠定盲源分离混合矩阵的估计方法进行了探索。针对传统许多算法解决欠定盲源分离问题时存在需要已知源信号数目的局限性与混合矩阵估计精度不高的不足,进行改进与完善。最后通过实验仿真与数据分析表明本文所研究的方法具有一定理论研究价值。

盲源分离 外文翻译

英文原文 An information-maximisation approach to blind separation and blind deconvolution Anthony J. Bell and Terrence J. Sejnowski Computational Neurobiology Laboratory The Salk Institute 100010 N.Torrey Pines Road La Jolla, California 92037 Abstract We derive a new self-organising learning algorithm which maximises the infor- mation transferred in a network of non-linear units. The algorithm does not assume any knowledge of the input distributions, and is defined here for the zero-noise limit. Under these conditions, information maximisation has extra properties not found in the linear case(Linsker 1989). The non-linearities in the transfer function are able to pick up higher-order moments of the input distributions and perform something akin to true redundancy reduction between units in the output representation. This enable- s the network to separate statistically independent components in the inputs: a higher -order generalisation of Principal Components Analysis. We apply the network to the source separation (or cocktail party)problem, succe- ssfully separating unknown mixtures of up to ten speakers. We also show that a vari- ant on the network architecture is able to perform blind deconvolution (cancellation of unknown echoes and reverberation in a speech signal). Finally, we derive depend- encies of information transfer on time delays. We suggest that information maximi- sation provides a unifying framework for problems in …blind? signal processing.

盲源分离综述_问题_原理和方法

中图分类号:T N97111 文献标志码:A 文章编号:C N51-1694(2008)02-0001-05收稿日期:2007-11-29;修回日期:2007-12-30 作者简介:陈锡明(1970-),男,高级工程师,博士;黄硕翼(1983-),男,硕士研究生。 盲源分离综述———问题、原理和方法 陈锡明,黄硕翼 (信息综合控制国家重点实验室,成都610036) 摘要:盲源分离,是从观测到的混合信号中恢复不可观测的源信号的问题。作为阵列信号处理 的一种新技术,近几年来受到广泛关注。文章按源信号不同的混合方式,将盲源分离问题分为三种类型:线性瞬时混合、线性卷积混合和非线性混合,综述了它们各自分离的原理和方法,并结合国内外的研究现状,对未来的发展作出了展望。关键词:盲源分离;独立分量分析 B lind Source Separation :Problem ,Principle and Method CHE N X i 2ming ,HUANG Shuo 2yi (National In formation C ontrol Lab oratory ,Chengdu 610036,China ) Abstract :Blind source separation is to recover unobserved source signals from observed mixtures.As a new technology of array signal processing ,it has attracted wide attention.Blind source separation is classified into three types :linear instantaneous mixtures ,linear conv olutional mixtures ,and nonlinear mixtures ,as per different mixture methods.And a survey is presented on separation principles and methods of each type.The prospect of future development is given too.K ey w ords :blind source separation ;independent com ponent analysis (ICA ) 1 引言 盲源分离(BSS )是信号处理领域的一个基本问题,是根据观测到的信号来分离或恢复出未知源信号的过程。它在医学信号处理、数据挖掘、语音增强、图像识别以及雷达与通信信号处理等方面正受到越来越广泛的重视。 其更一般的表述为:已知从多输入—多输出(MI M O )非线性动态系统(SIS O ,SI M O 是特例)中测得的传感器信号X (t )=[x 1(t ),x 2(t ),…, x m (t )]T ,要求找到一个逆系统,以重构估计原始 的源信号S (t )=[s 1(t ),s 2(t ),…,s n (t )]T[1]。源信号S (t )未知,源信号如何混合得到观测信号也未知,这体现了求解问题的“盲”。最简单的情况,如果X (t )是S (t )的线性瞬时混合,即X (t )=H 3S (t ),H 为一个m ×n 维的混合矩阵,盲分 离问题简化为求一个n ×m 维的解混矩阵W ,使输出Y (t )=W 3X (t )=W 3H 3S (t )≈S (t )。 事实上,在缺乏某些先验知识时是不可能唯一地确定源信号的,所以盲分离问题存在两个内在的解不确定性:一是输出分量排列顺序的不确定性,即无法确定所恢复的信号对应于原始信号源的哪一个分量;二是输出信号幅度的不确定性,即无法恢复原始信号源的真实幅度。但因为源的大量信息蕴涵在源信号的波形中而不是信号的振幅或者系统输出的排列顺序中,所以这并不影响盲分离的应用。 2 盲源分离的基本类型和解决方法 就源信号经过传输通道的混合方式而言,可分为线性混合和非线性混合信号的盲分离;其中 1 电子信息对抗技术?第23卷 2008年3月第2期 陈锡明,黄硕翼 盲源分离综述———问题、原理和方法

卷积混合盲源分离算法研究

卷积混合盲源分离算法研究 在客观环境中,我们通过传感器接收到的信号不但含有信号本来的信息,而 且还混合由其他信源及环境噪声。因而,当信道和信源等先验知识未知,仅通过得到的观测信号估计出源信号成为需要及时解决的问题。 我们称此类问题为盲源分离(Blind Source Separation, BSS)司题。随着盲源分离技术的发展,它已经在通信系统、语音分离、生物医学、图像处理等许多领域有着广泛的应用。 根据源信号的混合方式,可以将盲源分离问题分为线性混合、卷积混合和非线性混合三类。关于线性混合问题,现已涌现出许多优秀的算法,但在实际中,信号在传输过程中会发生延时,因而卷积混合模型比瞬时混合更具有实际意义,所 以本文着重对卷积混合盲源分离算法进行研究。 针对线性混合模型,提出一种基于峰度值和改进粒子群优化的盲源分离算法。该算法采用改进粒子群代替传统算法对基于峰度值最大化的目标函数进行优化。 对四路会议语音信号进行盲源分离仿真,结果验证了算法的有效性。但是该算法处理信号类型单一,且源信号最多只能含一路高斯信号。 为此,提出一种改进的基于非线性函数和简化粒子群优化的算法,该改进算 法依据源信号类型选取的非线性函数作为目标函数,采用简化粒子群优化算法进行优化。仿真结果表明,该改进算法能够有效实现源信号为多类型和含有两路高斯信号的盲源分离。 与其他算法相比,具有更快收敛速度和更高分离精度。针对卷积混合模型, 提出一种基于峰度值和简化粒子群优化的消源盲源分离算法。 该算法采用基于参考基的参考目标函数,并通过去相关性来实现消源,最终

实现逐一提取源信号。仿真结果表明,该算法可有效实现对BPSK、PAM和随机信号的卷积混合盲源分离。 针对卷积混合模型,还提出一种基于四阶互累积量和粒子群优化的盲源分离算法。该方法采用信号的四阶互累积量作为目标函数,使用粒子群优化算法来优化,实现从卷积混合信号中提取出源信号。 仿真结果表明,该算法可以有效实现对通信信号卷积混合的盲源分离。

盲源分离技术及其发展

盲源分离技术及其发展 王春华,公茂法, 衡泽超时间:2009年11月06日 字体: 大中小 关键词:信号处理语音识别图像处理移动通信医学信号处理 摘要:盲源信号分离是一种功能强大的信号处理方法,在生物医学信号处理、阵列信号处理、语音识别、图像处理及移动通信等领域得到了广泛的应用。简要介绍了盲源分离的数学模型、可实现性、可解的假设条件及算法,综述了盲源分离的发展及研究现状,提出了其未来的发展方向。 关键词:盲源分离;独立分量分析;发展 盲源分离BSS(Blind Source Separation)是信号处理中一个传统而又极具挑战性的问题。BSS指仅从若干观测到的混合信号中恢复出无法直接观测的各个原始源信号的过程。这里的“盲”指源信号不可观测、混合系统特性事先未知这两个方面。在科学研究和工程应用中,很多观测信号都可以看成多个源信号的混合,所谓“鸡尾酒会”[1]问题就是一个典型的例子。其中独立分量分析ICA(Independent Component Analysis)[2]是一种盲源信号分离方法,它已成为阵列信号处理和数据分析的有力工具,而BSS比ICA适用范围更宽。目前国内对盲信号分离问题的研究,在理论和应用方面也取得了很大的进步,但是还有很多问题有待进一步研究和解决。 1 盲源分离基本理论 1.1 盲源分离的数学模型 盲信号分离研究的信号模型主要有线性混合模型和卷积混合模型,盲源分离源信号线性混合是比较简单的一种混合形式,典型的BSS/ICA问题就是源于对独立源信号的线性混合过程的研究。 1.1.1 盲源分离的线性混合模型 所谓的“鸡尾酒会”问题,具体描述是:在一个鸡尾酒会现场,如果用安放在不同位置的多个麦克风现场录音,则所记录的信号实际上是不同声源的混合信号。人们希望从这些混合录音信号中把不同的声源分离出来,这显然不是一件很容易的事,至少用传统的频域滤波方法行不通。因为不同声源信号的频谱相互混叠在一起,无法有效地设计滤波器,但从频谱的角度可以把不同声源分离出来。根据以上描述,可以把盲源分离问题表示为如图1所示的线性模型。为简单起见,暂时忽略时延、非线性等因素的影响,即最简单混合系统——线性瞬时混合系统。

盲源分离之极大似然ICA算法

极大似然独立成分分析算法 一、似然度 极大似然估计可以解释为:采纳那些使观测向量具有最大概率的估计参数 值。 设()x p x ∧ 是对观测向量x 的概率密度()x p x 的估计,源信号的概率密度函数为 ()s p s ,根据线性变换下两个概率密度函数之间的关系,观测数据x 的概率密度函数的估计()x p x ∧ 与源信号概率密度函数()s p s 满足 1() ()det s x p A x p x A -∧ = 对于给定的模型,观测数据x 的似然函数是模型参数A 的函数,定义为 { } 1222()log ()()log ()log det x x s L A E p x p x p A x dx A ∧ -==-? 当模型参数为分离矩阵1W A -=时,对数似然函数为 {}221 1()log (())log det T s t L W p Wx t W T =≈+∑ 式中,T 为独立同分布观测数据的样本数,最大化此似然函数就可获得关于 参数W 的最优估计。 二、Infomax 算法 Infomax 算法即为信息传输极大化算法。 图1 Infomax 算法框图

由图1可知,Infomax 算法是一种基于信息论的前向反馈自组织神经网络的 算法,其中x 为多路观测信号向量,它是由n 个独立源线性混合而成,网络输出 u Wx =是对真实源s 的逼近。12()((),(), ,())T n g g g g ?=???为可逆单调非线性函 数,非线性输出为12(,,,)T n y y y y =。独立性判据为最大信息传输准则,即通过 对分离矩阵W (神经网络的连接权值矩阵)的调整寻找优化的W ,使网络输出y 和输入x 之间的互信息(;)I x y 达到最大。由信息论可知 (;)()(|)I x y H y H y x =- 式中,()H y 为网络联合输出熵;(|)H y x 为输出的条件熵。若系统存在噪声 N ,即()()y g u N g Wx N =+=+,有(|)()H y x H N =,则上式可表示为 (;)()()I x y H y H N =- 于是,y 和x 之间的互信息(;)I x y 最大等价于网络联合输出熵()H y 最大(噪 声N 与系统无关)。以网络输出的联合熵()H y 作为目标函数,由信息熵理论可知 1212()()()()(,,,)n n H y H y H y H y I y y y =++ +- 式中,()i H y 为非线性输出的边缘熵;12(,,,)n I y y y 为非线性输出之间的互 信息,其值总是非负的,只有当非线性输出i y 之间彼此相互独立时, 12(,,,)0n I y y y =。由互信息可知,单调可逆非线性映射对互信息没有影响,所 以()I y 取最小值0时,()I u 也同时达到最小值零,于是各成分间相互统计独立,ICA 问题得以解决。此时 {}2()()()()(())i n y H y H y H y H y E In p y =++ +=- 式中,()y p y 为输出y 的概率密度函数,因此最大化()H y 包含了最大化边缘 熵和最小化互信息两个内容。选择熵作为目标函数是因为熵是一个随机变量无序性的度量及信息量大小(不确定信息的多少)的测度,y 的各成分统计独立性越高则相应的y 熵()H y 越大,所含信息也越多。可以证明,当非线性函数()i g ?为源

相关主题