独立成分分析的研究进展
第１８卷第４期２００６年４月
系统仿真学报＠
ＪｏｕｒｎａｌｏｆＳｙｓｔｅｍＳｉｍｕｌａｔｉｏｎ
、，ｂ１．１８ＮＯ．４
Ａｐｒ．，２００６独立成分分析的研究进展
张建明１，一，林亚平１，昊宏斌２，杨格兰２
（１．湖南大学计算机与通信学院，湖南长沙４１００８２：２．湖南城市学院计算机科学系，湖南益阳４１３０４９）摘要：介绍了独立成分分析（ＩＣＡ）的基本模型及其假设、含混性、非高斯性度量和通用求解过程。
讨论了目前ＩＣＡ的几个研究方向的发展现状和面临的问题，分析了ＩＣＡ基本模型和几种扩展模型的求解算法，包括盲反卷积、卷积混乖的盲分离、非线性瞬时混合的盲分离．提出了ＩＣＡ未来理论和应用研究中的开放课题．
关键词：独立成分分析；盲源信号分离；非高斯性；神经网络
中图分类号：ＴＰｌ８文献标识码：Ａ文章编号：１００４—７３１Ｘ（２００６）０４—０９９２—０６
ＡｄｖａｎｃｅｓｏｆＲｅｓｅａｒｃｈｉｎＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓＺＨＡＮＧＪｉａｎ—ｒｕｉｎ９１＇２，ＬＩＮＹａ－ｐｉｎ９１，ＷＵＨｏｎｇ．ｂｉｎ２，ＹＡＮＧＧｅ．１ａｎ２
（１．ＣｏｌｌｅｇｅｏｆＣｏｍｐｕｔｅｒａｎｄＣｏｍｍｕｎｉｃａｔｉｏｎｓ，ＨｕｎａｎＵｎｉｖｅｒｓｉｔｙ，Ｃｈａｎｇｓｈａ４１００８２，Ｃｈｉｎａ；
２．ＤｅｐａｒｔｍｅｎｔｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＨｕｎａｎＣｉｔｙＵｎｉｖｅｒｓｉｔｙ，Ｙｉｙａｎｇ４１３０４９，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：ＴｈｅｓｔａｎｄａｒｄｍｏｄｅｌｏｆＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓ（ＩＣＡ）ａｎｄｉｔｓａｓｓｕｍｐｔｉｏｎｓ，ａｍｂｉｇｕｉｔｉｅｓ，ｎｏｎｇａｕｓｓｉａｎｉｔｙｍｅａｓｕｒｅｓａｎｄｇｅｎｅｒａｌｓｏｌｕｔｉｏｎｗｅｒｅｉｎｔｒｏｄｕｃｅｄ．Ｔｈｅｎ．ｔｈｅｓｔａｔｅｏｆｔｈｅａｒｔａｎｄｔＩｌｅｃｈａｌｌｅｎｇｅｐｒｏｂｌｅｍｓｉｎＩＣＡｒｅｓｅａｒｃｈｆｉｅｌｄａｒｅｄｉｓｃｕｓｓｅｄ．７７ｌｅａｌｇｏｒｉｔｈｍｓｆｏｒｓｔａｎｄａｒｄａｎｄｅｘｔｅｎｄｅｄＩＣＡｍｏｄｅｌｓ，ｉｎｃｌｕｄｉｎｇｂｌｉｎｄｄｅｃｏｎｖｏｌｕｔｉｏｎ．ｂｌｉｎｄｓｅｐａｒａｔｉｏｎｏｆｃｏｎｖｏｌｕｔｉｖｅｍｉｘｔｕｒｅｓ，ｎｏｎｌｉｎｅａｒｉｎｓｔａｎｔａｎｅｏｕｓｍｉｘｔｕｒｅｓ，ａｒｅｂｒｉｅｆｌｙａｎａｌｙｚｅｄ．Ｆｉｎａｌｌｙ，ｔｈｅｏｐｅｎａｒｅａｓｏｆｔｈｅｏｒｅｔｉｃａｎｄａｐｐｌｉｅｄｒｅｓｅａｒｃｈｉｎ１ＣＡａｒｅｂｒｏｕｇｈｔｆｏｒｗａｒｄ．
Ｋｅｙｗｏｒｄｓ：ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ；ｂｌｉｎｄｓｏｕｒｃｅｓｅｐａｒａｔｉｏｎ；ｎｏｎ—Ｇａｕｓｓｉａｎｉｔｙ；ｎｅｕｒａｌｎｅｔｗｏｒｋｓ
引言
在神经网络、统计分析、信号处理等领域，一个普遍关心的问题是如何借助某种适当的变换，找到源数据的一个恰当表示。源数据的表示如果有利于后继的分析工作这将是非常重要的，例如在通信、模式识别和数据挖掘中。从计算的简单和概念的清晰来考虑，线性变换自然成为人们首先追寻的一种表示。如众所周知的主成分分析（ＰＣＡ）、因子分析（ＦＡ）和投影追踪（ＰＰ）等线性变换技术已经得到了广泛的应用。
独立成分分析［１Ｉ（ＩＣＡ）起源于盲源信号分离（ＢＳＳ）。ＢＳＳ是研究从给定的混合信号夏（ｆ）重构出源信号；（玲，即Ｙ（ｔ）＝Ｗ（ｔ）．ｊ（ｆ），其中ｗ为分离矩阵。“盲”指对混合方式几乎未知，对原始信号进行很少的假设。解决这个问题通常假定源信号相互是统计独立的，相应的解决方案属于ＩＣＡ研究的内容。另～个常见的假设是混合是线性的，即有ｊ（ｆ）＝Ａ×Ｙ（ｔ），其中Ａ为混合矩阵。
独立成分分析是近二十年发展起来的一种信号处理和数据分析方法，在信号处理、数据挖掘、特征提取、神经网络等许多领域有广泛的应用，已有的综述文章可参考［２．５】，
收稿日期ｌ２００５．０２．１９修回日期＃２００５．０３—３０
基金项目ｔ湖南省教育厅科研项目（０５Ｃ７７６）；湖南城市学院科技计划项目（２００５７３０６）。
作者简介；张建明（１９７６．），男，湖南益阳人，讲师，博士生，研究方向为机器学习、无线传感器网络；林亚早（１９５５．），男，湖南邵阳人，教授，博导，博士，研究方向为计算机通信网络、机器学习。它是为非高斯数据找到一种线性变换，这样成分与成分之间是统计独立的或者尽可能的独立。基于ＩＣＡ方法，使得被分析信号各成分之间的统计依赖性得到了最小化，突出了源信号的本质结构。与ＩＣＡ相比，ＰＣＡ和奇异值分解（ＳＶＤ）是基于信号二阶统计特性的分析方法，ＰＣＡ分离出来的信号之间是不相关的；而ＩＣＡ则是基于信号高阶统计特性的分析方法，经ＩＣＡ分解出的各信号之间是相互独立的。
ＩＣＡ的主要应用［５】包括，脑电图（ＥＥＧ）、心电图（ＥＣＧ）、脑磁图（ＭＥＧ）、功能磁共振成像（ｆＭＲＤ等医学数据的盲源信号分离；特征提取；语音增强与分离；数据挖掘【６】；图象处理、压缩：模式识别；多信道去卷积和均衡；通信；遥感；地震监控等。
１有关概念和基本模型
１．１基本ＩＣＡ模型及其假设
设ｉ（ｆ）＝［ｓ．（ｆ），…，Ｓｍ（ｆ）］７是在ｔ时刻的ｍ维零均值的源信号向量，其分量是相互独立的，则ｉ（ｆ）的多元概率密度函数可以表示为ｐ（ｉ）＝ｎｐｌ（ｓ。）。设ｉ（ｆ）＝Ｉｘ。（ｆ），…，‘（ｆ）ｒ是ｎ
ｌ＿ｌ
维观测信号向量，其每个观测信号分量都是ｍ个独立的源信号的线性组合，即ｉ（ｆ）＝Ａｘｉ（ｆ），这里Ａ是一个未知的ｎ×ｍ混合矩阵，此时ｊ（ｆ）的各个分量之间不再相互独立。
ＩＣＡ的目标是找到一个对王（ｆ）做线性变换的ｍＸｎ矩阵
ｗ，使得ｉ（ｆ）经变换后得到的新向量ｙ（ｔ）＝［Ｙｌ（ｆ），…，Ｙｍ（ｆ）ｒ 万方数据
第１８卷第４期
２００６年４月张建明，等：独立成分分析的研究进展Ｖｂｌ．１８ＮＯ．４Ａｐｒ．，２００６
的各个分量之间尽可能的独立，即ｉ（ｆ）＝ｗ（ｆ）．ｉ（ｆ）为源信号向量ｉ（ｆ）的估计值。
这里我们不讨论时间ｔ做索引，假设每个混合信号ｘ．及独立成分ｓ．都是一个随机变量而不是时域信号。这样观测值ｘｉ（ｆ）就是对应随机变量的一个采样。
在上述基本ＩＣＡ模型中，采用如下假设：①传感器的数量大于源信号的数量，即ｎ≥ｍ。从而保证Ａ是满秩矩阵。
②源信号之间在每一时刻都是相互独立的。这是ＩＣＡ的基本要求。③最多只有一个源信号是高斯分布的。因两个白高斯过程源信号无法分离；具有不同频谱的非白高斯过程源信号可以使用时域去相关性的方法得到分离。④无传感器噪声或仅有微量的加性噪声。因为只有在低噪声的情况下输出信号之间的共有信息才能得到最小化。不过，我们可以把噪声也看成是一个独立的源信号，通过ＩＣＡ算法将其分离出来。
图１ＰＣＡ、ＩＣＡ、ＦＡ、ＩＦＡ之间的联系
１．２ＩＣＡ的含混性
ＰｉｅｒｒｅＣｏｍｏｎ证明【ｌ】了在基本ＩＣＡ模型条件下，有Ｗ＝Ａ～．Ｐ．Ａ成立。其中，Ｐ是互换单位矩阵的两行得到的对换矩阵（排列矩阵），Ａ是满秩对角矩阵。这意味着为求得精确的解，还需要将估计出的源信号调整顺序和缩放幅值大小。这就是ＩＣＡ的含混性：不能确定独立成分的方差（能量）；不能确定独立成分的次序。ＩＣＡ算法只能从混合信号中分离出波形与源信号相同的独立信号。
对信号恢复而言，次序并不重要。为解决缩放大小的含混性，常常引入严格的或松的约束，约束常常结合在求ｗ（ｆ）的学习规则中。
１．３非高斯性就是独立性
由概率论中的中心极限定理可知，多个独立随机变量的混合信号趋近于高斯分布。因此，在ＩＣＡ模型中，若干个独立源信号组成的混合信号比任何一个源信号都应该更接近高斯分布。于是，可以使用分离信号的非高斯性作为分离信号之间独立性的度量。
表１常见的非高斯性度量
名称定义
峰度微熵负熵互信息＾（Ｊ）＝耳Ｊ４卜３（Ｅ｛ｘ２｝）２Ｈ（ｉ）＝－Ｊ－ｐ（Ｙ）ｌｏｇｐ（ｉ皿Ｊ（ｉ）＝Ｈ（２Ｃｏ。）一Ｈ（ｊ），（ｉ）＝，（ｊ）一∑：。，（‘）
也就是说，某个分离出的信号的非高斯性越强，该信号就越不可能是若干独立源信号的混合信号，也就是越接近某
个单独的源信号。当所有分离出来的信号的非高斯性都达到最大时，每个分离出来的信号也就越接近不同的单个源信号，分离过程也就完成。
１．４通用求解过程
一般认为，求解基本ＩＣＡ问题的通用步骤包括３步［５】：①数据（混合信号）的预处理，包括中心化、白化。②选择或定义非高斯性（独立性）的度量，建立目标函数（也叫对照函数、代价函数等）。该函数取极值时，估计出的独立成分之间非高斯性最大。该函数代表了一种分离准则，根据不同的分离准则将推导出不同的算法。互信息是常用的度量，一般采用概率密度函数的累积量展开式近似，由于目标函数中含有高阶统计量，算法计算量较大。③用某种最优化方法来最大（小）化目标函数，推导出一种学习算法。
２基本ＩＣＡ模型的已有算法
２．１ＩＣＡ的现状及主要研究小组
目前，国际上有专门针对ＩＣＡ和ＢＳＳ的国际学术会议：１９９９年在法国Ａｕｓｓｏｉｓ、２０００年在芬兰赫尔辛基、２００１年在美国圣地亚哥、２００３年在日本奈良，５ｔｈＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅＯｌｌＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓａｎｄＢｌｉｎｄＳｉｇｎａｌＳｅｐａｒａｔｉｏｎ（１ＣＡ２００４）在西班牙Ｇｒａｎａｄａ召开。近年来，在神经网络、信号处理、机器学习、人工智能、数据挖掘、知识发现、模式识别等领域的国际期刊和会议都可以看到关于ＩＣＡ的论文。
衰２有代表性的研究机构和专家
研究机构专家
美国ＳａｌｋＩｎｓｔｉｔｕｔｅ
加州大学圣地亚哥分校
芬兰赫尔辛基工业大学
日本ＲＩＫＥＮ脑科学研究
所
日本Ｄｅｎｋｉ大学
英国牛津大学
英国剑桥大学
法国ＣＮＲＳ、ＥＮＳＴ
ＴｅｒｒｅｎｃｅＪ．Ｓｅｉｎｏｗｓｋｉ．ＡｎｔｈｏｎｙＪ．Ｂｅｌｌ
Ｔｅ—ＷｏｎＬｅｅ．ＭｉｃｈａｅｌＬｅｗｉｃｋｉ
Ｅｒｋｋｉｏｊａ，ＪｕｈａＫａｒｈｕｎｅｎ，ＡＨｙｖａｒｉｎｅｎ
Ｓｈｕｎ．ｉｃｈｉＡｍａｄ，ＡｎｄｒｚｅｊＣｉｃｈｏｃｋｉ，
ＷｌｏｄｚｉｍｉｅｒｚＫａｓｐｒｚａｋ
ＭａｓａｋｉＫａｗａｋａｔｓｕ
ＳｔｅｐｈｅｎＪ．Ｒｏｂｅｒｔｓ，ＲｉｚｗａｎＡ．Ｃｈｏｕｄｒｅｙ
ＳｉｍｏｎＧｏｄｓｉｌｌ，ＤｏｍｉｎｉｃＣｈａｎ
Ｊｅａｎ．ＦｒａｎｃｏｉｓＣａｒｄｏｓｏ，ＰｉｅｌＴｅＣｏｍｏｎ２．２预处理
①中心化：给定数据向量ｉ，减去其对应的平均值向量ｒｈ＝Ｅ（ｊ），则哥＝（ｖｌＩ．一，Ｋ）『的成分为０均值的随机变量。
ＩＣＡ模型中有夏＝Ａ．ｉ和ｉ＝Ｗ．ｊ，中心化后分离使用的是ｉ＝Ｗ．矿。混合数据置中心化为矿，通过ＩＣＡ算法盲分离得到Ｗ和予，易知源信号亨的估计值哥也是中心化的。
如果准确知道Ａ，则ｉ＝ｉ＋Ａ～．ｒｈ＝Ａ～．矿＋Ａ一．历。但是我们只能估计出ｗ和可。如果信号在审中和在ｉ中的排列顺序一样，则源信号可视为七（多＋Ｗ。ｒｈ），其中ｋ为任意常数。这也阐明了ＩＣＡ的含混性。
②白化也叫球化。对白化后生成的白向量矿有纠矿．矿｝＝Ｉ，即数据白化后，各随机变量的方差均为１，且相互之间是不相关的。
将协方差矩阵Ｃｉ＝￡｛ｉ．≯｝＿ＥＤＥ７进行特征值分解，
２００６年４月系统仿真学报Ａｐｒ．，２００６
其中Ｅ是协方差矩阵Ｃ；的特征向量组成的正交矩阵，Ｄ＝ｄｉａｇ（ｄｌ’．．．，以）是Ｃｊ的特征值组成的对角阵。注意，Ｃ，可以用实际测量的采样数据ｉ（１），ｉ（２）…，ｉ叮）通过标准方法来估算。将白化矩阵定义为Ｖ＝ＥＤ－１１２Ｅ７，其中Ｄ。”＝ｄｉａｇ（ｄ（¨２，…，ｄ：“２）。白化使得混合矩阵Ａ变成了五，即矿＝Ｖ．贾＝ＥＤ－１／２Ｅ７Ａｉ＝五ｉ。因源信号随机向量ｉ之间是独立的，由下可知新的混合矩阵Ａ也是正交的：Ｉ＝Ｅ｛矿?蚕７｝＝Ｅ｛ＡＹ?；７Ａ７｝＝Ａ层｛ｉ?ｉ７｝Ａｒ＝ＡＡｒ
白化减少了要估计的参数个数。原来的混合矩阵Ａ有ｎ２个参数需要估计，而白化后的新混合矩阵Ａ因为是正交矩阵。则它需要满足Ｇ＋，１个方程，即只有ｎ（ｎ一１）／２个自由度。白化减少数据的维数，可起到降噪、防止过学习的作用。可用ＰＣＡ来降维，常常用奇异值分解（ＳＶＤ）来实现。
③其它。将ＩＣＡ成功的应用于给定数据集可能还需要执行一些应用相关的预处理步骤。例如，如果数据包含时间信息，则带通滤波很有帮助。
２．３基本ＩＣＡ模型的解法
基本ＩＣＡ模型是线性瞬时混合方式，即此时不考虑各个的源信号ｓ．的传播时延。本文第３部分将考虑源信号有传播时延的情况。
由于ＩＣＡ问题没有普适的分析解，近十年来，研究人员对源信号的统计特性做了些简单的假设，使用最大化非高斯性（如：高阶矩、负熵等）、最大化似然估计、最小化互信‘息、最大化信息熵和基于张量的方法等【５】来最大化独立性，提出了许多优秀的近似解。
现有的基本ＩＣＡ模型的主要解法及其改进有：
①信息最大化法（Ｉｎｆｏｍａｘ）。１９９５年Ａ．Ｊ．Ｂｅｌｌ和Ｔ．Ｊ．Ｓｅｊｎｏｗｓｋｉ提出了一种单层前馈神经网络算法【７】，图２为其结构框图，ｇ（ｕ，）为可逆的单调非线性函数且露＝Ｗｉ。Ｉｎｆｏｍａｘ算法有效的分离了多个超高斯分布的源信号ｉ的线性混合信号ｊ。
图２Ｉｎｆｏｒｍａｘ框图
将神经网络输出信号的联合熵最大化可以将输出分量Ｙ，＝ｇ（ｕ。）之间的互信息几乎减至最小。神经网络输出信号的联合熵为：
Ｈ（ｙｊ，…，＿），。）＝∑日（Ｍ）一，（）１，…，＿）＇。）（１）
ｆ＝ｌ
其中Ｈ（Ｙｉ）是输出信号的边缘熵，ｌ（ｙｌ，．一，Ｙｎ）是输出信号间的互信息。使用随机梯度下降的优化算法，求分离矩阵ｗ
的迭代公式如下：
ＡＷ＝∥?［（Ｗ。－１一季（萝）ｊ。】?Ｗ（２）这里，／２为学习率；占（?）为给定的非线性函数：吾（萝）是将向量歹的每个成分执行给定的标量函数ｇ（?）。
１９９９年，Ｔｅ－ＷｏｎＬｅｅ和Ｍ．Ｇｉｒｏｌａｍｉ在保留Ｂｅｌｌ的基本算法体系的基础上，结合Ｓ．Ａｍａｒｉ等提出的自然梯度和最大似然估计法，对其进行了推广［８］，使该算法能够分离超高斯和亚高斯分布的混合信号。
②基于极大似然估计（ＭＬＥ）的ＩＣＡ算法。用观测到的样本来估计概率密度函数中的未知参数向量【９】。
在低噪声条件下，采用参数化概率密度函数估计西（ｊ；ａ）找到参数向量五，使生成模式ｐ（置；历）与观测分布ｐ（Ｓ）之间的差别最小。
③最小化互信息（负熵最大化）法。１９９６年，Ｓ．Ａｍａｒｉ、Ａ．Ｃｉｃｈｏｃｋｉ和Ｈ．Ｈ．Ｙａｎｇ提出【ｌ川了一种高效的最小化互信息（ＭＭＩ）学习规则使负熵最大化。求分离矩阵ｗ的迭代公式如下：ＡＷ＝∥?【Ｉ一季（歹）萝。】－Ｗ（３）在估计互信息的值时，概率密度函数的近似展开不是Ｅｄｇｅｗｏｒｔｈ方式，而是Ｇｒａｍ—Ｃｈａｒｌｉｅｒ展开方式。使用自然梯度代替随机梯度搜索最大负熵。
＠ＥＡＳＩ算法。因（３）式不能保证分离矩阵ｗ在迭代过程中的正交性，Ｊ．ＥＣａｒｄｏｓｏ掣ｕ１提出了一种等变化自适应独立分离算法（ＥｑｕｉｖａｒｉａｎｔＡｄａｐｔｉｖｅＳｅｐａｒａｔｉｏｎｖｉａＩｎｄｅｐｅｎｄｅｎｃｅ）。主要特点是用相对梯度代替随机梯度：把白化算法和盲分离算法结合在一起，即把分离矩阵ｗ分解为白化矩阵和正交矩阵的积。求分离矩阵ｗ的迭代公式如下：
ＡＷ＝∥－【Ｉ一歹?歹１一ｇ（Ｙ）Ｙ１＋话（歹７）】－Ｗ（４）
⑤基于张量的方法。张量可视为广义的矩阵，二阶累积量张量就是协方差矩阵，四阶张量是由四阶累积量定义的。
联合对角化法（ＪｏｉｎｔＤｉａｇｏｎａｌｉｚａｔｉｏｎＥｓｔｉｍａｔｉｏｎ）矛０用信号自身特征，根据高阶累积量将ＢＳＳ问题转化为特殊矩阵对角化问题，也称为特征值分解问题（ＥＶＤ）。
ＪＣａｒｄｏｓｏ很早就提出了四阶盲辨识（ＦＯＢＩ）算法；后来他使用四阶累积量矩阵的联合对角化提出了ＪＡＤＥ算法［１２１。
（查）ＦａｓｔｌＣＡ算法。是Ａ．Ｈｙｖａｒｉｎｅｎ提出的快速固定点算法‘１３】，用高阶矩（如峰度）对负熵做近似计算，每次从混合信号中分离出～个独立成分。求分离矩阵ｗ的迭代公式如下：ＡＷ＝ｄｉａｇ（磁）．［ｄｉａｇ（ｆ１．．）＋Ｅ｛ｇ（ｙ）ｙⅧ?Ｗ（５）其中，屈＝－Ｅ｛ｙ。ｇ（Ｙ，）），ｑ＝－１／（ｆｌｉ＋Ｅ｛ｇ。（ｘ）｝），
９１（ｘ）＝ｔａｎｈ（ａｘ），９２（ｘ）＝Ｘ。ｅｘｐ（一工。／２）
３扩展ＩＣＡ模型
３．１盲反卷积
盲反卷积饵Ｄ）是与ＢＳＳ／ＩＣＡ紧密相关的信号处理领域中的问题。在通信等领域，盲反卷积也叫盲均衡（ＢｌｉｎｄＥｑｕａｌｉｚａｔｉｏｎ，ＢＥ）。在盲反卷积中只有一个源和一个传感器。
２００６年４月张建明，等：独立成分分析的研究进展Ａｐｒ．，２００６
当前时刻的观测信号不仅与当前时刻的源信号有关，还与以前时刻的源信号有关。这是由于信号在传播过程中传播路径的不同或经过反射，因而导致同一时刻的观测信号是源信号在不同时刻数据的叠加。我们的任务是在不知道卷积系统、时间延迟和混合系数的条件下，从观测信号中估计源信号。
设观测到的离散时间信号ｉ（ｆ）是由未知的源信号ｉ（ｆ）生成的，卷积模型为：
ｘ（ｆ）＝∑ａｋｓ（ｔ一七）（６）女＝一
这样源信号不同时延的数据被混合在一起了。在盲反卷积过程中，我们要寻找～个反卷积滤波器（７），能提供任何时刻源信号ｘ（ｔ）好的估计值。
“
ｙ（ｆ）＝∑ｈｋｘ（ｔ—ｋ）（７）ｔ＝一
这可以通过挑选反卷积滤波器的系数玩来得到。实践中，通常选择ＦＩＲ滤波器。
为了估计反卷积滤波器，通常假定在不同时刻源信号的值ｓ（ｆ）是非高斯的，统计上是独立同分布的（ｉ．ｉ．ｄ）。盲反卷积除存在与瞬时混合～样的幅度和排列顺序的含混性外，时延也存在含混性，即输出信号可能是源信号时间平移的结果。３．１．１盲反卷积问题的求解算法
（ＤＢｕｓｓｇａｎｇ算法Ⅲ１：对类似于通讯信号的次高斯信号较有效。在滤波器的输出使用了非线性函数，并用非线性输出来调整滤波器系数。
使用长度为２ｚ＋１的ＦＩＲ滤波器结构
ｆ
ｙ（ｔ）＝∑峨（ｆ）ｘＯ—ｋ）（８）女＝－Ｉ
这里＋表示复共轭。ＦＩＲ滤波器的权ｗｋ（ｔ）与时间有关，用ＬＭＳ型的算法来自适应。
Ｋ（ｔ＋１）＝Ｋ（ｔ）＋ｇｔｘ（ｔ—ｋ）ｅ’Ｏ），ｋ＝一ｆ，－??ｌ（９）
其中错误信号定义为ｅ（ｆ）＝ｇ（ｙ（ｆ））一ｙ（ｆ），学习率ｕ为正常数，ｇ（．）为给定的非线性函数。最小化目标函数，（Ｐ（ｆ））＝Ｅ｛ｅ２（ｆ））：Ｅ｛（ｇ（＿），（ｆ））一ｙＯ））２）。
选择不同的ｇ（?）形成了不同的Ｂｕｓｓｇａｎｇ型算法，如Ｓａｔｏ算法、Ｇｏｄａｒｄ算法、常模算法（ＣＭＡ）。
②基于累积量的方法‘１５］：显式使用观测信号的高阶统计
量，不象Ｂｕｓｓｇａｎｇ算法通过非线性函数ｇ（．）隐式使用。
③使用线性ＩＣＡ的ＢＤ。定义
ｉ（ｆ）＝【ｓＯ），ｓ（ｔ—１），?一，ｓ（ｔ—ｎ＋１）】１
ｊ（ｆ）＝［工（ｆ），ｘ（ｔ一１），…，ｘ（ｔ—ｎ＋１）】７
分别表示源信号和混合信号最近的ｒ１个值，则
ｊ＝Ａｇ（１０）这是个标准的线性ＩＣＡ模型。其中Ａ是个矩阵，其行是卷积滤波器的系数ａ。，不同的行代表了不同的状态。这也是经典的用矩阵表示滤波器的方法。
３．２卷积混合的盲分离
卷积混合的盲分离可认为是盲反卷积问题和瞬时盲源
分离问题的组合。在不同的文献中有许多名称：卷积混合的ＩＣＡ、多通道盲反卷积或盲辨识、卷积信号分离、多输入多输，Ｔ，（ＭＩＭＯ）系统的盲辨识。
与ＩＣＡ瞬时混合问题一样，在卷积混合的盲分离中，有多个源（输入）信号和多个观测（输出）信号。各个源信号传播速度是有限的，由于多途效应如无线通信信号碰到障碍引起反射，每路观测信号可能包含同一个源信号的在不同时延的数据。许多卷积混合的盲分离技术实际上是通过扩展改进盲卷积或标准的ＩＣＡ／ＢＳＳ问题的解法得来的。
在卷积混合模型Ｙ（ｔ）＝Ａ．ｉ（ｆ）中，混合矩阵Ａ的每个元素是一个滤波器而不是一个标量。对每个混合，卷积混合的数据模型为：
ｔ（ｆ）＝∑∑口嘶Ｊ『（ｆ一忌），扛ｌ，…，ｎ（１１）
Ｊ＝ｌｔ
这是个ＦＩＲ滤波模型。每个滤波器Ａ。，是固定下标ｉ和－『后由所有形如口。ｉ的系数组成。通常假设系数是与时间无关的常数，ｋ的取值范围也是有限的。
卷积混合的分离过程：
ｙｉ（ｔ）＝ＥＺｗ，Ｈｘ２（ｔ一七），ｉ＝１，…，，ｌ（１２）ｊ＝ｌ女
分离出来的输出信号Ｙｌ（ｆ），…，）＇。（ｆ）是源信号ｓ。（ｆ），…，‰（ｆ）在离散时刻ｔ的估计。岷给出了分离系统ＦＩＲ滤波器组的系数。
３．２．１卷积混合的盲分离问题的求解算法
①重新组织成普通的ＩＣＡ模型［５１。类似于（１０），可以将每个源信号的Ｍ个时延数据连接起来，定义
【Ｊ１（ｆ），函（ｆ—１），?－．，Ｓ１（ｆ—Ｍ＋１），
ｇ（ｔ）＝Ｊ２（ｆ），５２（ｔ—１），…，Ｓ２（ｔ—Ｍ＋１），?一，（１３）
５。（ｆ），Ｓｎ（ｆ—１），?一，Ｓ。（ｆ—Ｍ＋１）】１
［工Ｉ（ｆ），工ｌ（ｆ—１），…，工ｌ（ｆ—Ｍ＋１），
ｊ（ｆ）＝Ｘ２（ｆ），Ｘ２（ｆ一１），?一，Ｘ２（ｔ—Ｍ＋１），…，（１４）
Ｘ。（ｆ），ＸｎＯ一１），…，Ｘｎ（ｔ—Ｍ＋１）】。
则卷积混合模型可写成ｊ＝五ｉ，其中五是由系数为ａ。组成的滤波器组按适当的顺序排列成的数组。现在就可以用普通的ＩＣＡ方法求解。
②自然梯度法‘１６】。分离滤波器组用系数矩阵睨（ｆ）序列表示，ｗ。（ｆ）表示在离散ｔ时刻且时延为ｋ的滤波器。则
ｆ
ｙ（ｔ）＝∑ｗ：（ｆ）ｉＯ一七）（１５）女＝Ｏ
这里ｉＯ—ｋ）是在时刻ｔ—ｋ的ｎ个混合值构成的数据向量。萝（ｆ）是输出向量，是源信号Ｊ。（ｆ），…，ｓ。（ｆ）的估计值。萝（ｆ）包含ｍ个元素且ｍ≤／７，。
通过定义这个矩阵的概念，就可以导出用自然梯度法的分离算法。
③傅立叶变换的方法ｕ７】。时域算法需要大量观测数据和较长的时间，同时在每次迭代过程中计算量很大：频域上的算法可以解决这个问题。可以证明，卷积混合数据经过傅立
２００６年４月系统仿真学报Ａｐｒ．，２００６
叶变换后，不会改变混合矩阵。这样，可以在公式（１１）两边同时执行傅立叶变换得到：
Ｘｉ（神＝∑ＡＪ（动置（动，ｉ＝１，…，ｎ（１６）
ｊ＝ｌ
这表明，卷积混合模型（１１）转化成了在频域上的瞬时线性ＩＣＡ模型。
为了使用标准ＩＣＡ模型的解法，通常使用的是短时傅立叶变换（ＳＴＦＴ），各个数据窗口分别执行傅立叶变换。值得指出的是，现在独立成分和混合矩阵都是复值的。
３．３非线性瞬时混合的盲分离
利用神经网络如ＳＯＭ、ＲＢＦ等来实现非线性瞬时混合的盲分离是目前解决此类问题的有效途径之一。
４待完善的研究领域
４．１有噪声时
基本ＩＣＡ模型是假设没有噪声的，那有噪声时怎么分离？此时的独立成分如何估计？噪声包括测量设备的物理噪声和采用模型的误差。对物理噪声使用滤波器、将ＰＣＡ降维作为预处理步骤等都是有效的。困难的是如何在模型中处理噪声，现有的方法基本上只考虑了加性噪声。
４．２混合信号个数不等于源信号个数时
基本ＩＣＡ模型通常假定接收天线的个数等于源信号的个数，即现有的研究一般只讨论完备的盲信号分离问题。但是在大多数实际应用中，源信号的个数是未知的，甚至可能随时间而变化，从而混合矩阵是非方阵和不可逆的。因此，非完备的盲信号分离问题，包括欠完备（超定）和超完备（欠定）两种情况，值得研究。Ｓ．Ａｍａｒｉ使用Ｒｉｅｍａｎｎ空间Ｓｆｉｅｆｅｌ流形中的自然梯度，将自然梯度学习算法推广到了这两种情况【１引。
当源信号个数大于接收到的混合信号个数时（被称为超完备ｏｖｅｒｃｏｍｐｌｅｔｅ或欠定ｕｎｄｅｒｄｅｔｅｒｍｉｎｅｄ）怎么办？对应超完备或欠定的盲信号分离，如果对于源信号的概率分布没有进一步的先验知识可以利用，即使能正确的估计出混合矩阵，也不可能恢复源信号，因为在混合中丢失了信息，这是最难于处理的一种情况。在编码理论中，我们要寻找某些信号在给定生成系中的表示，通常生成系的维数比这些信号的数目大得多，因此也叫超完备基。这样只使用尽可能少的基，这种表示有时是有益的如压缩，称为稀疏编码。Ｍ．Ｓ．Ｌｅｗｉｃｋｉ和Ｔ．Ｊ．Ｓｅｊｎｏｗｓｋｉ首先将编码理论的思想应用到了超完备ＩＣＡ问题，进行了早期的研究［１９，２０］。稀疏性指源信号的大部分系数基本等于０，许多自然信号经过常见变换后满足稀疏性。Ｍ．Ｄａｖｉｅｓ对音频信号进行改进的离散余弦变换（ＭＤＣＴ），提出了一种简单混合模型【２”。ＥＪ．Ｔｈｅｉｓ提出的几何算法‘２２１包括矩阵恢复、源信号恢复两步，在矩阵恢复中改进了源信号数等于混合信号数时所使用的几何算法，在源恢复中使用最大似然法。
当源信号个数小于接收到的混合信号个数时（被称为欠完备ｕｎｄｅｒｃｏｍｐｌｅｔｅ或超定ｏｖｅｒｄｅｔｅｒｍｉｎｅｄ）怎么办？最直接的想法是用ＰＣＡ进行降维，使得接收到的混合信号个数减少到等于源信号个数。Ｓ．Ａｍａｒｉｔｌ８１以及Ｚｈａｎｇ［２３１等人最早开始这方面的研究，他们从李群（Ｌｉｅｇｒｏｕｐ）和Ｓｔｉｅｆｅｌ流形出发，推导了超定盲信号分离的自然梯度算法。最近国内的朱孝龙用ＳＶＤ来解决这个问题洲。ＭａｘＷｅｌｌｉｎｇ提出【２５１的ＵＰｏＥ模型及其学习算法指明了欠完备ＩＣＡ、投影追踪、加性随机场模型之间的联系纽带。
４．３非线性ＩＣＡ、核ＩＣＡ
最早是由ＥＰａｊｕｎｅｎ和Ａ．Ｈｙｖａｒｉｎｅｎ使用Ｋｏｈｏｎｅｎ的白组织映射（ＳＯＭ）模型解决了非线性ＢＳＳ／ＩＣＡ问题ｆ２圳。ＳｉｍｏｎＨａｙｋｉｎ［２７１使用多层感知器（ＭＬＰ）网络结构给“从未知的源信号非线性映射到已知的观测信号”建模，ＭＬＰ网络可作为光滑连续映射的普适近似；学习过程是基于无监督的贝叶斯整体学习。
ＦＲ．Ｂａｃｈ和Ｍ．Ｉ．Ｊｏｒｄａｎ提出了其代价函数是在再生核Ｈｉｌｂｅｒｔ空间中基于典型相关分析的一类ＩＣＡ算法【２引；然后指明了他们的代价函数与互信息的关系。最近，Ｌ．Ｂ．Ａｌｍｅｉｄａ以互信息为度量，提出了广泛应用于线性和非线性ＩＣＡ问题的ＭＩＳＥＰ方法［２９】，它扩展了Ｉｎｆｏｒｍａｘ方法，从而可以处理非线性混合和自适应估计输出量使用的非线性函数。Ｃ．Ｊｕｔｔｅｎ和Ｍ．Ｂａｂａｉｅ—Ｚａｄｅｈ等人‘３０１提出了基于平滑映射、基于源信号的先验信息、基于混合和分离过程的结构性约束，来分离非线性混合的三种情况下的解法。
４．４数据为复数时
分离复值信号是信号处理过程中经常遇到的问题，如源信号卷积混合的分离中就包含了对复值信号的计算。Ｅ．Ｂｉｎｇｈａｍ和Ａ．Ｈｙｖａｒｉｎｅｎ将ＦａｓｔｌＣＡ算法推广到了复值信号混合的情况【３１１。ＥＪ．Ｔｈｅｉｓ利用复数域上的Ｄａｒｍｏｉｓ—Ｓｋｉｔｏｖｉｔｃｈ定理计算具有复数型随机变量和系数的ＩＣＡ问题中的不确定性‘３２１，研究了复值ＩＣＡ问题的唯一性和可分离性。４．５盲反卷积、卷积混合的盲分离
本文第３部分已经综述了此问题的主要解决方法。
从结构上看，瞬时混合的ＢＳＳ算法仅是基于空间混合的；而盲反卷积、卷积混合的盲分离包含时间和空间上的混合。如果把基于空间的某些运算扩展到空间和时间域上，就可以把具有等价特性的瞬时混合盲分离算法扩展到卷积混合盲分离【ｌ４１。
对卷积混合盲分离的频域算法而言，由于ＩＣＡ算法本身存在的幅值和排列顺序的含混性，公式（１６）在频域内的输出在每个频率点处输出值的顺序可能被打乱，则反变换到时域的输出就不是源信号了。这个问题目前还没有很好的解决办法。
最近，Ｅ．Ｒ．Ｍｏｈａｍｍｅｄ将互信息与罚分项之和最小化，
２００６年４月张建明，等：独立成分分析的研究进展Ａｐｒ．，２００６
提出了卷积混合盲分离的一种新算法【３３１，确保了源信号估计值满足先验的规范化，避免了幅值的含混性。最小化准则采用梯度算法。
４．６独立性的新度量和近似估计方法
Ｊ．ＥＣａｒｄｏｓｏ发现【３４１，互信息通过线性变换可以分解成两部分，一部分表示成分的去相关，一部分表示它们的非高斯性；另外，还讨论了非高斯性度量间的联系。
虽然独立成分之间独立性的度量最直接的办法是用概率密度函数（ＰＤＦ）来计算，但是直接求ＰＤＦ是比较困难繁琐的，需要间接估计ＰＤＦ或相关的量。Ｙ．Ｂｌａｎｃｏ和Ｓ．Ｚａｚｏ提出［３５】了不基于ＰＤＦ而是基于累积量密度函数的描述两个分布间的统计距离的多个新度量，并给出了在构造ＩＣＡ目标函数时的应用。Ｅ．ＧＬｅａｒｎｅｄ—Ｍｉｌｌｅｒ和Ｊ．Ｗ．ＦｉｓｈｅｒＩＩＩ避免了估计ＰＤＦ，而是直接用熵作度量，并借助于【３６】中连续随机变量的微熵的估计方法，提出了基于熵的间距估计的ＩＣＡ新解法【３７】。
Ｊ．Ｅｒｉｋｓｓｏｎ和Ｖ．Ｋｏｉｖｕｎｅｎ提出了基于随机变量特征函数、第二特征函数，利用Ｊａｃｏｂｉ型优化算法的ＩＣＡ新解法【３引。根据联合特征函数的因子分解得到独立性的定义，这种度量总是存在的。Ｒ．Ｂｏｓｃｏｌｏ等人用ＰＤＦ的非参数估计来求解ＩＣＡ问题［３卯，同时估计源信号的未知ＰＤＦ和分离矩阵。
５结论
独立成分分析方法是一种多用途的统计方法，它的应用包括：语音增强、音频识别：阵列天线处理和通信；医学信号处理；金融数据挖掘；特征提取；模式识别；图象除噪；时序分析：数字水印；遥感等。ＩＣＡ方法的广泛应用促使这个领域研究的流行，但是还存在许多需要解决的问题。
我们将研究非高斯性的新度量，进而建立新的ＩＣＡ求解模型和算法。另外，拟将基本ＩＣＡ模型和卷积ＩＣＡ模型分别应用于图象水印和语音水印；将ＩＣＡ应用于无线传感器网络中的数据融合等。
参考文献：
ＰｉｅｒｒｅＣｏｍｏｎ．Ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ，ａｎｅｗｃｏｎｃｅｐｔ？【ＪＪ．
ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ，Ｓｐｅｃｉａｌ
ＩｓｓｕｅｏｎＨｉｇｈｅｒＯｒｄｅｒＳｔａｔｉｓｔｉｃｓ（Ｓ０１６５—１６８４）．１９９４，３６（３）：２８７—３１４．
ＡａｐｏＨｙｖａｒｉｎｅｎ，ＥｒｋｋｉＯｊａ．Ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ：
ａｌｇｏｒｉｔｈｍｓａｎｄａｐｐｌｉｃａｔｉｏｎｓ【Ｊ】．ＮｅｕｒａｌＮｅｔｗｏｒｋｓ（Ｓ０８９３－６０８０）．
２０００，１３（４—５）：４１１－４３０．
ＡａｐｏＨｙｖ抽＇ｉｎｅｎ．ＳｕｒｖｅｙｏｎＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓ【Ｊ】．
Ｎｅｕｒａｌ
ＣｏｍｐｕｔｉｎｇＳｕｒｖｅｙｓ（Ｓ１０９３—７６０９）．１９９９，２：９４－１２８．杨竹青，李勇，胡德文．独立成分分析方法综述ｆＪ】．自动化学报，
２００２，２８（５）：７６２—７７２．
ＡａｐｏＨｙｖａｒｉｎｅｎ，ＪｕｈａＫａｒｈｕｎｅｎ，ＥｒｋｋｉＯｊａ．ＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔ
Ａｎａｌｙｓｉｓ【Ｍ】．ＮｅｗＹｏｒｋ：ＪｏｈｎＷｉｌｅｙ＆Ｓｏｎｓ，２００１．
ＥｌｌａＢｉｎｇｈａｍ．ＡｄｖａｎｃｅｓｉｎＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓｗｉｔｈ
ＡｐｐｌｉｃａｔｉｏｎｓｔｏＤａｔａＭｉｎｉｎｇ【Ｄ】．ＨｅｌｓｉｎｋｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，
Ｄｅｃｅｍｂｅｒ２００３．
［７】
【８】
［９］
【ｌＯ】
【１２１
【１３】
［１４】
【１５】
［１６】
ｆ１７】
［１８］
【１９】
［２０】
【２１】
【２２］
【２３】
【２４】
【２５】
【２６】
ＡｎｔｈｏｎｙＪＢｅｌｌ．ＴｅｒｒｅｎｃｅＪＳｅｊｎｏｗｓｋｉ．Ａｎｉｎｆｏｒｍａｔｉｏｎ。ｍａｘｉｍｉｚａｔｉｏｎａｐｐｒｏａｃｈｔｏ
ｂｌｉｎｄ
ｓｅｐａｒａｔｉｏｎ
ａｎｄｂｌｉｎｄｄｅｃｏｎｖｏｌｕｔｉｏｎ【Ｊ】．ＮｅｕｒａｌＣｏｍｐｕｔａｔｉｏｎ（Ｓ０８９９—７６６７）．１９９５，７（６）：１１２９—１１５９．
Ｔｅ－ＷｏｎＬｅｅ，ＭａｒｋＧｉｒｏｌａｍｉ，ＴｅｒｒｅｎｃｅＪ．Ｓｅｊｎｏｗｓｋｉ．Ｉｎｄｅｐｅｎｄｅｎｔ
ＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓｕｓｉｎｇ
ａｎＥｘｔｅｎｄｅｄＩｎｆｏｍａｘＡｌｇｏｒｉｔｈｍｆｏｒＭｉｘｅｄＳｕｂ—ＧａｕｓｓｉａｎａｎｄＳｕｐｅｒ－ＧａｕｓｓｉａｎＳｏｕｒｃｅｓ［Ｊ】。Ｎｅｕｒａｌ
Ｃｏｍｐｕｔａｔｉｏｎ（Ｓ０８９９—７６６７）．１９９９，１１（２）：４１７—４４１．
Ｄｉｎｈ－ＴｕａｎＰｈａｍ，ＰＧａｒａｔ．Ｂｌｉｎｄｓｅｐａｒａｔｉｏｎｏｆｍｉｘｔｕｒｅｏｆｉｎｄｅｐｅｎｄｅｎｔ
ｓｏｕｒｃｅｓｔｈｒｏｕｇｈａｑｕａｓｉ—ｍａｘｉｍｕｍｌｉｋｅｌｉｈｏｏｄａｐｐｒｏａｃｈｆＪｌ．ＩＥＥＥ
Ｔｒａｎｓ．ｏｎＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ（Ｓ１０５３—５８７Ｘ）．１９９７，４５（７）：１７１２－１７２５．
ＳＡｍａｒｉ，ＡＣｉｃｈｏｃｋｉ，ＨＨＹａｎｇ．Ａｎｅｗｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｆｏｒｂｌｉｎｄ
ｓｏｕｒｃｅｓｅｐａｒａｔｉｏｎ【Ｃ］／／ＡｄｖａｎｃｅｓｉｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎｇ
Ｓｙｓｔｅｍｓ．Ｓａｎ
Ｍａｔｅｏ．１９９６，８：７５７—７６３．
Ｊｅａｎ－ＦｒａｎｃｏｉｓＣａｒｄｏｓｏ，ＢｅａｔｅＨｖａｍＬａｈｅｌｄ．Ｅｑｕｉｖａｒｉａｎｔａｄａｐｔｉｖｅ
ｓｏｕｒｃｅｓｅｐａｒａｔｉｏｎ１１１．ＩＥＥＥＴｒａｎｓ．ＯｌｌＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ
（Ｓ１０５３—５８７Ｘ）．１９９６．４４（１２）：３０１７－３０３０．
ＪＦＣａｒｄｏｓｏ。ＡＳｏｌｏｕｒｎｉａｃ．Ｂｌｉｎｄｂｅａｍｆｏｒｍｉｎｇｆｏｒｎｏｎ－Ｇａｕｓｓｉａｎ
ｓｉｇｎａｌｓｍ，ｌＥＥ－Ｐｒｏｃｅｅｄｉｎｇｓ—Ｆ（Ｓ０９５６—３７５Ｘ）：１９９３，１４０（４６）：３６２－３７０．
ＡａｐｏＨｙｖａｒｉｎｅｎ．Ｆａｓｔ
ａｎｄＲｏｂｕｓｔＦｉｘｅｄ—ＰｏｉｎｔＡｌｇｏｒｉｔｈｍｓｆｏｒＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓ［Ｊ】ＩＥＥＥＴｒａｎｓ．ｏｎＮｅｕｒａｌ
Ｎｅｔｗｏｒｋｓ（Ｓ１０４５—９２２７）．１９９９，１０（３）：６２６－６３４．
ＳＨａｙｋｉｎ，ＵｎｓｕｐｅｒｖｉｓｅｄＡｄａｐｔｉｖｅＦｉｌｔｅｒｉｎｇ．Ｖ０１．２：Ｂｌｉｎｄ
Ｄｅｃｏｎｖｏｌｕｔｉｏｎ【Ｍ】．Ｗｉｌｅｙ，２０００
ＡＮａｎｄｉ．ＢｌｉｎｄＥｓｔｉｍａｔｉｏｎＵｓｉｎｇＨｉｇｈｅｒ－ＯｒｄｅｒＳｔａｔｉｓｔｉｃｓ【Ｍ】，
Ｋ１ｕｗｅｒ，１９９９．
ＳＩＡｍａｒｉ．ＡＣｉｃｈｏｃｋｉ，Ａｄａｐｔｉｖｅｂｌｉｎｄｓｉｇｎａｌｐｒｏｃｅｓｓｉｎｇ－－ｎｅｕｒａｌ
ｎｅｔｗｏｒｋａｐｐｒｏａｃｈｅｓｉ１１．ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ（Ｓ００１８—９２１９）．１９９８，８６（１０）：２０２６－２０４８．
ＪＡｎｅｍｕｌｌｅｒ，ＢＫｏｌｌｍｅｉｅｎＡｍｐｌｉｔｕｄｅｍｏｄｕｌａｔｉｏｎｄｅｃｏｒｒｅｌａｔｉｏｎｆｏｒ
ｃｏｎｖｏｌｕｔｉｖｅｂｌｉｎｄｓｏｕｒｃｅｓｅｐａｒａｔｉｏｎ［Ｃ］／／ＩＣＡ２０００．Ｈｅｌｓｉｎｋｉ，２０００．
２１５－２２０．
ＳＩＡｍａｒｉ．Ｎａｔｕｒａｌｇｒａｄｉｅｎｔｌｅａｒｎｉｎｇｆｏｒｏｖｅｒ－ａｎｄｕｎｄｅｒ－ｃｏｍｐｌｅｔｅ
ｂａｓｅｓｉｎＩＣＡ［Ｊ】．ＮｅｕｒａｌＣｏｍｐｕｔａｔｉｏｎ（Ｓ０８９９—７６６７）．１９９９，ｌｌ（８）：
１８７５－１８８３．
Ｔｅ．ＷｏｎＬｅｅ，ＭｉｃｈａｅｌＳＬｅｗｉｃｋｉ，ＭａｒｋＧｉｒｏｌａｍｉ，ＴｅｒｒｅｎｃｅＪ
Ｓｅｊｎｏｗｓｋｉ．ＢｌｉｎｄＳｏｕｒｃｅＳｅｐａｒａｔｉｏｎｏｆＭｏｒｅＳｏｕｒｃｅｓＴｈａｎＭｉｘｔｕｒｅｓ
ＵｓｉｎｇＯｖｅｒｃｏｍｐｌｅｔｅＲｅｐｒｅｓｅｎｔａｔｉｏｎｓ【Ｊ】．ＩＥＥＥＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ
Ｌｅｔｔｅｒｓ（Ｓ１０７０—９９０８）．１９９９，６（４）：８７－９０．
ＭｉｃｈａｅｌＳＬｅｗｉｃｋｉ．ＴｅｒｒｅｎｃｅＪＳｅｊｎｏｗｓｋｉ．Ｌｅａｒｎｉｎｇｏｖｅｒｃｏｍｐｌｅｔｅ
ｒｅｐｒｅｓｅｎｔａｔｉｏｎ【Ｊ】．ＮｅｕｒａｌＣｏｍｐｕｔａｔｉｏｎ（Ｓ０８９９—７６６７）．２０００，１２（２）：
３３７－３６５．
ＭＤａｖｉｅｓ，ＮＭｉｔｉａｎｏｕｄｉｓ．Ｓｉｍｐｌｅｍｉｘｔｕｒｅｍｏｄｅｌｆｏｒｓｐａｒｓｅ
ｏｖｅｒｃｏｍｐｌｅｔｅＩＣＡ【Ｊ】ＩＥＥＰｒｏｃ．一Ｖｉｓ．ＩｍａｇｅＳｉｇｎａｌＰｒｏｃｅｓｓ．
（Ｓ１３５０—２４５Ｘ）．２００４，１５１（１）．
ＦａｂｉａｎＪＴｈｅｉｓ，ＥｌｍａｒＷＬａｎｇ，ＣａｒｌｏｓＧＰｕｎｔｏｎｅｔ．Ａ
ｇｅｏｍｅｔｒｉｃａｌｇｏｒｉｔｈｍｆｏｒｏｖｅｒｃｏｍｐｌｅｔｅｌｉｎｅａｒＩＣＡ［Ｊ］．Ｎｅｕｒｏｃｏｍｐｕｔｉｎｇ（Ｓ０９２５—
２３１２）．２００４，５６：３８１—３９８．
ＺｈａｎｇＬＱ，ＣｉｃｈｏｃｋｉＡ，ＡｍａｒｉＳＩ．Ｎａｔｕｒａｌｇｒａｄｉｅｎｔａｌｇｏｒｉｔｈｍｆｏｒ
ｂｌｉｎｄｓｅｐａｒａｔｉｏｎｏｆｏｖｅｒｄｅｔｅｒｍｉｎｅｄｍｉｘｔｕｒｅｗｉｔｈａｄｄｉｔｉｖｅｎｏｉｓｅ【Ｊ】．
ＩＥＥＥ
ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ
Ｌｅｔｔｅｒｓ（Ｓ１０７０—９９０８）．１９９９，６（１１）：２９３－２９５．朱孝龙，张贤达．基于奇异值分解的超定盲信号分离［Ｊ】电子与
信息学报，２００４，２６（３）：３３７－３４３．
ＭａｘＷｅｌｌｉｎｇ，ＲｉｃｈａｒｄＳＺｅｍｅｌ，ＧｅｏｆｆｒｅｙＥ．Ｈｉｎｔｏｎ．Ｐｒｏｂａｂｉｌｉｓｔｉｃ
ＳｅｑｕｅｎｔｉａｌＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔｓＡｎａｌｙｓｉｓ［Ｊ】．ＩＥＥＥ
Ｔｒａｎｓ．ｏｎＮｅｕｒａｌＮｅｔｗｏｒｋｓ（Ｓ０８９３—６０８０）．２００４，ｌ５（４）：８３８—８４９．
ＰＰａｊｕｎｅｎ，ＡＨｙｖａｒｉｎｅｎ，ＪＫａｒｈｕｎｅｎ．Ｎｏｎｌｉｎｅａｒｂｌｉｎｄｓｏｕｒｃｅ
ｓｅｐａｒａｔｉｏｎｂｙｓｅｌｆ－ｏｒｇａｎｉｚｉｎｇｍａｐｓ【Ｃ］／／Ｉｎｔ．Ｃｏｎｆ．ｏｎＮｅｕｒａｌ
ＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎｇ，ＨｏｎｇＫｏｎｇ，１９９６．１２０７—１２１０
Ⅲ嘲ⅢⅢ嘲嘲
２００６年４月
娄山佐，等：基于分解协调原理的大规模动态车辆调度
Ａｐｒ．，２００６
表中第４列是指对子系统单独使用白适应遗传算法（ＡＧＡ）得到总的结果，其染色体数量为２００，迭代３０００次。第５列为自适应遗传算法＋分解协调法（ＡＧＡ＋ＤＣ）得到结果。
衰２自适应遗传算法与自适应遗传算法＋分解协调比较
从表２可得出，当任务数和车辆数比较小时，采用分解协调算法和单独用自适应遗传算法得到的结果差不多；随着任务数和车辆数增加，分解协调算法得到的结果要比单独使用自适应遗传算法好，这主要是由于解空间的变大，遗传算法需要更多的迭代次数，且易于陷于局部最优解的缘故。
文献【５】根据移动费用，采用硬划分方式解决大系统分解后的耦合问题，文中说明按此划分不能保证得到最优解。本文克服它的不足，基于大系统分解协调原理，对子系统间耦合车辆动态协调，达到最佳的分配。但由于对各子系统都没有使用那部分车辆分配使用时，所得结果与子系统优化次序有关，从而影响系统整体优化性能的进一步提高。此外，当车辆和任务分布出现严重不均匀时，应用动态聚类方法，会造成某些类中任务相对车辆数量过多，而另外类中任务相对车辆数量又过少，使分解协调不能有效实施，对解的质量产生较大影响，对此问题的解决，留待以后研究。
５结论
本文提出一种解决大规模车辆调度问题新算法。首先运用动态聚类法，得到车辆分类的中心位置，从而将高维特征的任务分解成几个类。针对传统大系统分解协调算法，在解决大规模车辆调度问题时，收敛速度慢且易振荡，设计了有效的协调参数，并对主、子系统分别设计了不同的白适应遗传算法。仿真试验表明，采用大系统分解协调法，不仅提高解的质量，而且还具有搜索空间小、求解速度快的特点，能够有效解决大规模动态车辆调度问题。
参考文献：
Ｔａｉｌｌａｒｄ．ＥＤ．Ｐａｒａｌｌｅｌｉｔｅｒａｔｉｖｅ
ｓｅａｒｃｈｍｅ山ｏｄｓｆｏｒｖｅｈｉｃｌｅ
ｒｏｕｔｉｎｇ
ｐｒｏｂｌｅｍｓ［Ｊ］Ｎｅｔｗｏｒｋｓ（Ｓ００２８－３０４５）．１９９３，（２３）：６６１—６７３．
ＴｏｔｈＲＶｉｇｏＤ．Ｔｈｅ
ｇｒａｎｕｌａｒ
ｔａｂｕｓｅａｒｃｈａｎｄｉｔｓ
ａｐｐｌｉｃａｔｉｏｎ
ｔｏｔｈｅ
ｖｅｈｉｃｌｅ
ｒｏｕｔｉｎｇ
ｐｒｏｂｌｅｍ们．ＩＮＦＯＲＭＳ
Ｊｏｕｒｎａｌ
ｏｎ
ｃｏｍｐｕｔｉｎｇ
（Ｓ１５２６—５５２８）．２００２，１５（４）：３３３—３４６．
ＧｅｏｒｇｅＭｏｕｒｋｏｕｓｉｓ，ＭａｔｈｅｗＰｒｏｔｏｎｏｔａｒｉｏｓ，ｅｔ
ａｌ，Ａｐｐｌｉｃａｔｉｏｎｏｆ
ｇｅｎｅｔｉｃ
ａｌｇｏｒｉｔｈｍｓ
ｔｏ
ｌａｒｇｅ??ｓｃａｌｅｍｕｌｔｉｐｌｅ?－ｃｏｎｓｔｒａｉｎｔｖｅｈｉｃｌｅｒｏｕｔｉｎｇｐｒｏｂｌｅｍ【Ｊ】ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＣｏｍｐｕｔａｔｉｏｎａｌＩｎｔｅｌｌｉｇｅｎｃｅ
ａｎｄ
Ａｐｐｌｉｃａｔｉｏｎｓ（Ｓ１４６９－０２６８）．２００３．Ｍａｒｃ
Ｒｅｉｍａｎｎ，Ｋａｒｌ
Ｄｏｅｒｎｅｒ，ＲｉｃｈａｒｄＦＨａｒｔｌ．Ｄ—Ａｎｔｓ：ｓａｖｉｎｇｂａｓｅｄ
ａｎｔｓ
ｄｉｖｉｄｅａｎｄｃｏｎｑｕｅｒｔｈｅｖｅｈｉｃｌｅｒｏｕｔｉｎｇ
ｐｒｏｂｌｅｍ【１１．Ｃｏｍｐｕｔｅｒ
ａｎｄ
Ｒｅｓｅａｒｃｈ
３１（Ｓ０３０５—０５４８）．２００４，５６３—５９１．
Ｓ
Ｚ
ＡｌｉＡ
ｈｅｕｒｉｓｔｉｃ
ｄｅｃｏｍｐｏｓｉｔｉｏｎｍｅｔｈｏｄｏｌｏｇｙ
ｆｏｒ
ｃｈａｎｎｅｌ
ａｓｓｉｇｎｍｅｎｔｐｒｏｂｌｅｍｓｉｎｍｏｂｉｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓｙｓｔｅｍｓ，ＰＩＭＲＣ【Ｊ】
ＩＥＥＥ（ＩＳＢＮＯ一７８０３—７５８９—０）．２００２２１７５—２１７９．
Ｍａｈｍａｓｓａｎｉ
Ｈ
Ｓ，ＫｉｍＹ’Ｊａｉｌｌｅｔ
ＥＬｏｃａｌｏｐｔｉｍｉｚａｔｉｏｎａｐｐｒｏａｃｈｅｓ
ｔｏ
ｓｏｌｖｅ
ｄｙｎａｍｉｃｃｏｍｍｅｒｃｉａｌ
ｆｌｅｅｔ
ｍａｎａｇｅｍｅｎｔｐｒｏｂｌｅｍｓ【Ｊ】
ＴｒａｎｓｐｏｒｔａｔｉｏｎＲｅｓｅａｒｃｈ
Ｒｅｃｏｒｄ（Ｓ０３６１—１９８１）．２０００，１７３３，７１—７９．
陈小峰．城市交通信号动态优化控制技术研究【Ｄ】．西安西北工业
大学，２００３．
一一■一…■一…■一…●一…■一…■一————一■一…■一…■一——一一●一…●一…■一一
（上接第９９７页）
Ｓｉｇｎａｌ
Ｐｒｏｃｅｓｓｉｎｇ（Ｓ０１６５—１６８４）?２００４，８４：１９７９－１９８４．
【２７】
ＳｉｍｏｎＨａｙｋｉｎ．Ｎｅｕｒａｌ
Ｎｅｔｗｏｒｋｓ—Ａ
ＣｏｍｐｒｅｈｅｎｓｉｖｅＦｏｕｎｄａｔｉｏｎ，
［３４１
Ｊｅａｎ—ＦｒａｎｃｏｉｓＣａｒｄｏｓｏ?Ｄｅｐｅｎｄｅｎｃｅ，Ｃｏｒｒｅｌａｔｉｏｎ
ａｎｄＧａｕｓｓｉａｎｉｔｙｉｎ
２ｎｄ
ｅｄｉⅡ０ｎ【Ｍ】．Ｐｒｅｎｔｉｃｅ
Ｈａｌｌ，１９９８．Ｉｎｄｅｐｅｎｄｅｎｔ
Ｃｏｍｐｏｎｅｎｔ
Ａｎａｌｙｓｉｓ［Ｊ】Ｊｏｕｒｎａｌ
ｏｆＭａｃｈｉｎｅ
Ｌｅａｒｎｉｎｇ
ｆ２８１
ＦｒａｎｃｉｓＲ
Ｂａｃｈ，Ｍｉｃｈａｅｌ
Ｉ
Ｊｏｒｄａｎ．Ｋｅｒｎｅｌ
ＩｎｄｅｐｅｎｄｅｎｔＣｏｍｐｏｎｅｎｔ
Ｒｅｓｅａｒｃｈ（Ｓ１５３３—７９２８）．２００３，４：．１
１７７－１２０３．
Ａｎａｌｙｓｉｓ
ｆＪｌ．Ｊｏｕｒｎａｌ
ｏｆ
Ｍａｃｈｉｎｅ
ＬｅａｒｎｉｎｇＲｅｓｅａｒｃｈ（Ｓ１５３３—７９２８）．
［３５】
Ｙ
Ｂｌａｎｃｏ，Ｓ
Ｚａｚｏ．Ｎｅｗ
Ｇａｕｓｓｉａｎｉｔｙ
ｍｅａｓｕｒｅｓｂａｓｅｄｏｎｏｒｄｅｒ
２００２，３：１－４８．
ｓｔａｔｉｓｔｉｃｓ：ａｐｐｌｉｃａｔｉｏｎ
ｔｏ
ＩＣＡ『Ｊ１
Ｎｅｕｒｏｃｏｍｐｕｔｉｎｇ（Ｓ０９２５—２３１２）．
【２９】Ｌｕｉｓ
ＢＡｌｍｅｉｄａ．Ｌｉｎｅａｒａｎｄｎｏｎｌｉｎｅａｒ
ＩＣＡｂａｓｅｄ
ｏｎｍｕｔｕａｌ
２００３．５１：３０３—３２０．
ｉｎｆｏｒｍａｔｉｏｎ－－ｔｈｅＭＩＳＥＰｍｅｔｈｏｄ【Ｊ】ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ（Ｓ０１６５＋
［３６１
Ｊ
Ｂｅｉｒｌａｎｔ，Ｅ
ＪＤｕｄｅｗｉｃｚ．Ｌ
Ｇｙｏｒｆｉ．Ｅ，Ｃ．ｖａｌｌ
ｄｅｒＭｅｕｌｅｎ．
１６８４）?２００４，８４（２）：２３１—２４５?
Ｎｏｎｐａｒａｍｅｔｒｉｃｅｎｔｒｏｐｙ
ｅｓｔｉｍａｔｉｏｎ：ａｎｏｖｅｒｖｉｅｗ【Ｊ】．Ｉｎｔｅｒｎａｔｉｏｎａｌ
【３０】
ＣｈｆｉｓｔｉａＩｌ
Ｊｕ‘ｔｅｎ，Ｍａｓ８０ｕｄＢａｂａｉｅ—Ｚａｄｅｈ，Ｓｈａｌｌｒａｍ
Ｈ０８８ｅｉｎｉ?Ｔ№
ＪｏｕｍａｌｏｆＭａｔｈｅｍａｔｉｃａｌａｎｄ
Ｓｔａｔｉｓｔｉｃａｌ
Ｓｃｉｅｎｃｅｓ．ｒＳｌ０５５．７４９０）．
ｅａｓｙ
Ｗａｙｓ
ｆｏｒ
ｓｅｐａｒａｔｉｎｇ
ｎｏｎｌｉｎｅａｒｍｉｘｔｕｒｅｓ？
『Ｊ１．ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ’
’
‘
一
‘
一
一
１９９７．６（１）：１７－３９．
（Ｓ０１６５—１６８４）．２００４，８４（２）：２１７—２２９．～
ｆ３７１肼ｋ
Ｇ
Ｌｅａｒｎｅｄ—Ｍｉｌｌｅｒ，ＪｏｈｎＷ．ＦｉｓｈｅｒⅢ．ＩｃＡ
ＵｓｉｎｇＳｐａｃｉｎｇｓｆ３１１
Ｅｌｌａ
Ｂｉｎｇｈａｍ，Ａａｐｏ
Ｈｙｖａｒｉｎｅｎ．Ａ
ｆａｓｔ
ｆｉｘｅｄ．ｐｏｉｎｔａｌｇｏｒｉｔｈｍ
ｆｏｒ
‘。
一一
一
。
一
一
ＥｓｆｉｍａｔｅｓｏｆＥｎｔｒｏｐｙ
ｆＪｌ．ＪｏｕｒｎａｌｏｆＭａｃｈｉｎｅ
ＬｅａｒｎｉｎｇＲｅｓｅａｒｃｈ
ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔ
ａｎａｌｙｓｉｓ
ｏｆ
ｃｏｍｐｌｅｘ
ｖａｌｕｅｄｓｉｇｎａｌｓ【Ｊ】．
一’、。
一
‘
‘
’
‘。
ｆＳｌ５３３—７９２８）．２００３，４：９９—１１４．
ＩｎｔｅｍａｔｉｏｎａｌＪｏｕｒｎａｌ
ｏｆＮｅｕｒａｌ
Ｓｙｓｔｅｍｓ（ｓ０１２９—０６５７）．２０００，１０（１）：
。
【３８１
Ｊａｎ
Ｅｒｉｋｓｓｏｎ，ＶｉｓａＫｏｉｖｕｎｅｎ．
Ｃｈａｒａｃｔｅｆｌｓｔｉｃ．ｆｕｎｃｔｉｏｎ—ｂａｓｅｄ
１—８．
ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ［Ｊ】．ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ（Ｓ０１６５．１６８４）．
ｆ３２１
ＦＪ
ｎｅｉｓ．Ｕｎｉｑｕｅｎｅｓｓｏｆ
ｃｏｍｐｌｅｘａｎｄ
ｍｕｌｔｉｄｉｍｅｎｓｉｏｎａｌｉｎｄｅｐｅｎｄｅｎｔ
一
～一
‘
。一
一
２００３，８３（１０）：２１９５－２２０８．
ｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ［Ｊ】．ＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ（Ｓ０１６５—１６８４）．２００４，８４（５）：
‘４
【３９１
Ｒｉｃｃａｒｄｏ
Ｂｏｓｃｏｌｏ，ＨｏｎｇＰａｎ，Ｖｗａｎｉ
Ｐ
Ｒｏｙｃｈｏｗｄｈｕｒｙ，Ｉｎｄｅｐｅｎｄｅｎｔ
９５１－９５６．
‘
一
’
’
一
ＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓＢａｓｅｄｏｎ
Ｎｏｎｐａｒａｍｅｔｒｉｃ
Ｄｅｎｓｉｔｙ
Ｅｓｔｉｍａｔｉｏｎ『Ｊ１．
ｆ３３１
Ｍｏｈａｍｍｅｄ
ＥＩ
ＩＵａｂｉ，Ｇｕｉｌｌａｕｍｅ
Ｇｅｌｌｅ，ｅｔａ１．Ａｐｅｎａｌｉｚｅｄｍｕｔｕａｌ
一
一
一
一
‘１
‘
。ⅢＥＥＴｒａｎｓ．ｏｎ
Ｎｅｕｒａｌ
Ｎｅｔｗｏｒｋｓ（Ｓ１０４５—９２２７）．２００４．１５（１）：５５—６５．
ｉｎｆｏｒｍａｔｉｏｎ
ｃｆｌｔｅｆｌｏｎｆｏｒ
ｂｌｉｎｄ
ｓｅｐａｒａｔｉｏｎｏｆｃｏｎｖｏｌｕｔｉｖｅ
ｍｉｘｔｕｒｅｓ【Ｊ】．
…
嘲
Ⅲ…嘲吲ｍ
独立成分分析的研究进展
作者：张建明， 林亚平， 吴宏斌， 杨格兰， ZHANG Jian-ming， LIN Ya-ping， WU Hong-bin ， YANG Ge-lan
作者单位：张建明,ZHANG Jian-ming(湖南大学计算机与通信学院,湖南,长沙,410082;湖南城市学院计算机科学系,湖南,益阳,413049)， 林亚平,LIN Ya-ping(湖南大学计算机与通信学院,湖南
,长沙,410082)， 吴宏斌,杨格兰,WU Hong-bin,YANG Ge-lan(湖南城市学院计算机科学系
,湖南,益阳,413049)
刊名：
系统仿真学报
英文刊名：JOURNAL OF SYSTEM SIMULATION
年，卷(期)：2006，18(4)
被引用次数：14次
参考文献(39条)
1.Pierre Comon Independent component analysis,a new concept? 1994(03)
2.Aapo Hyvarinen.Erkki Oja Independent component analysis:algorithms and applications 2000(4-5)
3.Aapo Hyvarinen Survey on Independent Component Analysis 1999(02)
4.杨竹青.李勇.胡德文独立成分分析方法综述[期刊论文]-自动化学报 2002(05)
5.Aapo Hyvarinen.Juha Karhunen.Erkki Oja Independent Component Analysis 2001
6.Ella Bingham Advances in Independent Component Analysis with Applications to Data Mining 2003
7.Anthony J Bell.Terrence J Sejnowski An information-maximization approach to blind separation and blind deconvolution 1995(06)
8.Te-Won Lee.Mark Girolami.Terrence J Sejnowski Independent Component Analysis using an Extended Infomax Algorithm for Mixed Sub-Gaussian and Super-Gaussian Sources 1999(02)
9.Dinh-Tuan Pham.P Garat Blind separation of mixture of independent sources through a quasi-maximum likelihood approach 1997(07)
10.S Amari.A Cichocki.H H Yang A new learning algorithm for blind source separation 1996
11.Jean-Francois Cardoso.Beate Hvam Laheld Equivariant adaptive source separation 1996(12)
12.J F Cardoso.A Soloumiac Blind beamforming for non-Gaussian signals 1993(46)
13.Aapo Hyvarinen Fast and Robust Fixed-Point Algorithms for Independent Component Analysis
1999(03)
14.S Haykin Unsupervised Adaptive Filtering,Vol.2:Blind Deconvolution 2000
15.A Nandi Blind Estimation Using Higher-Order Statistics 1999
16.S I Amari.A Cichocki Adaptive blind signal processing-neural network approaches 1998(10)
17.J Anemuller.B Kollmeier Amplitude modulation decorrelation for convolutive blind source separation 2000
18.S I Amari Natural gradient learning for over-and under-complete bases in ICA 1999(08)
19.Te-Won Lee.Michael S Lewicki.Mark Girolami.Terrence J Sejnowski Blind Source Separation of More Sources Than Mixtures Using Overcomplete Representations 1999(04)
20.Michael S Lewicki.Terrence J Sejnowski Learning overcomplete representation 2000(02)
21.M Davies.N Mitianoudis Simple mixture model for sparse overcomplete ICA 2004(01)
22.Fabian J Theis.Elmar W Lang.Carlos G Puntonet A geometric algorithm for overcomplete linear ICA 2004
23.Zhang L Q.Cichocki A.Amari S I Natural gradient algorithm for blind separation of overdetermined mixture with additive noise 1999(11)
24.朱孝龙.张贤达基于奇异值分解的超定盲信号分离[期刊论文]-电子与信息学报 2004(03)
25.Max Welling.Richard S Zemel.Geoffrey E Hinton Probabilistic Sequential Independent Components Analysis 2004(04)
26.P Pajunen.A Hyvarinen.J Karhunen Nonlinear blind source separation by self-organizing maps 1996
27.Simon Haykin Neural Networks-A Comprehensive Foundation 1998
28.Francis R Bach.Michael I Jordan Kernel Independent Component Analysis 2002(03)
29.Luis B Almeida Linear and nonlinear ICA based on mutual information-the MISEP method 2004(02)
30.Christian Jutten.Massoud Babaie-Zadeh.Shahram Hosseini Three easy ways for separating nonlinear mixtures ? 2004(02)
31.Ella Bingham.Aapo Hyvarinen A fast fixed-point algorithm for independent component analysis of complex valued signals 2000(01)
32.F J Theis Uniqueness of complex and multidimensional independent component analysis 2004(05)
33.Mohammed El Rhabi.Guillaume Gelle A penalized mutual information criterion for blind separation of convolutive mixtures 2004
34.Jean-Francois Cardoso Dependence,Correlation and Gaussianity in Independent Component Analysis 2003(04)
35.Y Blanco.S Zazo New Gaussianity measures based on order statistics:application to ICA 2003
36.J Beirlant.E J Dudewicz.L Gyorfi.E C van der Meulen Nonparametric entropy estimation:an overview 1997(01)
37.Erik G Learned-Miller.John W Fisher ICA Using Spacings Estimates of Entropy 2003(04)
38.Jan Eriksson.Visa Koivunen Characteristic-function-based independent component analysis 2003(10)
39.Riccardo Boscolo.Hong Pan.Vwani P Roychowdhury.Independent Component Analysis Based on Nonparametric Density Estimation 2004(01)
相似文献(10条)
1.期刊论文姚伏天.金连甫.戴光基于核独立成分分析的盲源信号分离-计算机工程与应用2004,40(6)
独立成分分析(ICA)已经广泛用于盲源信号的分离(BSS).论文介绍了基于核空间的ICA的原理和基本算法,然后介绍了该算法与典型ICA和主成分分析(PCA)在盲源信号分离中的比较.实验表明在盲源信号分离中,基于核空间的ICA与其他典型ICA和PCA算法相比更具有准确性和鲁棒性.
2.期刊论文杨竹青.胡德文独立成分分析方法在盲源信号分离中的应用-计算机测量与控制2002,10(3)
独立成分分析(ICA)在国内尚属一门新型的方法.介绍了ICA的原理及其算法,然后介绍了该算法在盲源信号分离中的具体应用,并将此方法与主成分方法(PCA)进行了比较.结果表明,ICA在盲源信号分离中将是一种很有潜力的方法.
3.期刊论文江宇闻.朱思铭.JIANG Yu-Wen.ZHU Si-Ming一种基于内积运算的ICA新算法-计算机科学2005,32(12) 独立成分分析(ICA)是近几年发展起来用于解决盲源信号分离(Blind Source Separation)的一种基于信号高阶统计特性的分析方法.本文提出了一种基于向量间内积运算的解决独立成分分析问题的新算法,称之为I-ICA.I-ICA将混合数据在新的坐标轴上进行聚类,最后推断出原混合矩阵A',再通过
A'-1和已有的观测数据计算得到源信号.
4.学位论文姚铮独立成分分析算法及计算机实现2005
本文着重阐述了独立成分分析的算法，并通过实例完成了相关算法的计算机实现，通过“鸡尾酒会问题”——盲源分离的经典例子介绍了独立成分分析的产生背景，通过忽略噪声的影响、成分是统计独立的、成分是非高斯分布的三个假设引入了独立成分分析的模型，从概率密度和相关性两个方面给出了独立成分分析的定义，并简要介绍了独立成分分析与投影法的异同，概述了sICA、tICA的不同之处，通过非高斯的最大化、互信息的最小化、最大似然函数估计(ML)三种方法介绍了当前估计独立成分分析模型的主要方法。在分析各种方法的原理后引出了独立成分分析的主要算法，并通过FastICA算法的两个实例——混合图像分离和线性混合信号的盲源信号分离介绍了FastICA算法的应用及其优越性，然后针对解决“鸡尾酒会问题”的盲源信号分离实例阐述了基于高斯混合密度函数估计的语音分离算法。
5.期刊论文刘洋.吴新杰.LIU Yang.WU Xin-jie独立成分分析方法的研究及应用-沈阳教育学院学报2006,8(1) 独立成分分析法(ICA)是近几年发展起来的一种新的信号分离方法.本文介绍了ICA的定义、基本原理及几种主要算法及其相互关系,并进一步讨论了ICA在各个领域的应用.
6.期刊论文张林华.汪学兵.Zhang Linhua.Wang Xuebing独立成分分析法及其在股票分析中的应用-计算机工程
与应用2005,41(28)
从信息论和最优化的角度阐述了用于信号分离、特征提取以及金融数据分析的独立成分分析法,并结合中国股票市场的特点用独立成分分析法对各阶段股票走势和收益进行了分析和预测.
7.期刊论文张晋东.秦贵和.陈涛.金健.ZHANG Jin-dong.QIN Gui-he.CHEN Tao.JIN Jian基于FastICA-TDS的DS-
CDMA盲源信号分离系统-通信学报2008,29(8)
为了对DS-CDMA网络信号分离系统的性能进行预测和改进,利用原码字及原码字前后最近的两个码字信息,对原码字进行估计.对现有的多路通道的DS-CDMA模型进行改进,提出了基于三码字(TDS,three datasymbols)的系统模型.通过FastICA算法对DS-CDMA肓源信号逐一地进行分离.实验的结果证明本系统能够更加准确地检测出用户码字,具有较低的漏检率,所提出的方法在系统能量控制方面明显好于MMSE和MF.
8.期刊论文骆鹿.樊可清快速定点独立分量分析在盲源分离中的应用-科技信息（科学·教研）2008,""(2)
独立成分分析(ICA)在国内尚属一门新型的方法.本文介绍了快速定点独立分量分析的原理和算法,并介绍了该算法在盲源信号分离中的具体应用,并将此方法与主成分方法(PCA)进行了比较.文中通过实例给出了这种方法的应用效果.结果表明,ICA 在盲源信号分离中是一种很有潜力的方法.
9.期刊论文杨竹青.李勇.胡德文独立成分分析方法综述-自动化学报2002,28(5)
对ICA方法的原理和应用进行了综述.首先,概要叙述ICA的产生背景和发展前景,简要介绍和评述了ICA的定义、分类以及算法.然后,对ICA在语音信号分离、生物医学信号处理、金融数据分析、图像噪声消除以及人脸识别等方面的实际应用进行了讨论.
10.学位论文苏婷基于ICA和DWT的多重数字图像水印算法2008
随着网络数字多媒体技术的发展，数字水印技术成了数字版权保护领域的研究热点。数字水印技术是将特定的信息嵌入到数字多媒体中，从而保护数字多媒体的安全，这种嵌入通常是不可见的，并且对于含水印数据的各种可能的操作具有鲁棒性。独立成分分析(ICA)是近期发展起来的一种盲源信号分离技术，在许多应用领域发挥着重要的作用。目前，已经有越来越多的专家将其应用在数字水印领域。
本文简单介绍了数字水印技术的产生背景和发展状况，对小波分析理论在数字水印领域的中应用做了重点介绍。以静止数字图像水印作为研究对象，利用ICA技术在小波变换数字图像领域中的应用，采用置乱技术，实现了两种多重数字水印算法。下面是本文的主要内容。
第一章是对数字水印技术的概述，对水印产生的背景知识、数字水印的基本框架和性能评估指标做了简单的介绍，同时概括了数字水印的研究现状和主要应用领域。
第二章为本文研究的数字水印算法做了预备知识简介。对置乱技术、小波分析理论和ICA技术做了详细的介绍。其中对ICA技术的算法FastlCA做了重点介绍。同时，在此基础上介绍了一些其他研究者在这一领域所做的工作。
第三章和第四章是本文的重点章节，分别介绍了两种基于ICA技术和小波分析理论的多重数字水印算法。
(1)基于ICA的多重数字图像水印算法。该算法利用ICA技术，在小波分解得到的中频子带中嵌入水印，并利用ICA盲源分离的特性实现了水印的盲提取。首先是水印的生成，该算法实现的是多重水印的嵌入，选取多个有意义的图像作为水印信息，先分别将它们置乱，再将置乱后的图像利用ICA技术进行混叠，然后选择混叠后的一个图像作为水印嵌入，该水印包含所有原始水印的信息。其次是嵌入位置的选取，对原始载体图像进行分块编号；然后由混沌序列发生器产生一组混沌序列，根据密钥选出一定数量的序列；依据序列从原始图像中选出小块组成一个子图像。本算法是对子图像进行小波分解，将含有多个水印信息的水印嵌入到小波分解后的中频子带中。水印嵌入后将其进行小波逆变换，再根据密钥把子图像还原到原始图像中即可得到水印图像。水印的攻击检测采用Stirmark工具对水印图像进行攻击，该算法具有较强的鲁棒性和不可见性。
(2)基于图像独立特征分量的多重水印算法。该算法首先根据ICA技术在图像特征提取方面的应用，根据嵌入水印的个数提取出其特征分量，然后对这些特征分量进行两层小波分解，并将各个处理后的水印嵌入到中频子带中，水印的提取过程是非盲的，因为用到了原始载体图像。实验结果表明，该算法在增大水印信息容量的同时保证了水印的不可见性，同时，它对各种常见加噪、JPEG压缩、旋转和剪切等攻击具有较强的鲁棒性。本文的最后一章则是对第三章和第四章提出的两种算法进行了比较，并对本文进行了总结，同时进一步展望了将来的工作方向。
引证文献(13条)
1.基于独立成份分析的证券市场分析[期刊论文]-计算机仿真 2009(10)
2.程佳.支小莉.大贝 晴俊基于无线传感器网络和ICA的桥梁诊断系统[期刊论文]-计算机技术与发展 2009(6)
3.陈寿齐.沈越泓.许魁基于复杂度追踪的递归最小二乘盲源分离算法[期刊论文]-系统仿真学报 2009(3)
4.董姝敏.李尧.刘洪波.乔双基于改进遗传算法的盲解卷积[期刊论文]-计算机应用 2009(5)
5.何峰.李刚.周振理.于向阳.张居元基于独立成分分析的胃电信号检测[期刊论文]-仪器仪表学报 2009(4)
6.蔡荣太.王延杰稀疏混合数据的矢量聚类分析与应用[期刊论文]-系统仿真学报 2008(22)
7.李良敏.温广瑞.王生昌.刘红梅基于改进遗传算法的独立分量分析算法[期刊论文]-系统仿真学报 2008(21)
8.司风琪.周建新.仇晓智.徐治皋独立成分分析方法在电站热力过程数据检验中的应用[期刊论文]-中国电机工程
学报 2008(26)
9.高翔.LIU Fei一种基于动态独立子空间分析的过程监控方法[期刊论文]-系统仿真学报 2008(13)
10.司文荣.李军浩.袁鹏.李延沐.梁永春.李彦明局部放电脉冲信号ICA提取技术的初步研究[期刊论文]-高电压技术 2008(6)
11.虞莉娟.熊伟.熊惠民基于独立成分分析的被动红外光谱弱信号检测[期刊论文]-激光与红外 2008(3)
12.朱丽敏.赖惠成一种含噪混合信号的盲分离方法[期刊论文]-科学技术与工程 2007(22)
13.郭凯红PCA在克服变量多重相关性中的局限作用[期刊论文]-计算机应用 2007(9)
本文链接：https://www.sodocs.net/doc/091002545.html,/Periodical_xtfzxb200604046.aspx
授权使用：黄小强(wfxadz)，授权号：55f051e7-e95b-4a8b-ab61-9e1b00aecd05
下载时间：2010年10月26日