一种改进粒子群优化算法在多目标无功优化中的应用_李鑫滨
2010年7月电工技术学报Vol.25 No. 7 第25卷第7期TRANSACTIONS OF CHINA ELECTROTECHNICAL SOCIETY Jul. 2010
一种改进粒子群优化算法在多目标
无功优化中的应用
李鑫滨1,2朱庆军1
（1. 燕山大学电气工程学院秦皇岛 066004 2. 河北省数学研究中心石家庄 050000）
摘要针对粒子群优化算法容易陷入局部最优等问题，提出了一种新的模糊自适应-模拟退火粒子群优化算法。该算法首先是基于模糊推理的思想，将规范化的当前最好性能评价和粒子群算法的惯性权重、学习因子作为模糊控制器的输入，以算法参数变化量的百分数作为模糊控制器的输出，并根据参数设置经验建立了相应的模糊控制规则，使其能够自适应地调节粒子群优化算法的参数；
对调节后粒子新位置的优劣，则通过采用模拟退火算法调节粒子的适应度来加以评价。最后，采用改进后的粒子群优化算法对多目标无功优化模型进行了求解。IEEE 30节点和IEEE 118节点的标准电力系统算例验证了本文所提出的模糊自适应-模拟退火粒子群优化算法的有效性和可行性。
关键词：粒子群优化多目标无功优化模糊自适应模拟退火
中图分类号：TM714.3
Application of Improved Particle Swarm Optimization Algorithm to
Multi-Objective Reactive Power Optimization
Li Xinbin1,2 Zhu Qingjun1
（1. Yanshan University Qinhuangdao 066004 China
2. Hebei Mathematical Research Center Shijiazhuang 050000 China）
Abstract In order to avoid the defect that a conventional particle swarm optimization (PSO) algorithm is easy to trap into a local optimization, a new fuzzy adaptive-simulated annealing PSO algorithm is proposed in this paper. Based on the principle of fuzzy logic, the inputs to the fuzzy controller are the normalized current best performance valuation, inertia weighing of the PSO algorithm and the learning factor, the outputs of the controller are the parameters rate of change. The fuzzy rules are formulated based on the experience of parameters settings so as to adjust the PSO parameters adaptively. The quality of particles’ new location after the adjustment is valued by simulated annealing (SA). Then, the modified PSO algorithm is introduced to solve multi-objective reactive power optimization problem. IEEE 30-bus and IEEE118-bus system are simulated to verify the effectiveness and feasibility of SA- fuzzy self-adaptive particle swarm optimization algorithm.
Keywords：Particle swarm optimization (PSO)，multi-objective reactive power optimization, fuzzy logic, adaptive, simulated annealing (SA)
1引言
电力系统无功优化是保障电力系统安全、经济运行的有效手段，合理的无功分布可以降低网损、提高电压质量并保持电网的正常运行。通常，建立无功优化模型要从经济性和安全性两个角度同时考虑，以有功网损最小、节点电压幅值偏离期望值最小及电压稳定裕度最大为目标函数，构成多目标的无功优化模型。因此，无功优化是一个多变量、多约束、多目标的混合非线性规划问题。对于此类非
国家自然科学基金（60874026）和河北省自然科学基金（07M007）资助项目。
收稿日期 2009-07-10 改稿日期 2009-09-11
138 电工技术学报 2010年7月
凸的、存在多个局部最优点的非线性规划问题的求解，目前常用的方法大致可分为常规优化方法和现代启发式方法。其中梯度法、线性规划和非线性规划等常规数学优化方法，虽然都各有其一定的优越性和适应性，却普遍存在要求目标函数可微、求解时间较长和容易产生维数灾等缺点[1]。随着进化计算技术的发展，遗传算法、蚁群算法和粒子群优化算法等现代启发式算法逐渐引发了人们的研究兴趣，并显示出极大的应用潜力。
粒子群优化（Particle Swarm Optimization, PSO）算法是一种基于群体智能的全局优化进化算法。近年来，PSO算法已广泛应用于函数优化、神经网络训练、组合优化、模式识别、电力系统优化等领域[2-3]。PSO算法具有原理简单、容易实现、易于与其他算法融合等特点，但也存在容易早熟收敛等问题[4]。在算法执行过程中，PSO算法的参数（惯性权重w、加速常数c1和c2）通常被设置成常数或按线性变化规律自适应地从一个较大的初值递减到一个较小的值。由于粒子群算法的搜索过程是一个非线性、动态优化的过程，从全局到局部搜索的线性过渡过程并不能真实反映粒子在寻找最优解时实际的搜索过程，因此，考虑利用模糊控制理论的方法对PSO算法的参数进行调整便成为一种较好的选择。文献[5]提出了基于模糊系统的惯性权重调整策略，但没有考虑对两个加速系数也进行调节，而加速系数在决定粒子下一时刻位置时起着同样重要的作用。文献[6]则将规范化的当前最好性能评价和规范化的最好性能值未改变次数作为模糊控制器的输入，把PSO算法的控制参数作为模糊控制器的输出，利用模糊规则同时调节算法的惯性权重和加速系数。该算法的问题是规范化的最好性能值未改变的次数较大时，算法却不一定陷入局部最优，因为粒子的适应值可能经过很多次迭代都未发生改变，此时若调节算法的参数就难免有些盲目。另外，模糊调节参数后的粒子新位置是否比原位置更优，现没有文献做出研究。
针对上述研究的问题，本文基于模糊控制理论及模拟退火原理对PSO算法进行了改进，进而得到了一种新的模糊自适应-模拟退火粒子群优化算法。该算法先是通过设计模糊控制器使之能够自适应地调节PSO算法的惯性权值和加速系数，然后再通过模拟退火算法对调节后粒子的适应度进行修正，进而来决定新位置是否被接受，从而避免了对算法参数的盲目调节。最后，应用改进的PSO算法对电力系统的多目标无功优化问题进行了求解，并给出了相应的仿真算例。
2多目标无功优化的数学模型
本文兼顾电力系统运行的经济性和安全性，以有功网损最小、电压偏差最小和电压稳定指标最小为电力系统多目标无功优化的数学模型[7]。
2.1有功网损最小模型
有功网损最小模型如下：
()22
Loss
1
min2cos
l N
k k i j k i j ij
k
P g T V V T VVθ
=
??
=+?
??
∑ （1）
式中，N l为参与损耗计算的支路总数；g k为支路k 的电导；i、j分别为支路k两端的节点号；T k为变压器k的电压比；V i和V j分别为节点i和j的电压；θij为节点i和j之间的相角差。
2.2电压偏差最小模型
节点电压值是检验系统安全性和电能质量的重要指标之一。因此将电压与指定电压的偏差也作为目标函数之一，使得电压能保持在满意的水平上，即
L
max
1
min
N
i i
i
i
V V
V
V
?
=
??
?
?=??
??
???
∑（2）
式中，i V?为负荷节点i的指定电压幅值，通常1
i
V?=；
max
i
V
?为负荷节点i允许的最大电压偏差，即max max min
i i i
V V V
?=?；N L为系统的负荷节点数。2.3电压稳定指标模型
由Kessel等提出的局部稳定L指标，是从一个潮流解的变量和参数来计算的电压稳定指标[8]。
在发电机节点电压维持恒定的情况下，稳定状态对应L＜1.0；当系统趋于失稳时， 1.0
L→。根据L和1.0的距离，可表征系统的稳定裕度。故可将电压稳定指标L最小作为目标函数之一，以使系统的电压稳定裕度最大，即
()
L
min max j
j N
L L
∈
=（3）式中，L j为第j个负荷节点的局部电压稳定指标。
2.4约束条件
（1）功率潮流约束
()
b
g d
1
PV PQ
cos sin
1,,
N
i i i j ij ij ij ij
j
P P V V G B
i N N
θθ
=
=++
=+
∑
"（4）
第25卷第7期
李鑫滨等 一种改进粒子群优化算法在多目标无功优化中的应用 139
()
b
g d c 1
sin cos N i i i i
j ij ij ij ij j Q Q Q V V G B θθ==?+?∑
PQ 1,,i N =" （5）
式中，N b 、N PV 、N PQ 分别为节点数、PV 节点数、PQ 节点数；G ij 、B ij 、θij 分别为节点i 和j 之间的电导、电纳和相角差；P g i 、Q g i 分别为节点i 发电机有功和无功功率；P d i 、Q d i 分别为节点i 的有功和无功功率；Q c i 为节点i 并联电容器补偿的无功功率。
（2）状态变量约束
min max L L L PQ 1,,i i i V V V i N ="≤≤ （6） min max g g g g 1,,i i i
Q Q Q i N ="≤≤ （7）
（3）控制变量约束
min max g g g PV 1,,i i i
V V V i N ="≤≤ （8） min max
t 1,,k k k T T T k N ="≤≤ （9） min max c c c c 1,,i i i
Q Q Q i N ="≤≤ （10）
式（6）～式（10）中，N g 、N t 、N c 依次为发电机节点数、变压器支路数、并联电容器的节点数；V g i 、V L i 分别为发电机节点i 的电压和负荷节点i 的电压；
min L i V 、max L i V 、min g i Q 、max
g i Q 、min k T 、max k T 、min g i V 、max g i V 、 min c i
Q 、
max
c i
Q 分别为相应变量的下限和上限。
2.5 多目标无功优化的模糊解法
对上述电力系统多目标模型如果直接求解可以得到Pareto 最优解集，但从中决策出满意解比较困难，因此本文采用多目标的模糊解法将其先转化为单目标模型后再利用改进的粒子群算法进行优化求解。采用模糊多目标解法要求目标函数必须是模糊的，因此，需要把上述多目标无功优化模型转化为仅在[0,1]区间取值的隶属度函数。转化的对象主要是各子目标函数和状态变量，对于控制变量不等式约束和潮流等式约束，则直接编程优化[6]。本文对各子目标函数和状态变量进行模糊化处理时采用如图1所示的线性隶属度函数。
需要说明的是对负荷节点电压的隶属度函数选择梯形分布比较合适，如图1d 所示。图中δ 为可接受的节点电压偏移量（正数），即当负荷节点电压的基准值偏移在[?δ，δ ]时，认为可以接受；否则，不
可接受。由隶属度曲线可以看出，当基准电压值减
小或增大时，其隶属度均降低，当节点电压变化量超出节点电压允许的偏移量时，隶属度为零，这是不允许的。
图1 模糊隶属度曲线
Fig.1 Membership of objective functions and constraints
将目标函数和状态变量按上述隶属度函数模糊化处理后，再根据模糊判决，利用最大化最小隶属度函数最终可以把此多目标无功优化问题转化成如下的单目标形式[6]：
()
()()p 121212max ,s.t.,0 ,0
x x H x x C x x μ???
=????≤ （11） 式中，()p 12,x x μ表示最优隶属度；()12,0H x x =表 示潮流等式约束；()12,0C x x ≤表示控制变量约束。 由此可以由下式计算出无功优化的最优解：
()()(){()()()
}
p 121Loss 234L 5g ,min ,,
,,i i x x P U L V Q μμμμμμ=?
()()
p 12max ,x x x μ?= （13）
由上式求得的最优解x *即是待求多目标问题的有效解或弱有效解[7]。
（12）
140
电 工 技 术 学 报 2010年7月
3 改进的粒子群优化算法
3.1 标准粒子群优化算法
PSO 算法的基本原理是群中的每个粒子在搜索空间中，按照如下公式不断地调整自身的速度和位置，直到满足收敛终止条件。
()()()()()()()
()
1122g 1id id id id d id v k v k c r p k x k c r p k x k ω+=+?+
?
()()()11id id id x k x k v k +=++ （15）
式中，()id v k 为粒子i 在第k 次迭代中第d 维的速 度；()id x k 为粒子i 在第k 次迭代中第d 维的位置；
ω为惯性权重；c 1、c 2为加速系数或称学习因子；
()id P k 为粒子i 在第k 次迭代中第d 维的个体极值
点的位置；()g d p k 为整个粒子群在第k 次迭代中第 d 维的全局极值点的位置；r 1、r 2为[0,1]区间独立的均匀分布的随机数。 3.2 模糊控制器设计
本文提出采用模糊控制的方法对PSO 算法的权重和两个学习因子进行动态调节。在设计模糊控制器时，提出将规范化的当前最好性能评价（Normalized Current Best Performance Evaluation ，NCBPE ）和当前PSO 算法的控制参数ω、c 1、c 2作为模糊控制器的输入，把PSO 算法控制参数变化量的百分数%ω?、1%c ?、2%c ?作为模糊控制器的输出。
min
max min
CBPE CBPE NCBPE CBPE CBPE ?=
? （16）
式中，CPBE max 、CPBE min 分别为当前种群最优性能评价的上下限。
为保证算法收敛性，根据PSO 算法控制参数已有的设置经验，参数值应保持在规定的范围
内[5,10]，
即0.2 1.1ω≤≤，11 2.0c ≤≤，21 2.0c ≤≤，算法控制参数变化量的百分数之变化范围均为[?0.14,0.04]。
本文对模糊控制器中模糊规则的建立主要来源于以下对控制参数的调整经验：
（1）当NCBPE 在迭代后期很小时，可以认为算法已接近最优值，可减小惯性权重ω、同时增大加速系数c 1、c 2，以便加强算法的局部搜索能力。
（2）随着迭代次数的增加，个体认知逐渐削弱而群体认知逐渐加强，c 1应逐渐由大变小，而c 2应逐渐由小变大[9]。这样，在早期提高了粒子在整个
搜索空间的全局搜索能力并且在末期鼓励粒子收敛到全局最优。
对输入和输出变量定义模糊子集：小（S ），中（M ），大（B ），变量对应的隶属度函数均设置成三角函数。输入输出变量的隶属度曲线如图2所示。
图2 输入输出隶属度曲线 Fig.2 Membership of in-out variables
通过对上述的调整经验进行分析，本文给出了下列相应的模糊控制规则表，如表1～表3所示。
表1 ?ω%的模糊规则 Tab.1 Fuzzy rules of ?ω%
ω
NCBPE S M B M S S B M S S M B
B M S
表2 ?c 1%的模糊规则 Tab.2 Fuzzy rules of ?c 1%
c 1
NCBPE S M B M S S B M S S M B B M M
表3 ?c 2%的模糊规则 Tab.3 Fuzzy rules of ?c 2%
c 2
NCBPE
S M B M M S B M S S M B B M S
经过模糊控制器的调整以及利用加权平均法解模糊化后的PSO 算法的三个参数分别根据以下公
（14）
第25卷第7期
李鑫滨等 一种改进粒子群优化算法在多目标无功优化中的应用 141
式进行更新：
(1)()(1()%)k k k ωωω+=+? （17）
111(1)()(1()%)c k c k c k +=+? （18） 222(1)()(1()%)c k c k c k +=+? （19）
3.3 模拟退火算法
模拟退火（Simulated Annealing ，SA ）算法是一种全局优化算法，它的基本思想是模拟固体退火的过程，通过采用Metropolis 重要性采样准则来改进传统蒙特卡罗（Monte Carlo ）采样的计算效率，并通过一组冷却进度表来控制算法进程[11]。
经过上述模糊控制方法调整了PSO 算法主要控制参数后，再按下式对粒子的适应度进行修正：
0exp()k F T p F ′=×× （20）
式中，F ′为适应度值；F 为个体的目标函数值；k 为进化代数；T 0为模拟退火的初始温度，一般取与目标函数同一数量级的值；p 为衰减系数，一般取略小于1的数。这样，在算法运算的初期阶段，p k 较大，有利于表现粒子的多样性；伴随着算法的演化进化，算法的迭代次数逐渐增加，粒子适应度值逐渐减小，有利于算法收敛到全局最优。 对粒子由原位置x id (k )变为模糊调节后的新位
置()id
x k ′的接受概率用模拟退火中的Metropolis 准则确定，即
()new
old new old new
old 1
exp F F p F F F F T k ?′′??=??
′′
??′′?????????
?
≥ （21）
式中，new F ′和old F ′分别为粒子模糊调节后新位置和原位置的适应度；T (k )为PSO 算法第k 代时的温度。采用经典模拟退火算法的降温方式时，则 ()()
lg 1T T k k =+ （22）
由式（21）可见，若模糊调节后新位置的适应度值小于原位置的适应度值，表明新位置优于原位置，则新位置的接受概率为1；同时将新位置的适 应度值与个体极值()id P k 和全局极值()g d P k 的适应 度值分别进行比较，如果仍然较小，则对()id P k 和 ()g d P k 也进行更新。否则，保留粒子原位置，继续
下次迭代。
4 多目标无功优化的主要求解步骤
由上述的设计过程，可以给出基于改进的PSO
算法的多目标无功优化求解流程，如图3所示。
多目标无功优化的求解的主要步骤如下： （1）读入原始数据，包括潮流数据、约束条件、改进的PSO 算法的参数等。
（2）根据2.5节的方法将多目标无功优化问题转化成单目标优化问题。
（3）根据第3节提出的改进的PSO 算法对此
单目标优化问题再进行求解。
图3 多目标无功优化算法流程图
Fig.3 Flowchart of multi-objective reactive power
optimization
5 算例及分析
以IEEE 30节点和IEEE118节点标准电力系统作为多目标无功优化测试算例[12]。所有数据都是以100MVA 为功率基值的标幺值。
SA-FA-PSO 算法的初始参数选择如下：种群大小N =50；初始惯性权重ω=0.7；加速系数c 1=c 2=2.0；最大迭代次数取100，作为算法终止条件；模拟退火的初始温度T 0=200；
模拟退火的衰减系数p =0.95。标准PSO 算法中，惯性权重按线性递减策略从最大0.9变化到最小0.4，其余参数与SA-FA-PSO 算法取值相同。两种算法均采用Matlab7.0编程。
IEEE 30节点系统有41条支路、21个负荷节点；6台发电机、4台可调变压器及2个装有无功补偿的负荷节点。节点1，2，5，8，11，13为发电机节点，在发电机节点中，节点1为平衡节点，2，5，8，11，
＜
142 电工技术学报 2010年7月
13为PV节点，其余均为PQ 节点。PV节点、PQ节
点和平衡节点的电压均设置为0.90（pu）～1.10（pu）。
为减少随机性对算法的影响，将PSO算法和本
文提出的改进的PSO算法分别连续运行50次，30
节点系统平均优化结果见表4。可以看出，采用改
进的PSO算法优化后，电压偏差指标由最初的
0.0320降到0.0112，系统电压得到很大改善，电压
稳定指标L也有原来的0.1578下降到0.1245。优化
结果表明，改进的PSO算法明显优于PSO算法。
表4IEEE30节点系统的平均优化结果
Tab.4 Average results of IEEE30-bus system 项目名称初始状态PSO SA-FA-PSO
网损（pu）0.0566 0.0519 0.0493 电压偏差（pu）0.0320 0.0177 0.0112 电压稳定指标L0.1578 0.1305 0.1245 网损下降率（%）—8.3 12.9 从图4的有功网损随迭代次数的变化曲线和图
5的电压稳定指标随迭代次数变化曲线可以更直观
地看出，改进算法优化效果优于PSO算法。
图4 IEEE30节点系统网损收敛特性曲线
Fig.4 Performance characterastics of P Loss for
IEEE30-bus system
图5 电压稳定指标曲线
Fig.5 Voltage stability index curves of SA-FA-PSO and PSO 由表5可以看出，经改进的PSO算法优化后，
有功网损明显下降，电压偏差和电压稳定指标明显
减小，与PSO算法相比，具有更好的优化效果。用PSO算法优化118节点系统时，网损下降率为
1.13%，而采用改进的PSO算法时，网损下降率达
到了10.95%，进一步说明，在求解高维优化问题时，
改进的PSO算法显示出对维数不敏感的特性，更适
用于大规模复杂电力系统无功优化。
表5IEEE118节点系统平均优化结果
Tab.5 Average results of IEEE118-bus system
项目名称初始状态PSO SA-FA-PSO
网损（pu） 1.3245 1.3095 1.1795 电压偏差（pu）0.0392 0.0132 0.0120 电压稳定指标L0.1498 0.1298 0.1195 网损下降率(%)— 1.13 10.95 6结论
本文提出一种基于模糊控制理论及模拟退火原
理的改进粒子群算法。该算法首先通过设计模糊控
制器对粒子群算法的控制参数进行调整，在设计模
糊控制器时，给定了模糊控制器的输入、输出，并
根据已有的PSO算法参数设置经验建立了新的模
糊控制规则；其次，在对算法的参数进行模糊调整
后，采用模拟退火算法对调节后粒子的适应度进行
修正，并以概率的形式来判断新位置是否被接受；
最后，将改进后的算法应用于以有功网损最小、电
压偏差最小、电压稳定指标为多目标的无功优化模
型进行求解。仿真结果也表明了改进粒子群算法的
有效性和可行性。
参考文献
[1] 刘佳, 李丹, 高立群, 等. 多目标无功优化的向量
评价自适应粒子群算法[J]. 中国电机工程学报,
2008, 28(31): 22-28.
Liu Jia, Li Dan, Gao Liqun, et al. Vector evaluated
adaptive particle swarm optimization algorithm for
multi-objective reaction power optimization[J].
Proceedings of the CSEE, 2008, 28(31): 22-28.
[2] Kenndy J, Eberhart R C. Particle swarm
optimization[C]. Proceedings of IEEE International
Conference on Neutral Networks, Perth, Australia,
1995, 4: 1942-1948.
[3] 吴启迪, 汪镭. 智能微粒群算法研究及应用[M]. 南
京: 江苏教育出版社, 2005.
第25卷第7期李鑫滨等一种改进粒子群优化算法在多目标无功优化中的应用 143
[4] 韩江洪, 李正荣, 魏振春. 一种自适应粒子群优化
算法及其仿真研究[J]. 系统仿真学报, 2006, 18(10):
2969-2971.
Han Jianghong, Li Zhengrong, Wei Zhenchun.
Simulation research of a kind of adaptive particle
swarm optimization algorithm[J]. Journal of System
Simulation, 2006, 18(10): 2969-2971.
[5] Shi Y, Eberhart R C. Fuzzy adaptive particle swarm
optimization[C]. Proceedings of the Congress on
Evolutionary Computation, Seoul, Korea, 2001: 101-106.
[6] Zhang Wen, Liu Yutian. Multi-objective reactive power
and voltage control based on fuzzy optimization strategy
and fuzzy adaptive particle swarm[J]. Electrical Power
and Energy Systems, 2008, 4(5): 1-8.
[7] 张文. 基于粒子群优化算法的电力系统无功优化研
究[D]. 济南: 山东大学, 2006.
[8] 黄洪钟. 多目标模糊优化设计的基本理论与方法
(四)[J]. 机械设计, 1997(4): 39-43.
Huang Hongzhong. The foundational theories and
process of multi-objective fuzzy optimization
algorithm[J]. Journal of Maching Design, 1997(4):
39-43.
[9] Ratnaweera, Halgamuge S K, Waston H C. Self-
organization hierarchical particle swarm optimization
with time-varying acceleration coefficients[C].
Proceedings of the IEEE International Conference on
Evolutionary Computation, 2004: 240-255.
[10] Trelea I C. The particle swarm optimization algorithm:
convergence analysis and parameter selection[C].
Information Processing Letters, 2003, 85(6): 317-325.
[11] 高尚, 杨静宇. 群智能算法及其应用[M]. 北京: 中
国水利水电出版社, 2006.
[12] Varadarajan M, Swarup K S. Differential evolution
approach for optimal reactive power dispatch[J].
Applied Soft Computing, 2007, 12(2): 1-13.
作者简介
李鑫滨男，1969年生，博士，副教授，主要研究方向为非线性
控制、鲁棒控制、智能控制理论及应用等。
朱庆军男，1980年生，硕士研究生，主要研究方向为智能优化
算法及其应用。
（上接第122页）
[13] Li Yunwei, Vilathgamuwa D M, Poh Chiang Loh.
Design, analysis, and real-time testing of a controller
for multibus microgrid system[J]. IEEE Transactions
on Power Electronics, 2004, 19(5): 1195-1204.
[14] 张雪雯, 李艳君. 基于自调节粒子群算法的电力系
统经济负荷分配[J]. 电网技术, 2006, 30(18): 8-13.
Zhang Xuewen, Li Yanjun. Self-adjusted particle
swarm optimization algorithm based economic load
dispatch of power system[J]. Power System Technology, 2006, 30(18): 8-13.
[15] 侯云鹤, 鲁丽娟, 程时杰, 等. 改进粒子群算法及
其在电力系统经济负荷分配中的应用[J]. 中国电机
工程学报, 2004, 24(7): 95-100.
Hou Yunhe, Lu Lijuan, Cheng Shijie, et al. Enhanced
particle swarm optimization algorithm and its application on economic dispatch of power systems[J].
Proceedings of the CSEE, 2004, 24(7): 95-100.
作者简介
陈达威男，1985年生，硕士研究生，研究方向为微电网运行基
础技术研究。
朱桂萍女，1973年生，博士，副教授，主要研究方向为电能质
量和电力电子及其控制技术。
改进的粒子群优化算法
第37卷第4期河北工业大学学报2008年8月V ol.37No.4JOURNAL OF HEBEI UNIVERSITY OF TECHNOLOGY August2008 文章编号：1008-2373(2008)04-0055-05 改进的粒子群优化算法 宋洁，董永峰，侯向丹，杨彦卿 （河北工业大学计算机科学与软件学院，天津300401） 摘要粒子群优化算法是一种基于群体的自适应搜索优化算法，存在后期收敛慢、搜索精度低、容易陷入局部极 小等缺点，为此提出了一种改进的粒子群优化算法，从初始解和搜索精度两个方面进行了改进，提高了算法的计 算精度，改善了算法收敛性，很大程度上避免了算法陷入局部极小．对经典函数测试计算，验证了算法的有效性． 关键词粒子群优化算法；均匀化；变量搜索；初始解；搜索精度 中图分类号TP391文献标识码A A Modified Particle Swarm Optimization Algorithm SONG Jie,DONG Yong-feng,HOU Xiang-dan,Y ANG Yan-qing (School of Computer Science and Engineering,Hebei University of Technology,Tianjin300401,China) Abstract Particle Swarm Optimization Algorithm is a kind of auto-adapted search optimization based on community. But the standard particle swarm optimization is used resulting in slow after convergence,low search precision and easily leading to local minimum.A new Particle Swarm Optimization algorithm is proposed to improve from the initial solution and the search precision.The obtained results showed the algorithm computation precision and the astringency are im- proved,and local minimum is avoided.The experimental results of classic functions show that the improved PSO is ef- ficient and feasible. Key words PSO；average；variable search；initial solution；search accuracy 0引言 粒子群优化（Particle Swarm Optimization，PSO）算法是一种基于群体的随机优化技术，最早在1995年由美国社会心理学家James Kennedy和电气工程师Russell Eberhart[1]共同提出，基本思想源于对鸟群觅食行为的研究．PSO将每个可能产生的解都表述为群中的一个微粒，每个微粒都具有自己的位置向量和速度向量，和一个由目标函数决定的适应度，通过类似梯度下降算法使各粒子向适应度函数值最高的方向群游．该算法控制参数少、程序相对简单，因此在应用领域表现出了很大的优越性．由于PSO算法容易理解、易于实现，所以PSO算法发展很快．目前，多种PSO改进算法已广泛应用于函数优化、神经网络训练、模式识别、模糊系统控制以及其他的应用领域． 许多学者对PSO算法进行研究，发现其容易出现早熟、最优解附近收敛慢等现象，并提出了一些改进方案，例如自适应PSO算法、混合PSO算法、杂交PSO算法等[2-4]．因此，本文从初始解和收敛精度两个角度出发对PSO算法进行了改进，提高了算法的计算精度，有效的改善了算法的优化性能． 1基本PSO算法 PSO算法是一种基于群体的随机优化技术，基本思想源于对鸟群觅食行为的研究．通过对鸟群飞行时经常会突然改变方向、散开、聚集，但整体总保持一致性，个体与个体间鸟群好像在一个中心的控制 收稿日期：2008-04-17 基金项目：河北省自然科学基金（F2006000109） 作者简介：宋洁（1967-），女（汉族），副教授．
基于粒子群优化算法的图像分割
安康学院 学年论文（设计） 题目_____________________________________________ 学生姓名_______________ 学号_____________________________ 所在院（系）_______________________________________ 专业班级__________________________________________________ 指导教师_____________________________________________ 年月曰
基于粒子群优化算法的图像分割 （作者：） （） 指导教师： 【摘要】本文通过对粒子群优化算法的研究，采用Java编程，设计出一套用于图像分割的系统。 基于粒子群优化算法的图像分割系统，可以将一幅给定的图像进行分割，然后将分割结果保存。图像分割的目的是将感兴趣的区域从图像中分割出来，从而为计算机视觉的后续处理提供依据。图像分割的方法有多种，阈值法因其实现简单而成为一种有效的图像分割方法。而粒子群优化（PSO）算法是一类随机全局优化技术，它通过粒子间的相互作用发现复杂搜索空间中的最优区域缩短寻找阈值的时间。因此，基于粒子群优化算法的图像分割以粒子群优化算法为寻优工具，建立具有自适应和鲁棒性的分割方法。从而可以在最短的时间内，准确地确定分割阈值。 关键词：粒子群优化（PSO，图像分割，阈值法，鲁棒性 Abstract T his paper based on the particle swarm optimizati on algorithm, desig ns a set of system for image segme ntati on using Java program min g. Image segme ntati on system based on particle swarm optimizati on algorithm, the image can be a given segmentation, and then the segmentation results would be saved. Image segmentation is the purpose of the interested area from the image, thus providing the basis for the subsequent processing of computer vision. There are many methods of image segmentation, threshold method since its simple realization, becomes a kind of effective method in image segmentation. Particle swarm optimization （PSO） algorithm is a stochastic global optimization technique; it finds optimal regions of complex search spaces for threshold time shorte ned through the in teractio n betwee n particles. Therefore, particle swarm optimization algorithm of image segmentation based on particle swarm optimization algorithm based on optimizati on tools; establish segme ntati on method with adaptive and robust. Therefore, it is possible for us in the shortest possible time to accurately determ ine the segme ntati on threshold. Key word s: PSO, image segmentation, threshold method, robust. 1引言 1.1研究的背景和意义 技术的不断向前发展，人们越来越多地利用计算机来获取和处理视觉图像信息。据统计，人类
粒子群优化算法综述
粒子群优化算法综述 摘要：本文围绕粒子群优化算法的原理、特点、改进与应用等方面进行全面综述。侧重于粒子群的改进算法，简短介绍了粒子群算法在典型理论问题和实际工业对象中的应用，并给出了粒子群算三个重要的网址，最后对粒子群算做了进一步展望。 关键词；粒子群算法；应用；电子资源；综述 0.引言 粒子群优化算法]1[(Particle Swarm Optimization ，PSO)是由美国的Kenned 和Eberhar 于1995年提出的一种优化算法,该算法通过模拟鸟群觅食行为的规律和过程，建立了一种基于群智能方法的演化计算技术。由于此算法在多维空间函数寻优、动态目标寻优时有实现容易，鲁棒性好，收敛快等优点在科学和工程领域已取得很好的研究成果。 1. 基本粒子群算法]41[- 假设在一个D 维目标搜索空间中，有m 个粒子组成一个群落，其中地i 个粒子组成一个D 维向量，),,,(21iD i i i x x x x =，m i ,2,1=，即第i 个粒子在D 维目标搜索空间中的位置是i x 。换言之，每个粒子 的位置就是一个潜在的解。将i x 带入一个目标函数就可以计算出其适 应值，根据适应值得大小衡量i x 的优劣。第i 个粒子的飞翔速度也是一个D 维向量，记为),,,(21iD i i i v v v v =。记第i 个粒子迄今为止搜索到的最优位置为),,,(21iD i i i p p p p =，整个粒子群迄今为止搜索到的最优位置为),,,(21gD gi g g p p p p =。 粒子群优化算法一般采用下面的公式对粒子进行操作
)()(22111t id t gd t id t id t id t id x p r c x p r c v v -+-+=+ω (1) 11+++=t id t id t id v x x (2) 式中，m i ,,2,1 =；D d ,,2,1 =；ω是惯性权重， 1c 和2c 是非负常数， 称为学习因子， 1r 和2r 是介于]1,0[间的随机数；],[max max v v v id -∈，max v 是常数，由用户设定。 2. 粒子群算法的改进 与其它优化算法一样PSO 也存在早熟收敛问题。随着人们对算 法搜索速度和精度的不断追求，大量的学者对该算法进行了改进，大致可分为以下两类：一类是提高算法的收敛速度；一类是增加种群多样性以防止算法陷入局部最优。以下是对最新的这两类改进的总结。 2.1.1 改进收敛速度 量子粒子群优化算法]5[:在量子系统中，粒子能够以某一确定的 概率出现在可行解空间中的任意位置，因此，有更大的搜索范围，与传统PSO 法相比，更有可能避免粒子陷入局部最优。虽然量子有更大的搜索空间，但是在粒子进化过程中，缺乏很好的方向指导。针对这个缺陷，对进化过程中的粒子进行有效疫苗接种，使它们朝着更好的进化方向发展，从而提高量子粒子群的收敛速度和寻优能力。 文化粒子群算法]6[:自适应指导文化PSO 由种群空间和信念空间 两部分组成。前者是基于PSO 的进化，而后者是基于信念文化的进化。两个空间通过一组由接受函数和影响函数组成的通信协议联系在一起，接受函数用来收集群体空间中优秀个体的经验知识；影响函数利用解决问题的知识指导种群空间进化；更新函数用于更新信念空间；
粒子群算法综述
粒子群算法综述 【摘要】：粒子群算法(pso)是一种新兴的基于群体智能的启发式全局搜索算法，具有易理解、易实现、全局搜索能力强等特点，倍受科学与工程领域的广泛关注，已得到广泛研究和应用。为了进一步推广应用粒子群算法并为深入研究该算法提供相关资料，本文对目前国内外研究现状进行了全面分析，在论述粒子群算法基本思想的基础上，围绕pso的运算过程、特点、改进方式与应用等方面进行了全面综述，并给出了未来的研究方向展望。 【关键词】：粒子群算法优化综述 优化理论的研究一直是一个非常活跃的研究领域。它所研究的问题是在多方案中寻求最优方案。人们关于优化问题的研究工作，随着历史的发展不断深入，对人类的发展起到了重要的推动作用。但是，任何科学的进步都受到历史条件的限制，直到二十世纪中期，由于高速数字计算机日益广泛应用，使优化技术不仅成为迫切需要，而且有了求解的有力工具。因此，优化理论和算法迅速发展起来，形成一门新的学科。至今已出现线性规划、整数规划、非线性规划、几何规划、动态规划、随机规划、网络流等许多分支。这些优化技术在诸多工程领域得到了迅速推广和应用，如系统控制、人工智能、生产调度等。随着人类生存空间的扩大，以及认识世界和改造世界范围的拓宽，常规优化法如牛顿法、车辆梯度法、模式搜索法、单纯形法等已经无法处理人们所面的复杂问题，因此高效的
优化算法成为科学工作者的研究目标之一。 1.粒子群算法的背景 粒子群算法(particle swarm optimization，pso)是一种新兴的演化算法。该算法是由j.kennedy和r.c.eberhart于1995年提出的一种基于群智能的随机优化算法。这类算法的仿生基点是：群集动物(如蚂蚁、鸟、鱼等)通过群聚而有效的觅食和逃避追捕。在这类群体的动物中，每个个体的行为是建立在群体行为的基础之上的，即在整个群体中信息是共享的，而且在个体之间存在着信息的交换与协作。如在蚁群中，当每个个体发现食物之后，它将通过接触或化学信号来招募同伴，使整个群落找到食源；在鸟群的飞行中，每只鸟在初始状态下处于随机位置，且朝各个方向随机飞行，但随着时间推移，这些初始处于随机状态的鸟通过相互学习(相互跟踪)组织的聚集成一个个小的群落，并以相同的速度朝着相同的方向飞行，最终整个群落聚集在同一位置──食源。这些群集动物所表现的智能常称为“群体智能”，它可表述为：一组相互之间可以进行直接通讯或间接通讯(通过改变局部环境)的主体，能够通过合作对问题进行分布求解。换言之，一组无智能的主体通过合作表现出智能行为特征。粒子群算法就是以模拟鸟的群集智能为特征，以求解连续变量优化问题为背景的一种优化算法。因其概念简单、参数较少、易于实现等特点，自提出以来已经受到国内外研究者的高度重视并被广泛应用于许多领域。
基于MATLAB的粒子群优化算法的应用示例
对于函数f=x*sin(x)*cos(2*x)-2*x*sin(3*x)，求其在区间[0,20]上该函数的最大值。 ?初始化种群 已知位置限制[0,20],由于一维问题较为简单，因此可以取初始种群N 为50，迭代次数为100,当然空间维数d 也就是1。 位置和速度的初始化即在位置和速度限制内随机生成一个N×d 的矩阵，对于此题，位置初始化也就是在0~20内随机生成一个50×1的数据矩阵，而对于速度则不用考虑约束，一般直接在0~1内随机生成一个50×1的数据矩阵。 此处的位置约束也可以理解为位置限制，而速度限制是保证粒子步长不超限制的，一般设置速度限制为[-1,1]。 粒子群的另一个特点就是记录每个个体的历史最优和种群的历史最优，因此而二者对应的最优位置和最优值也需要初始化。其中每个个体的历史最优位置可以先初始化为当前位置,而种群的历史最优位置则可初始化为原点。对于最优值，如果求最大值则初始化为负无穷，相反地初始化为正无穷。 每次搜寻都需要将当前的适应度和最优解同历史的记录值进行对比，如果超过历史最优值，则更新个体和种群的历史最优位置和最优解。 ?速度与位置的更新
速度和位置更新是粒子群算法的核心，其原理表达式和更新方式如下: 每次更新完速度和位置都需要考虑速度和位置的限制，需要将其限制在规定范围内，此处仅举出一个常规方法，即将超约束的数据约束到边界（当位置或者速度超出初始化限制时，将其拉回靠近的边界处）。当然，你不用担心他会停住不动，因为每个粒子还有惯性和其他两个参数的影响。 代码如下： clc;clear;close all; %% 初始化种群 f= @(x)x .* sin(x) .* cos(2 * x) - 2 * x .* sin(3 * x); % 函数表达式figure(1);ezplot(f,[0,0.01,20]); N = 50; % 初始种群个数 d = 1; % 空间维数 ger = 100; % 最大迭代次数 limit = [0, 20]; % 设置位置参数限制 vlimit = [-1, 1]; % 设置速度限制 w = 0.8; % 惯性权重 c1 = 0.5; % 自我学习因子 c2 = 0.5; % 群体学习因子 for i = 1:d
粒子群算法和遗传算法比较
粒子群算法（PSO）和遗传算法(GA)都是优化算法，都力图在自然特性的基础上模拟个体种群的适应性，它们都采用一定的变换规则通过搜索空间求解。PSO和GA的相同点： (1)都属于仿生算法。PSO主要模拟鸟类觅食、人类认知等社会行为而提出；GA主要借用生物进化中“适者生存”的规律。 (2)都属于全局优化方法。两种算法都是在解空间随机产生初始种群，因而算法在全局的解空间进行搜索，且将搜索重点集中在性能高的部分。 (3)都属于随机搜索算法。都是通过随机优化方法更新种群和搜索最优点。PSO 中认知项和社会项前都加有随机数；而GA的遗传操作均属随机操作。 (4)都隐含并行性。搜索过程是从问题解的一个集合开始的，而不是从单个个体开始，具有隐含并行搜索特性，从而减小了陷入局部极小的可能性。并且由于这种并行性，易在并行计算机上实现，以提高算法性能和效率。 (5)根据个体的适配信息进行搜索，因此不受函数约束条件的限制，如连续性、可导性等。 (6)对高维复杂问题，往往会遇到早熟收敛和收敛性能差的缺点，都无法保证收敛到最优点。 PSO和GA不同点 (1)PSO有记忆，好的解的知识所有粒子都保存，而GA没有记忆，以前的知识随着种群的改变被破坏。 (2)在GA算法中，染色体之间相互共享信息，所以整个种群的移动是比较均匀地向最优区域移动。PSO中的粒子仅仅通过当前搜索到最优点进行共享信息，所以很大程度上这是一种单项信息共享机制，整个搜索更新过程是跟随当前最优解的过程。在大多数情况下，所有粒子可能比遗传算法中的进化个体以更快速度收敛于最优解。 (3)GA的编码技术和遗传操作比较简单，而PSO相对于GA，不需要编码，没有交叉和变异操作，粒子只是通过内部速度进行更新，因此原理更简单、参数更少、实现更容易。 (4)在收敛性方面，GA己经有了较成熟的收敛性分析方法，并且可对收敛速度进行估计；而PSO这方面的研究还比较薄弱。尽管已经有简化确定性版本的收敛性分析，但将确定性向随机性的转化尚需进一步研究。 (5)在应用方面，PSO算法主要应用于连续问题，包括神经网络训练和函数优化等，而GA除了连续问题之外，还可应用于离散问题，比如TSP问题、货郎担问题、工作车间调度等。
粒子群优化算法介绍及matlab程序
粒子群优化算法(1)—粒子群优化算法简介 PSO算法就是模拟一群鸟寻找食物的过程，每个鸟就是PSO中的粒子，也就是我们需要求解问题的可能解，这些鸟在寻找食物的过程中，不停改变自己在空中飞行的位置与速度。大家也可以观察一下，鸟群在寻找食物的过程中，开始鸟群比较分散，逐渐这些鸟就会聚成一群，这个群忽高忽低、忽左忽右，直到最后找到食物。这个过程我们转化为一个数学问题。寻找函数y=1-cos(3*x)*exp(-x)的在[0,4]最大值。该函数的图形如下： 当x=0.9350-0.9450，达到最大值y=1.3706。为了得到该函数的最大值，我们在[0, 4]之间随机的洒一些点，为了演示，我们放置两个点，并且计算这两个点的函数值，同时给这两个点设置在[0, 4]之间的一个速度。下面这些点就会按照一定的公式更改自己的位置，到达新位置后，再计算这两个点的值，然后再按照一定的公式更新自己的位置。直到最后在y=1.3706这个点停止自己的更新。这个过程与粒子群算法作为对照如下： 这两个点就是粒子群算法中的粒子。 该函数的最大值就是鸟群中的食物。 计算两个点函数值就是粒子群算法中的适应值，计算用的函数就是粒子群算法中的适应度函数。 更新自己位置的公式就是粒子群算法中的位置速度更新公式。 下面演示一下这个算法运行一次的大概过程： 第一次初始化 第一次更新位置
第二次更新位置 第21次更新 最后的结果（30次迭代） 最后所有的点都集中在最大值的地方。
粒子群优化算法(2)—标准粒子群优化算法 在上一节的叙述中，唯一没有给大家介绍的就是函数的这些随机的点（粒子）是如何运动的，只是说按照一定的公式更新。这个公式就是粒子群算法中的位置速度更新公式。下面就介绍这个公式是什么。在上一节中我们求取函数y=1-cos(3*x)*exp(-x)的在[0, 4]最大值。并在[0,4]之间放置了两个随机的点，这些点的坐标假设为x1=1.5，x2=2.5；这里的点是一个标量，但是我们经常遇到的问题可能是更一般的情况—x 为一个矢量的情况，比如二维z=2*x1+3*x22的情况。这个时候我们的每个粒子均为二维，记粒子P1＝(x11,x12),P2=(x21,x22),P3=(x31,x32)，......Pn=(xn1,xn2)。这里n 为粒子群群体的规模，也就是这个群中粒子的个数，每个粒子的维数为2。更一般的是粒子的维数为q ，这样在这个种群中有n 个粒子，每个粒子为q 维。 由n 个粒子组成的群体对Q 维（就是每个粒子的维数）空间进行搜索。每个粒子表示为：x i ＝（x i1,x i2,x i3,...,x iQ ），每个粒子对应的速度可以表示为v i =(v i1,v i2,v i3,....,v iQ )，每个粒子在搜索时要考虑两个因素： 1. 自己搜索到的历史最优值 p i ，p i =(p i1,p i2,....,p iQ )，i=1,2,3,....,n ； 2. 全部粒子搜索到的最优值p g ，p g =(p g1,p g2,....,p gQ )，注意这里的p g 只有一个。 下面给出粒子群算法的位置速度更新公式： 112()()()()k k k k i i i i v v c rand pbest x c rand gbest x ω+=+??-+??-, 11k k k i i i x x av ++=+. 这里有几个重要的参数需要大家记忆，因为在以后的讲解中将会经常用到，它们是： ω是保持原来速度的系数，所以叫做惯性权重。1c 是粒子跟踪自己历史最优值的权重系数，它表示粒子自身的认识，所以叫“认知”。通常设置为2。2c 是粒子跟踪群体最优值的权重系数，它表示粒子对整个群体知识的认识，所以叫做“社会知识”，经常叫做“社会”。通常设置为2。()rand 是[0,1]区间内均匀分布的随机数。a 是对位置更新的时候，在速度前面加的一个系数，这个系数我们叫做约束因子。通常设置为1。这样一个标准的粒子群算法就介绍结束了。下图是对整个基本的粒子群的过程给一个简单的图形表示。 判断终止条件可是设置适应值到达一定的数值或者循环一定的次数。 注意：这里的粒子是同时跟踪自己的历史最优值与全局（群体）最优值来改变自己的位置预速度的，所以又叫做全局版本的标准粒子群优化算法。
粒子群算法解决函数优化问题
粒子群算法解决函数优化问题 1、群智能算法研究背景 粒子群优化算法（Particle Swarm Optimization，PSO）是由Kennedy 和Eberhart 在研究鸟类和鱼类的群体行为基础上于1995 年提出的一种群智能算法，其思想来源于人工生命和演化计算理论，模仿鸟群飞行觅食行为，通过鸟集体协作使群体达到优。 PSO算法作为一种新的群智能算法，可用于解决大量非线性、不可微和多峰值的复杂函数优化问题，并已广泛应用于科学和工程领域，如函数优化、神经网络训练、经济调度、模式识别与分类、结构设计、电磁场和任务调度等工程优化问题等。 PSO算法从提出到进一步发展，仅仅经历了十几年的时间，算法的理论基础还很薄弱，自身也存在着收敛速度慢和早熟的缺陷。如何加快粒子群算法的收敛速度和避免出现早熟收敛，一直是大多数研究者关注的重点。因此，对粒子群算法的分析改进不仅具有理论意义，而且具有一定的实际应用价值。 2、国内外研究现状 对PSO算法中惯性权重的改进：Poli等人在速度更新公式中引入惯性权重来更好的控制收敛和探索，形成了当前的标准PSO算法。 研究人员进行了大量的研究工作，先后提出了线性递减权值( LDIW)策略、模糊惯性权值( FIW) 策略和随机惯性权值( RIW) 策略。其中，FIW 策略需要专家知识建立模糊规则，实现难度较大，RIW 策略被用于求解动态系统，LDIW策略相对简单且收敛速度快， 任子晖，王坚于2009 年，又提出了基于聚焦距离变化率的自适应惯性权重PSO算法。 郑春颖和郑全弟等人，提出了基于试探的变步长自适应粒子群算
法。这些改进的PSO算法既保持了搜索速度快的特点, 又提高了全局搜索的能力。 对PSO算法的行为和收敛性的分析：1999 年采用代数方法对几种典型PSO算法的运行轨迹进行了分析，给出了保证收敛的参数选择范围。在收敛性方面Fransvan den Bergh引用Solis和Wets关于随机性算法的收敛准则，证明了标准PSO算法不能收敛于全局优解，甚至于局部优解；证明了保证收敛的PSO算法能够收敛于局部优解，而不能保证收敛于全局优解。 国内的学者：2006 年，刘洪波和王秀坤等人对粒子群优化算法的收敛性进行分析，指出它在满足收敛性的前提下种群多样性趋于减小，粒子将会因速度降低而失去继续搜索可行解的能力，提出混沌粒子群优化算法。 2008 年，黄翀鹏和熊伟丽等人分析惯性权值因子大小对PSO算法收敛性所带来的影响，对粒子群算法进行了改进。2009 年，高浩和冷文浩等人，分析了速度因子对微粒群算法影响，提出了一种基于Gaussian 变异全局收敛的粒子群算法。并证明了它能以概率 1 收敛到全局优解。 2010 年，为提高粒子群算法的收敛性,提出了基于动力系统的稳定性理论，对惯性权重粒子群模型的收敛性进行了分析，提出了使得在算法模型群模型收敛条件下的惯性权重和加速系数的参数约束关系，使算法在收敛性方面具有显著优越性。在PSO算法中嵌入别的算法的思想和技术。 1997年，李兵和蒋慰孙提出混沌优化方法； 1998年，Angeline在PSO算法中引入遗传算法中的选择算子，该算法虽然加快了算法的收敛速度，但同时也使算法陷入局部优的概率大增，特别是在优化Griewank 基准函数的优值时得到的结果不理想； 2004 年，高鹰和谢胜利将混沌寻优思想引入到粒子群优化算法中，首先对当前群体中的优粒子进行混沌寻优, 再用混沌寻优的结果随机替换群体中的一个粒子，这样提出另一种混沌粒子群优化算法。
粒子群优化算法及其应用研究【精品文档】(完整版)
摘要 在智能领域，大部分问题都可以归结为优化问题。常用的经典优化算法都对问题有一定的约束条件，如要求优化函数可微等，仿生算法是一种模拟生物智能行为的优化算法，由于其几乎不存在对问题的约束，因此，粒子群优化算法在各种优化问题中得到广泛应用。 本文首先描述了基本粒子群优化算法及其改进算法的基本原理,对比分析粒子群优化算法与其他优化算法的优缺点，并对基本粒子群优化算法参数进行了简要分析。根据分析结果,研究了一种基于量子的粒子群优化算法。在标准测试函数的优化上粒子群优化算法与改进算法进行了比较,实验结果表明改进的算法在优化性能明显要优于其它算法。本文算法应用于支持向量机参数选择的优化问题上也获得了较好的性能。最后,对本文进行了简单的总结和展望。 关键词：粒子群优化算法最小二乘支持向量机参数优化适应度
目录 摘要...................................................................... I 目录....................................................................... II 1.概述. (1) 1.1引言 (1) 1.2研究背景 (1) 1.2.1人工生命计算 (1) 1.2.2 群集智能理论 (2) 1.3算法比较 (2) 1.3.1粒子群算法与遗传算法(GA)比较 (2) 1.3.2粒子群算法与蚁群算法(ACO)比较 (3) 1.4粒子群优化算法的研究现状 (4) 1.4.1理论研究现状 (4) 1.4.2应用研究现状 (5) 1.5粒子群优化算法的应用 (5) 1.5.1神经网络训练 (6) 1.5.2函数优化 (6) 1.5.3其他应用 (6) 1.5.4粒子群优化算法的工程应用概述 (6) 2.粒子群优化算法 (8) 2.1基本粒子群优化算法 (8) 2.1.1基本理论 (8) 2.1.2算法流程 (9) 2.2标准粒子群优化算法 (10) 2.2.1惯性权重 (10) 2.2.2压缩因子 (11) 2.3算法分析 (12) 2.3.1参数分析 (12) 2.3.2粒子群优化算法的特点 (14) 3.粒子群优化算法的改进 (15) 3.1粒子群优化算法存在的问题 (15) 3.2粒子群优化算法的改进分析 (15) 3.3基于量子粒子群优化(QPSO)算法 (17) 3.3.1 QPSO算法的优点 (17) 3.3.2 基于MATLAB的仿真 (18) 3.4 PSO仿真 (19) 3.4.1 标准测试函数 (19) 3.4.2 试验参数设置 (20) 3.5试验结果与分析 (21) 4.粒子群优化算法在支持向量机的参数优化中的应用 (22) 4.1支持向量机 (22) 4.2最小二乘支持向量机原理 (22)
粒子群算法(1)----粒子群算法简介
粒子群算法(1)----粒子群算法简介 二、粒子群算法的具体表述 上面罗嗦了半天，那些都是科研工作者写论文的语气，不过，PSO的历史就像上面说的那样。下面通俗的解释PSO算法。 PSO算法就是模拟一群鸟寻找食物的过程，每个鸟就是PSO.中的粒子，也就是我们需要求解问题的可能解，这些鸟在寻找食物的过程中，不停改变自己在空中飞行的位置与速度。大家也可以观察一下，鸟群在寻找食物的过程中，开始鸟群比较分散，逐渐这些鸟就会聚成一群，这个群忽高忽低、忽左忽右，直到最后找到食物。这个过程我们转化为一个数学问题。寻找函数y=1-cos(3*x)*exp(-x)的在[0,4]最大值。该函数的图形如下： 当x=0.9350-0.9450，达到最大值y=1.3706。为了得到该函数的最大值，我们在[0，4]之间随机的洒一些点，为了演示，我们放置两个点，并且计算这两个点的函数值，同时给这两个点设置在[0，4]之间的一个速度。下面这些点就会按照一定的公式更改自己的位置，到达新位置后，再计算这两个点的值，然后再按照一定的公式更新自己的位置。直到最后在y=1.3706这个点停止自己的更新。这个过程与粒子群算法作为对照如下： 这两个点就是粒子群算法中的粒子。 该函数的最大值就是鸟群中的食物 计算两个点函数值就是粒子群算法中的适应值，计算用的函数就是粒子群算法中的适应度函数。 更新自己位置的一定公式就是粒子群算法中的位置速度更新公式。 下面演示一下这个算法运行一次的大概过程： 第一次初始化
第一次更新位置 第二次更新位置
第21次更新 最后的结果（30次迭代） 最后所有的点都集中在最大值的地方。
启发式优化算法综述【精品文档】(完整版)
启发式优化算法综述 一、启发式算法简介 1、定义 由于传统的优化算法如最速下降法，线性规划，动态规划，分支定界法，单纯形法，共轭梯度法，拟牛顿法等在求解复杂的大规模优化问题中无法快速有效地寻找到一个合理可靠的解，使得学者们期望探索一种算法:它不依赖问题的数学性能，如连续可微，非凸等特性; 对初始值要求不严格、不敏感，并能够高效处理髙维数多模态的复杂优化问题，在合理时间内寻找到全局最优值或靠近全局最优的值。于是基于实际应用的需求，智能优化算法应运而生。智能优化算法借助自然现象的一些特点，抽象出数学规则来求解优化问题，受大自然的启发，人们从大自然的运行规律中找到了许多解决实际问题的方法。对于那些受大自然的运行规律或者面向具体问题的经验、规则启发出来的方法，人们常常称之为启发式算法（Heuristic Algorithm）。 为什么要引出启发式算法，因为NP问题，一般的经典算法是无法求解，或求解时间过长，我们无法接受。因此，采用一种相对好的求解算法，去尽可能逼近最优解，得到一个相对优解，在很多实际情况中也是可以接受的。启发式算法是一种技术，这种技术使得在可接受的计算成本内去搜寻最好的解，但不一定能保证所得的可行解和最优解，甚至在多数情况下，无法阐述所得解同最优解的近似程度。 启发式算法是和问题求解及搜索相关的，也就是说,启发式算法是为了提高搜索效率才提出的。人在解决问题时所采取的一种根据经验规则进行发现的方法。其特点是在解决问题
时,利用过去的经验,选择已经行之有效的方法，而不是系统地、以确定的步骤去寻求答案，以随机或近似随机方法搜索非线性复杂空间中全局最优解的寻取。启发式解决问题的方法是与算法相对立的。算法是把各种可能性都一一进行尝试，最终能找到问题的答案，但它是在很大的问题空间内，花费大量的时间和精力才能求得答案。启发式方法则是在有限的搜索空间内，大大减少尝试的数量，能迅速地达到问题的解决。 2、发展历史 启发式算法的计算量都比较大，所以启发式算法伴随着计算机技术的发展，才能取得了巨大的成就。纵观启发式算法的历史发展史： 40年代：由于实际需要，提出了启发式算法（快速有效）。 50年代：逐步繁荣，其中贪婪算法和局部搜索等到人们的关注。 60年代: 反思，发现以前提出的启发式算法速度很快，但是解得质量不能保证，而且对大规模的问题仍然无能为力（收敛速度慢）。 70年代：计算复杂性理论的提出，NP问题。许多实际问题不可能在合理的时间范围内找到全局最优解。发现贪婪算法和局部搜索算法速度快，但解不好的原因主要是他们只是在局部的区域内找解，等到的解没有全局最优性。由此必须引入新的搜索机制和策略。 Holland的遗传算法出现了（Genetic Algorithm）再次引发了人们研究启发式算法的兴趣。 80年代以后：模拟退火算法（Simulated Annealing Algorithm），人工神经网络（Artificial Neural Network），禁忌搜索（Tabu Search）相继出现。 最近比较火热的：演化算法（Evolutionary Algorithm）, 蚁群算法（Ant Algorithms），拟人拟物算法，量子算法等。
基于粒子群优化算法的神经网络在
基于粒子群优化算法的神经网络在农药定量构效关系建模中的应用 张丽平 俞欢军3 陈德钊 胡上序 (浙江大学化工系,杭州310027) 摘 要 神经网络模型能有效模拟非线性输入输出关系,但其常规训练算法为BP 或其它梯度算法,导致训练时间较长且易陷入局部极小点。本实验探讨用粒子群优化算法训练神经网络,并应用到苯乙酰胺类农药的定量构效关系建模中,对未知化合物的活性进行预测来指导新药的设计和合成。仿真结果表明,粒子群优化算法训练的神经网络不仅收敛速度明显加快,而且其预报精度也得到了较大的提高。关键词 粒子群优化算法,神经网络,定量构效关系 2004201204收稿;2004207225接受 本文系国家自然科学基金资助项目(N o.20276063) 1 引 言 药物定量构效关系(QS AR )是研究药物生理活性和药物分子结构参数间的量变规律并建立相应的 数学模型,进而研究药物的作用机理,从而用于预测未知化合物的生物活性,探讨药物的作用机理,指导新药的设计和合成,在药物和农药的研究与设计中已经显示出广阔的应用前景1。以往QS AR 的建模方法大多基于统计原理,局限于线性模型,只进行简单的非线性处理,由此所建立的模型很难契合实际构效关系,并且其处理过程都比较繁琐2。神经网络通过学习将构效关系知识隐式分布在网络之中,适用于高度非线性体系。 在药物QS AR 中采用神经网络(NN )始于20世纪80年代末3,此后得到迅速的发展,目前已发展为除多重线性回归和多元数据分析之外的第3种方法4。通常多层前传网络采用BP 算法,通过误差反传,按梯度下降的方向调整权值。其缺点是可能陷入局部极小点,且对高维输入收敛速度非常缓慢。 粒子群优化算法(particle swarm optimization ,PS O )是K ennedy 等5源于对鸟群、鱼群和人类社会行为的研究而发展的一种新的进化型寻优技术。PS O 已成为进化寻优算法研究的热点,其最主要特点是简单、收敛速度快,且所需领域知识少。本实验拟将该方法初始化前传神经网络为苯乙酰胺类农药建立良好适用的QS AR 模型。 2 苯乙酰胺类农药的Q SAR 问题 苯乙酰胺类化合物是除草农药,其除草活性与其分子结构密切相关。所有的N 2(12甲基212苯乙基)苯乙酰胺都可用相应的羧酸酰胺通过霍夫曼反应生成。N 2(12甲基212苯乙基)苯乙酰胺的基本结构式为 : 其中X 为Me 、F 、Cl 、OMe 、CF 3和Br 等,Y 为Me 、Cl 、F 和Br 等,由不同的X 和Y 取代基可构成不同的化合物。常用以下7个理化参数描述化合物的分子组成和结构:log P 、log 2P (疏水性参数及其平方项)、 σ(电性效应参数)、E s (T aft 立体参数)、MR (摩尔折射度),1χ、2 χ(分子连接性指数)。于是这类化合物的QS AR 就转化为上述理化参数与除草活性间的关系。为研究这种关系,选用具有代表性的50个化合物, 他们的活性值取自文献1,见表1。 第32卷2004年12月分析化学(FE NXI H UAX UE ) 研究报告Chinese Journal of Analytical Chemistry 第12期1590～1594
粒子群优化算法车辆路径问题.
粒子群优化算法 计算车辆路径问题 摘要 粒子群优化算法中,粒子群由多个粒子组成,每个粒子的位置代表优化问题在D 维搜索空间中潜在的解。根据各自的位置,每个粒子用一个速度来决定其飞行的方向和距离,然后通过优化函数计算出一个适应度函数值(fitness)。粒子是根据如下三条原则来更新自身的状态:(1)在飞行过程中始终保持自身的惯性;(2)按自身的最优位置来改变状态;(3)按群体的最优位置来改变状态。本文主要运用运筹学中粒子群优化算法解决车辆路径问题。车辆路径问题 由Dan tzig 和Ram ser 于1959年首次提出的, 它是指对一系列发货点(或收货点) , 组成适当的行车路径, 使车辆有序地通过它们, 在满足一定约束条件的情况下, 达到一定的目标(诸如路程最短、费用最小, 耗费时间尽量少等) , 属于完全N P 问题, 在运筹、计算机、物流、管理等学科均有重要意义。粒子群算法是最近出现的一种模拟鸟群飞行的仿生算法, 有着个体数目少、计算简单、鲁棒性好等优点, 在各类多维连续空间优化问题上均取得非常好的效果。本文将PSO 应用于车辆路径问题求解中, 取得了很好的效果。 针对本题，一个中心仓库、7个需求点、中心有3辆车，容量均为1，由这三辆车向7个需求点配送货物，出发点和收车点都是中心仓库。 1233,1,7. k q q q l =====货物需求 量12345670.89,0.14,0.28,0.33,0.21,0.41,0.57g g g g g g g =======， 且 m a x i k g q ≤。利用matlab 编程，求出需求点和中心仓库、需求点之间的各 个距离，用ij c 表示。求满足需求的最小的车辆行驶路径，就是求m i n i j i j k i j k Z c x =∑∑∑。经过初始化粒子群，将初始的适应值作为每个粒子的个
基于收缩因子的改进粒子群算法
基于收缩因子的改进粒子群算法 陈国鸿 （河池学院计算机与信息科学系广西河池 546300） 摘要：针对基本粒子群优化算法(ParticleSwarmOptimization，简称PSO )存在的早熟收敛问题，提出了一种既保持粒子活性又保证粒子快速收敛于全局极值点的改进粒子群优化（XARPSO）算法。在算法运行过程中，如果种群多样性逐步减小，直至超出下限时，种群不再向整体最优位置靠近，而是纷纷远离该最优位置，从而执行了“扩散”操作，而当种群多样性逐步增大，直至超出上限时，种群又开始向整体最优位置靠拢，即执行了“吸引”操作，从而保持了粒子的多样性。同时，该方法引入收缩因子的概念，即通过正确选择惯性权重系数与加速常数即学习因子这些控制参数的值的方法，确保算法收敛。通过Goldstern-Price 函数的最小化测试结果表明，该算法不仅具有较快的收敛速度，而且能够更有效地进行全局搜索。 关键词：粒子算法；收缩因子；吸引；扩散；多峰值函数 引言 粒子群算法最早是在1995年由美国社会心理学家James Kennedy和电气工程师Russell Eberhart共同提出的，简称PSO算法。其基本思想是受他们早期对许多鸟类的群体行为进行建模与仿真研究结果的启发。粒子群算法与其他进化类算法一样，也是一类基于群智能的随机优化算法。但与其它进化计算方法相比， PSO算法具有收敛速度快、设置参数少、程序实现异常简洁、具有深刻的智能背景等特点，既适合科学研究，又特别适合工程应用。因此PSO算法一经提出就引起了国际上相关领域众多学者的关注和研究。目前PSO 算法已广泛应用于函数寻优、神经网络训练、模式分类、模糊系统控制以及其它的应用领域。但是，由于PSO算法在优化过程中所有粒子都向最优解方向飞去，所以粒子趋向同一化，群体的多样性逐渐丧失，即存在早收敛问题，因而也就难以获得较好的优化结果。 为了克服这一缺点，近年来出现了不少改进的PSO算法。如：Shi Y.(1998)提出的带惯性权重的PSO算法、Angeline P.（1999）提出
粒子群优化算法综述
粒子群优化算法 1. 引言 粒子群优化算法(PSO)是一种进化计算技术(evolutionary computation)，由Eberhart博士和kennedy博士发明。源于对鸟群捕食的行为研究 PSO同遗传算法类似，是一种基于迭代的优化工具。系统初始化为一组随机解，通过迭代搜寻最优值。但是并没有遗传算法用的交叉(crossover)以及变异(mutation)。而是粒子在解空间追随最优的粒子进行搜索。详细的步骤以后的章节介绍 同遗传算法比较，PSO的优势在于简单容易实现并且没有许多参数需要调整。目前已广泛应用于函数优化，神经网络训练，模糊系统控制以及其他遗传算法的应用领域 2. 背景: 人工生命 "人工生命"是来研究具有某些生命基本特征的人工系统. 人工生命包括两方面的容 1. 研究如何利用计算技术研究生物现象 2. 研究如何利用生物技术研究计算问题 我们现在关注的是第二部分的容. 现在已经有很多源于生物现象的计算技巧. 例如, 人工神经网络是简化的大脑模型. 遗传算法是模拟基因进化过程的. 现在我们讨论另一种生物系统- 社会系统. 更确切的是, 在由简单个体组成的群落与环境以及个体之间的互动行为. 也可称做"群智能"(swarm intelligence). 这些模拟系统利用局部信息从而可能产生不可预测的群体行为 例如floys 和boids, 他们都用来模拟鱼群和鸟群的运动规律, 主要用于计算机视觉和计算机辅助设计. 在计算智能(computational intelligence)领域有两种基于群智能的算法. 蚁群算法(ant colony optimization)和粒子群算法(particle swarm optimization). 前者是对蚂蚁群落食物采集过程的模拟. 已经成功运用在很多离散优化问题上. 粒子群优化算法(PSO) 也是起源对简单社会系统的模拟. 最初设想是模拟鸟群觅食的过程. 但后来发现PSO是一种很好的优化工具. 3. 算法介绍