深度学习优化粒子群 粒子群优化算法改进

粒子群算法的修正

基础的PSO算法可以成功解决一些问题，例如数学优化问题、组合问题即多层神经网络训练等。但也存在着算法收敛性与收敛速度等问题，因此对PSO算法有许多修正方法，用于提升性能。这些修改包括引入惯性权重、最大速度、速度收缩、确定个人最佳和全局最佳(或局部最佳)位置以及不同的速度模型等方法。

一、最大速度

决定优化算法效率和准确性的很重要的一个方面是 $exploration–exploitation\;\; trade-off$，即探索能力与利用能力的权衡。$exploration$指算法探索不同搜索空间来确定最优解位置所在区域的能力；$exploitation$指算法在给定范围内寻找一个优秀候选解的能力。一个好的优化算法可以很好的平衡这两个目标的矛盾。在PSO中，是利用速度更新公式来达到这一目标。
如前面几篇所述，粒子 $i$

$\mathbf v_{i}(t+1)=\mathbf v_{i}(t)+c_1\cdot \mathbf r_{1}(t)\cdot [\mathbf y_{i}(t)-\mathbf x_{i}(t)]+c_2\cdot \mathbf r_{2}(t)\cdot [\hat \mathbf y_{i}(t)-\mathbf x_{i}(t)]$。

对于 $g-best$ PSO算法， 粒子 $i$ 在第 $j$

$v_{ij}(t+1)=v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]+c_2\cdot r_{2j}(t)\cdot [\hat y_{ij}(t)-x_{ij}(t)]$

常数最大速度

若速度过大，则容易使粒子飞出搜索空间边界，造成粒子发散。为控制粒子的探索能力（即使粒子尽可能不飞出边界），引入速度的边界限制，即最大速度，以 $V_{max,j}$ 代表允许的在第 $j$ 维上的最大速度，则粒子速度更新公式可改为：

$\displaystyle v_i(t+1)=\left\{ \begin{aligned} v$， 其中，$v$ 是根据上述速度更新公式计算得到的。最大速度对搜索的影响如下所示：

$V_{max,j}$ 的值是很重要的，它控制着由逐渐增加的速度所决定的搜索粒度。 $V_{max,j}$ 越大，全局探索能力越强； $V_{max,j}$ 越小，局部开发能力越强。因此，需要确定一个合适的 $V_{max,j}$ 值，以使粒子不能移动的太快或太慢，使得算法的探索与开发能力相平衡。通常， $V_{max,j}=\delta\cdot (x_{max,j}-x_{min,j})$ ，$\delta$

控制最大速度有许多优势，但也存在着一些问题：其一，最大速度不仅改变步长，也改变粒子移动的方向，可能有利于最优解的搜素，也可能不利；其二，当粒子的所有速度都达到最大速度时，就会使得粒子的搜索域变为一个的 $[\mathbf x_i(t)-\mathbf V_{max}，\mathbf x_i(t)+\mathbf V_{max}]$ 超立方体，这就使得粒子可能跳过最优解，也很难对局部区域进行良好的开发利用。这一问题可使用随时间变化的最大速度来解决（即 $V_{max,j}$

可利用双曲正切函数对速度进行限制，降低 PSO算法对 $\delta$ 的敏感性，如：$\displaystyle v_{ij}(t+1)=V_{max,j}\cdot tanh(\frac{v$。

动态最大速度

1.当经过 $\tau$

$\displaystyle V_{max,j}(t+1)=\left\{ \begin{aligned} \gamma \cdot V_{max,j}(t), & & {f(\hat\mathbf y(t))\ge f(\hat\mathbf y(t-t$

2.指数衰减：$\displaystyle V_{max,j}(t+1)=(1-(\frac{t}{n_t})^{\alpha})\cdot V_{max,j}(t)$，其中，$\alpha$ 是由实验或误差或正交验证等方法发现的一个正常数，$n_t$

二、惯性权重

惯性权重可作为一个不使用最大速度时的机制，虽然对速度更新中第一项的作用上很成功，但并不能完全消除最大速度。惯性权重 $\omega$ 控制先前速度对新速度的影响，对于 $g-best$ PSO算法， 粒子 $i$ 在第 $j$

$v_{ij}(t+1)=\omega\cdot v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]+c_2\cdot r_{2j}(t)\cdot [\hat y_{ij}(t)-x_{ij}(t)]$

大的 $\omega$ 值提升探索能力，增加多样性；小的 $\omega$ 值提升局部开发能力，但太小的 $\omega$ 会使种群丧失探索能力，小的 $\omega$ 值使得对应的动量也小，这样使得粒子的方向变化会很容易。$\omega$

对于 $\omega$ 的设置，可在迭代的初始阶段设置一个大一点静态值，使得可以充分搜索，之后使用动态的 $\omega$ ，使得粒子对局部区域的开发能力逐渐增强。$\omega$ 值和加速度常数之间的重要关系是至关重要的，因此 $\omega$ 的选择需要与 $c_1,c_2$ 一同进行。需满足：$\displaystyle \omega>\frac{1}{2}(c_1+c_2)-1$，这保证粒子轨迹线的收敛，若不满足，则会使粒子发散或产生循环行为。

一些动态变化的惯性权重如下：
1.随机调整：在每一代使用随机选择的不同的惯性权重 $\omega$ ， $\omega$

2.线性衰减： $\displaystyle \omega(t)=[\omega(0)-\omega(n_t)]\cdot\frac{(n_t-t)}{n_t}+\omega(n_t)$ ，其中，$n_t$ 是执行算法的最大时间步数，$\omega(0)$ 为初始惯性权重，$\omega(n_t)$ 为终止惯性权重，有$\omega(0)>\omega(n_t)$

3.非线性衰减：非线性衰减相较于线性衰减，进行探索的时间较短，更多的时间用在开发优秀解上。非线性衰减在平滑搜索的空间上更合适。有以下方法：
（1）$\displaystyle \omega(t+1)=\frac{(\omega(t)-0.4)\cdot(n_t-t)}{n_t+0.4}$，其中 $\omega(0)=0.9$
（2）$\displaystyle \omega(t+1)=\alpha\cdot\omega(t$，可取 $\alpha=0.975$，$t$ 是惯性权重上一次改变时的时间。只有当种群的适应度没有大的变化时，惯性权重才会发生改变。
（3）自适应惯性权重，其中惯性值的变化量与群体的相对改进成正比，即 $\displaystyle \omega_i(t+1)=\omega(0)+[\omega(n_t)-\omega(0)]\cdot\frac{e^{m_i(t)}-1}{e^{m_i(t)}+1}$ ，其中相对改进 $\displaystyle m_i(t)=\frac{f(\hat\mathbf y_i(t))-f(\hat\mathbf x_i(t))}{f(\hat\mathbf y_i(t))+f(\hat\mathbf x_i(t))}$，$\omega(0)<1,\omega(n_t)\approx0.5$
。该方法的速度更新与认知部分无关，每个粒子的权重仅与距邻居中最优位置的距离有关。

4.模糊适应权重

5.增加型权重

三、限制系数

限制系数设置如下：
$v_{ij}(t+1)=\chi\cdot\{v_{ij}(t)+\phi_1\cdot [y_{ij}(t)-x_{ij}(t)]+\phi_2\cdot [\hat y_{ij}(t)-x_{ij}(t)]\}$，

其中 $\displaystyle\chi=\frac{2\kappa}{|2-\phi-\sqrt{\phi(\phi-4)}|}$，$\phi_1=c_1\cdot r_1,\phi_2=c_2\cdot r_2,\phi=\phi_1+\phi_2$，需满足 $\phi\ge4,\kappa\in[0,1]$。

上述方程可以衍生出一种对种群特征值动态分析的方法。上述限制条件确保了在不需要最大速度时，使得算法可收敛于一个稳定点，$\chi\in[0,1]$ 表示速度在每次迭代时的衰减程度。参数 $\kappa$ 控制种群的探索与开发能力的平衡。当 $\kappa\approx0$ 时，算法通过局部开发达到快速收敛，整个种群的行为几乎类似于爬坡；当 $\kappa\approx1$ 时，算法有很高的探索能力，收敛很慢。通常， $\kappa$

四、同步更新与异步更新

同步更新时，最佳位置与粒子位置更新是分开进行的，一次迭代中当所有粒子更新完成后再更新最佳位置；

异步更新时，在每次有粒子位置更新后就计算新的最佳位置。

异步更新有着关于搜索空间最佳区域及时反馈的特性，而同步更新则是每迭代一次，只反馈一次信息。异步更新更适用于像 $l-best$ PSO 这种低连通性的结构，而同步更新则更适用于像 $g-best$

五、速度模型

认知模型

在速度更新公式中去掉了社会部分，速度更新公式变为：$v_{ij}(t+1)=\omega\cdot v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]$
认知模型中，粒子的行为可以类比为怀旧，即粒子有回到原来最佳位置的随机趋势。相较于全模型，认知模型是脆弱的，趋向于在初始区域进行局部搜索，其在动态环境中的表现是较差。

社会模型

在速度更新公式中去掉了认知部分，速度更新公式变为：$v_{ij}(t+1)=\omega\cdot v_{ij}(t)++c_2\cdot r_{2j}(t)\cdot [\hat y_{ij}(t)-x_{ij}(t)]$

无私模型

无私模型基本上是社会模型，但是邻域最佳解只从粒子的邻域中选择。即粒子本身是不允许成为最佳邻域解的。无私模型在动态变化的环境中表现也很惨。

有关粒子群算法的其他信息，可参见其之前的两篇博客：
粒子群算法（PSO）——总体概述粒子群算法（PSO）——算法详解（一）