差分进化DE与自适应JaDE在CEC2005函数寻优中的对比实证

最近有朋友和我聊优化算法调参，说标准差分进化算法（DE）在几个工程问题上效果总是不稳定，调了半天F和CR，换个函数又失效了。正好我最近在做CEC2005标准测试函数集上的对比实验，把差分进化算法（DE）和自适应权重差分进化算法（JaDE）从头到尾跑了一遍，也踩了不少坑。这篇就把两者的原理差异、实验设计、Matlab实现和实测结果一起整理出来，给正在做函数寻优对比研究的同学一个参考。

1. 为什么标准DE在CEC2005上经常"翻车"

1.1 DE算法四步流程与三个控制参数

差分进化算法本质上是一种基于种群随机搜索的进化策略，流程只有四步：初始化、变异、交叉、选择。种群里每个个体就是一个候选解向量，维度与待优化函数一致。初始化时在上下界内随机撒点；随后每个个体生成一个变异向量；再和目标个体交叉生成试验向量；最后在试验向量和目标向量之间按适应度择优保留。就是这四个步骤，构建了一套不需要导数信息的寻优框架。

这里边有三个控制参数：种群规模NP、缩放因子F、交叉概率CR。NP决定了每代有多少候选解，关系到搜索覆盖的广度；F控制差分扰动的步长，直接影响收敛速度和种群多样性；CR决定变异向量分量被继承的比例，影响解的结构的改变程度。很多初学者会忽视这个三角关系：单看某个参数，DE的性能像过山车一样波动；而三个参数组合在一起，又和目标函数的形态强相关。CEC2005函数集里很多函数带了偏移和旋转，变量之间不再独立。这时候固定的一组参数，几乎不可能同时适配所有函数。

1.2 变异策略家族：从rand/1到current-to-best/1

DE最灵活的部分是变异策略。最经典的是DE/rand/1： v_i = x_r1 + F * (x_r2 - x_r3)

其中x_r1、x_r2、x_r3是从当前种群中随机抽取的三个互不相同的个体。这个策略随机性强，种群多样性好，但收敛慢。DE/best/1把基准个体换成当前最优个体x_best，收敛明显加速，但容易过早集中到局部最优附近，尤其是在多峰函数上。DE/current-to-best/1则用当前个体向最优个体靠拢，同时增加一个差分扰动，算是对前两者的折中。

CEC2005的难点恰恰在"旋转"与"偏移"：很多函数虽然理论上是可分离的，经过旋转之后就变成强耦合的不可分离问题。标准DE的变异、交叉都是按坐标轴方向进行的，面对旋转类函数时，搜索方向很难匹配函数的主方向。这就是标准DE"翻车"的第一层原因。

1.3 标准DE的两大痛点：参数敏感与早熟收敛

我在CEC2005的多个函数上做过固定参数测试，感受最深的是参数敏感。同一个函数，F取0.3和0.9，收敛曲线可能是天壤之别。比如Rosenbrock这类单峰但病态的函数，F过小容易陷入缓慢爬行，F过大又会在最优值附近震荡，达不到高精度。Rastrigin这类多峰函数，CR过大容易破坏已积累的结构信息，导致种群在局部区域反复跳转。

早熟收敛则是另一个老问题。由于选择操作是贪婪策略，一旦某个局部较优个体被反复选中，其邻域个体在变异中占比升高，整个种群的差分方向慢慢趋同，最终大量个体挤在同一个局部峰附近。如果没有外部机制帮助种群跳出当前吸引域，独立运行30次，可能有20次都卡在同一片区域。这就是为什么很多文献都说标准DE适合"能接受次优解"的场景，而在基准函数上追求极值精度时，需要更聪明的变体。

2. JaDE的自适应改进：从"拍脑袋调参"到"让参数自己进化"

2.1 自适应权重到底改了什么：缩放因子F的动态生成

JaDE首先改变的就是参数生成方式。标准DE使用固定的F和CR，而JaDE让每个个体在每一代都拥有独立的缩放因子F_i。具体做法是：用一个历史均值mu_F为参数的分布（通常用正态分布或柯西分布）采样得到F_i。在每一代结束后，统计所有成功提高适应度的个体的F值，用这些成功样本的Lehmer均值去更新mu_F。Lehmer均值可以放大成功样本中较大F值的影响，从而避免参数过早收缩。这里的"权重"其实说的就是把F、CR当作随进化状态变化的权重系数，而不是固定常数。

这样做的好处很直接：搜索前期，适应度差距大，成功个体往往倾向于较强的扰动，F均值会自动维持在一个较大的范围，帮助种群广撒网；到了后期，局部细搜索需要小步长，采样分布会向更小的F偏移。整个过程不需要手工调参，算法自己对当前问题做出了响应。

2.2 交叉概率CR的自动调整机制

交叉概率CR在标准DE里决定试验向量中来自变异向量的比例。JaDE对CR也做了同样的自适应处理：每个个体从以mu_CR为中心的正态分布中采样CR_i，并限制在[0,1]区间内。每一代结束后，用成功样本的算术平均更新mu_CR。之所以用算术平均而不是Lehmer均值，是因为CR不像F那样参与差分幅值计算，它对搜索方向的贡献更加直接，均匀的均值更稳定。

我在实际使用中验证过一组数据：在Rosenbrock函数上，固定CR=0.3时标准DE要20万次评价才达到某个精度；换成JaDE后，mu_CR自动从初始0.5漂移到0.78附近，实际上更快的保留了有利的坐标分量，收敛速度大约提升了一倍。这种"无感知的自动调参"正是JaDE最实用的一点。

2.3 current-to-pbest/1与外部存档：给"淘汰者"第二次机会

JaDE的另一处关键改进是变异策略换成DE/current-to-pbest/1： v_i = x_i + F_i * (x_pbest - x_i) + F_i * (x_r1 - x_r2)

其中x_pbest是从当前种群中适应度排名前p%的个体中随机挑选的，而不是用严格的最优个体。这样做比DE/best/1保留了一点随机性，又比DE/rand/1有明确的引导方向。

第二项扰动中的x_r2，并不是总从当前种群选，而是以一定概率从外部存档与种群的合并集合中选。外部存档里存放的是每一代被淘汰的较差个体。这个设计很反直觉：通常我们会认为淘汰的个体没有价值，但差分进化需要的是"方向差异"，存档里的个体往往保留了与当前种群方向不同的信息，把它们纳入变异池等于人为提高了种群多样性。存档容量一般限制在NP以内甚至更小，在实现时通常使用随机替换策略来维护。

2.4 JaDE的完整流程与和标准DE的本质差异

把以上机制串起来，JaDE的每代流程可以概括为：

1. 为每个个体采样F_i、CR_i；
2. 选出每代排名前p%的个体作为pbest集合；
3. 对每个个体执行current-to-pbest/1变异；
4. 按照CR_i执行交叉，越界个体按边界策略处理；
5. 比较试验向量与目标向量，保留更优者；
6. 将被淘汰的个体放入外部存档，并随机挤出旧个体；
7. 用成功样本更新mu_F与mu_CR。

和标准DE相比，本质差异不在"变异策略换了一个公式"，而是参数生成、变异方向、种群记忆三个层面都加入了自适应与多样性补偿机制。标准DE是"程序一跑就开始调参前的赌博"，JaDE则是"每一代都在重新学习当前函数的难度曲线"。这也是为什么它在CEC2005这类混合形态函数集上的总体稳定性更高。

3. CEC2005测试函数集与评价指标：实验设计不能马虎

3.1 选取哪些函数：单峰、多峰、旋转与偏移

CEC2005是目前对比智能优化算法非常常用的基准平台，里面包含大量带偏移、旋转、多峰、病态条件数和混合组合特性的测试函数。全部跑完当然最有说服力，但计算代价不小。我做对比实验时，一般会按照函数性质挑选子集：

• 单峰类：如Sphere、Rosenbrock，用于检验算法的收敛速度与精度；
• 多峰类：如Rastrigin、Ackley，用于检验算法跳出局部最优的能力；
• 旋转类：如旋转后的Rosenbrock、旋转Rastrigin，用于检验算法在变量耦合环境下的适应性；
• 偏移类：带全局最优偏移的函数，可以避免算法利用知道最优位置的先验信息。

下面是我常用的一个测试子集，全部来自CEC2005的标准定义，维度统一为30：

表格里的理论最优值在CEC2005定义中往往已经平移到0，所以单纯看"是否达到0"意义不大，更合理的是看收敛到的最低数量和稳定性。

3.2 评价一个寻优算法，不能只看最终值

很多新手写对比文章，只列一个"最终平均目标函数值"表格，然后发一句"本文算法更好"，评审和同行一眼就能看出实验不充分。函数寻优对比至少要看四个维度：

• 最优值：多次运行中取得的全局最优目标值；
• 平均值与标准差：反映算法稳定性和整体水平；
• 成功率：以某个阈值（如1e-6）判断是否求解成功，统计成功次数占比；
• 收敛曲线：以函数评价次数为横轴，目标函数值为纵轴，直观反映收敛速度。

特别要强调的是，优化算法是随机算法，单次运行没有意义。我在CEC2005上的所有对比，都固定为独立运行25次，每次使用不同的随机数种子。评价函数值记录的是中位数而不是平均数，因为个别运行可能因初始种群太差而陷入极端区域，平均值会被严重拉偏，中位数更适合描述典型表现。

3.3 对照实验的统一参数设置

没有统一参数设置的对比实验，结果根本无法复现。我的标准配置如下：

• 维度：D=30；
• 种群规模：NP=100；
• 最大函数评价次数：maxFES=300000，也就是CEC2005常用的10000*D；
• 独立运行次数：25次；
• 边界处理：反射策略；
• 对标准DE，固定F=0.5、CR=0.9；
• 对JaDE，初始mu_F=0.5、mu_CR=0.5，学习率c=0.1，归档容量archive_size=NP，pbest比例p=0.05。

这里有个值得注意的技巧：标准DE的参数设置并不总是取F=0.5、CR=0.9，但对比实验必须统一，否则别人会质疑你故意给标准DE选了差参数。我在实际测试中尝试过F=0.7、CR=0.5等常用组合，整体趋势不变，JaDE的稳定性优势依然明显。

4. Matlab实现与关键避坑指南：从"能跑"到"跑稳"

4.1 种群初始化与基准函数调用

Matlab写这类算法其实不难，难的是写成既能跑又不踩坑的版本。初始化时我习惯先生成随机数种子，确保实验可复现。种群初始化的代码大概长这样：

rng(2025); % 固定随机种子，方便复现 NP = 100; D = 30; lb = -100 * ones(1, D); ub = 100 * ones(1, D); pop = lb + rand(NP, D) .* (ub - lb); fitness = benchmark_func(pop);

注意：CEC2005的函数接口通常接收一个NP行D列的矩阵，返回对应个体的适应度列向量。如果自己写的函数循环每个个体求值，速度会非常慢。实测下来，矩阵化批量求值在NP=100、D=30的条件下比for循环快20倍以上。这也是后面所有核心步骤都要向量化的原因。

4.2 标准DE的核心循环：变异、交叉、选择的向量化实现

标准DE/rand/1的变异，可以用预先生成的随机索引矩阵一次性完成。下面这段是我常用的写法：

% 标准DE/rand/1变异 idx = randi(NP, NP, 3); while any(idx(:,1)==idx(:,2) | idx(:,1)==idx(:,3) | idx(:,2)==idx(:,3)) idx = randi(NP, NP, 3); end r1 = idx(:,1); r2 = idx(:,2); r3 = idx(:,3); mutant = pop(r1,:) + F * (pop(r2,:) - pop(r3,:)); % 交叉 jrand = randi(D, NP, 1); mask = rand(NP, D) < CR; mask(sub2ind([NP, D], (1:NP)', jrand)) = true; trial = pop; trial(mask) = mutant(mask); % 处理越界：反射到边界内 trial = min(ub, max(lb, trial)); % 选择 trial_fitness = benchmark_func(trial); improve = trial_fitness < fitness; pop(improve, :) = trial(improve, :); fitness(improve) = trial_fitness(improve);

这里有两个容易踩的坑：

• 反射策略的写法如果直接用min(ub, max(lb, trial))，会把越界个体全部推到边界上，种群多样性会受很大影响。更推荐用反射或随机重生，比如对越界个体执行trial = lb + (lb - trial)再加边界判断，虽然代码多两行，但效果完全不同。
• 生成随机索引时，while循环在极端情况下可能卡住，更稳妥的方式是用perms或反复尝试，不过只要NP足够大，实际冲突概率很低。担心性能的话，可以先对每个个体生成一个带重复的索引，再统一修复重复项。

4.3 JaDE自适应参数与外部存档的代码细节

JaDE的实现比标准DE多出三块：参数采样、内存维护和成功样本收集。下面给出核心片段：

% 参数采样 F_i = mu_F + randn(NP,1) * 0.1; F_i = max(0.1, min(1.0, F_i)); CR_i = mu_CR + randn(NP,1) * 0.1; CR_i = max(0, min(1, CR_i)); % current-to-pbest/1变异 [~, order] = sort(fitness); pbest_idx = order(1:max(ceil(p*NP),2)); arch = [pop; archive]; for i = 1:NP pbest = pbest_idx(randi(length(pbest_idx))); r1 = randi(NP); while r1 == i, r1 = randi(NP); end r2 = randi(size(arch,1)); mutant(i,:) = pop(i,:) + F_i(i) * (pop(pbest,:) - pop(i,:)) ... + F_i(i) * (arch(r2,:) - pop(r1,:)); end

注意这里面有一个极其隐蔽的问题：如果archive为空，size(arch,1)就是0，randi(0)会直接报错。我第一次跑的时候就是在这里卡了好久。解决办法是在初始化时预先留一个空数组，并在取r2前先判断isempty(archive)。另外，p的大小不要设成0，否则pbest集合为空；也不要设成1，那就退化成全局最优引导了。

自适应参数更新的代码更短，但细节决定成败：

if ~isempty(S_F) mu_F = (1-c) * mu_F + c * sum(S_F.^2) / sum(S_F); mu_CR = (1-c) * mu_CR + c * mean(S_CR); end

Lehmer均值的写法是sum(S_F.^2)/sum(S_F)，不是简单的mean(S_F)。很多复现版本这里写错，导致mu_F的收敛行为完全不符合理论设计。CR则是用算术平均。这里建议把S_F和S_CR在每一代开始时清空，成功保留的个体对应记录，最后统一更新。

4.4 统计与绘图中的常见问题

画收敛曲线时，我习惯将每一代的种群最优适应度记录下来，最后对25次运行取中位数，再画到semilogy坐标轴上。有几点经验：

• 直接对25次运行求平均再画图，会被极端值拉出"锯齿"，中位数曲线更平滑；
• 有些函数的最优值可能为0，直接取log会出现-inf，建议加一个很小的epsilon，比如1e-12，或者在绘图前把非正值截断；
• 误差带不要用标准差带，用“四分位距带”更稳健；
• 统计表里除了平均值和标准差，一定要加一列"成功率"，否则无法区分"整体偏差小但从未成功"和"偶尔成功但方差大"两种算法。

5. DE与JaDE的实测对比：收敛曲线与统计数据说了什么

5.1 典型函数上的收敛行为

我在上述统一参数下，把标准DE和JaDE分别在选取的5个CEC2005函数子集上跑了25次。下面用文字描述一下典型的收敛趋势，读者可以拿自己的代码复现对比。

在Sphere这类单峰光滑函数上，标准DE的收敛曲线在前期很平稳，但到了1e-4附近开始放缓，最终平均精度可以达到1e-8量级；JaDE则一路压到1e-30以下，而且后期没有出现平台期。原因很简单：自适应F在后期自动收缩到很小的值，相当于不断缩小步长做局部细搜，而标准DE的固定F=0.5在后期相对过大，每一步都在最优邻域附近来回震荡。

在偏移Rosenbrock上，标准DE非常容易在狭长的弯曲谷底迷失方向，25次运行里有10次卡在局部解；JaDE通过current-to-pbest和archive的多样性补偿，明显更容易保持谷底方向，最终平均目标值比标准DE低大约4个数量级。在Rastrigin这种密集多峰函数上，标准DE的最终精度较低，且25次运行之间差异较大；JaDE的成功率更高，找到的局部峰相对更靠近全局最优。

5.2 多次运行后的统计对比

为了直观，我给出一组代表性的统计结果（维度30，25次独立运行，最大FES=300000）：

需要说明的是，上表的成功率阈值我统一取1e-6，且只展示了一次典型实验记录，不同随机种子下数值会有波动，但整体排序基本稳定。这份表格也提醒我们，JaDE并不是所有函数都能一次跑进阈值，尤其Rosenbrock成功率只有12%，说明在病态函数上仍然有挑战。

5.3 结果解读：什么情况下JaDE优势明显

综合来看，JaDE的优势集中在三个场景：第一，函数有光滑但狭窄的谷底，自适应小步长能显著提升最终精度；第二，函数存在大量欺骗性局部峰，外部存档能延缓种群趋同，帮助跳坑；第三，函数形态复杂、没有先验参数，JaDE的自动调参可以省去人工试错的成本。

但JaDE也有代价。它的单代计算量略高于标准DE，主要是archive的维护和pbest集合的排序开销。在低维小种群问题（比如D=10，NP=30）上，JaDE的优势并不明显，甚至可能因为随机抽样的波动落后于固定参数的DE。如果你的问题本身只有几十个变量而且形态简单，标准DE调好参数完全够用；而当你面对的是CEC2005这类"刁钻"的基准函数，或者新的工程黑箱优化问题，JaDE才是更值得优先尝试的方案。

6. 再进一步：JaDE还能怎么改

6.1 学习率c和pbest比例p的敏感性

做对比实验的过程里，我也试过一些在JaDE基础上继续改进的小技巧。第一个是学习率c的调整。c控制着mu_F和mu_CR对成功样本的响应速度。c过小，参数进化太慢，前期搜索效率提升不明显；c过大，参数波动剧烈，成功率反而下降。我在D=30的情况下试过c=0.05、0.1、0.2，0.1的表现最稳定，但如果你做的是高维或超多峰问题，可以考虑开始时用大c快速适应，后期再衰减。

第二个是pbest的比例p。p越小引导越强，收敛越快，但也更容易早熟。在Rastrigin函数上，p从0.05降到0.01，收敛速度确实提升了，但25次运行中出现了3次明显卡点；p增大到0.1时方差更小。严谨的做法是把p也设计成随进化代数递减，比如从0.2线性降到0.05，我在自己的实验中得到了不错的效果。

第三个是边界处理方式的交叉验证。反射策略在自定义界域函数上比固定边界更稳，但如果你遇到的是"越界即淘汰"的问题，就需要把越界个体的适应度设为无穷大。这个选择必须在实验设计阶段确定，不能中途换。

6.2 与其他策略组合的尝试

我也试过把JaDE的archive机制和Chaotic局部搜索结合，在Ackley这类凹陷多峰函数上得到了额外的精度提升，但在Rastrigin上反而因为局部搜索过于频繁而增加了计算量。另一个有效的尝试是把pbest集合的选取方式从"纯适应度排名"改成"适应度排名加空间分布加权"，也就是保留排名靠前的个体，但确保它们的欧氏距离不太近。这个改动能让变异向量覆盖更大的决策空间，尤其适合高维Rosenbrock这类病态函数。不过空间分布加权的计算成本不低，在高维问题上需要谨慎权衡。

6.3 做对比实验的一点方法论建议

最后再分享一个小技巧：做算法对比时，不要只在最终表格里填数字，尽量把每一条收敛曲线和实验脚本都保留下来。很多论文和博客里的"xx算法优于xx算法"结论，其实只是某个随机种子下的偶然现象。只有把多轮实验、多种随机种子全部保留下来，比较结果才有说服力。

从这次DE与JaDE的对比研究来看，改进算法并不是万能钥匙，标准DE在简单低维问题上依然够用，但面对CEC2005这类带有旋转、偏移和病态形态的测试集时，JaDE的自适应机制确实能省下大量调参时间，并带来更稳定的收敛表现。如果你正在做函数寻优的对比实验，建议把这两套算法都完整实现一遍，再用统一的评价流程去验证，这个过程中收获的理解，远比直接抄一个结论有价值。