[论文] 稳健的差分进化通过非线性种群规模缩减和自适应重启：ARRDE 算法

Source: arXiv - 2511.18429v1

概览

本文介绍了 Adaptive Restart‑Refine Differential Evolution (ARRDE)，这是一种新型的差分进化（DE）优化器。通过将非线性种群规模衰减计划与自适应重启‑细化机制相结合，ARRDE 旨在在截然不同的基准套件上保持高性能——这是许多最先进的 DE 算法难以做到的。作者通过对跨越十年挑战集的五个 CEC 基准集合进行前所未有的评估来支撑其主张。

主要贡献

• ARRDE 算法：在 LSHADE 基础上扩展了 jSO 风格的控制参数，加入 非线性 种群规模衰减，并实现 自适应重启‑细化 策略，在检测到停滞时重新初始化搜索。
• 跨套件鲁棒性研究：首次在 五个 CEC 套件（2011、2017、2019、2020、2022）上对 DE 变体进行基准测试，覆盖了多种维度、景观复杂度和评估预算。
• 有界精度评分指标：提出基于相对误差的指标，对不同目标函数尺度的套件进行归一化，使得公平的正面对比成为可能。
• 全面的实证证据：展示 ARRDE 在强基线（如 jSO、LSHADE‑cnEpSin、j2020、NLSHADE‑RSP）上始终排名 第一（无论是基于排名还是基于精度的评价）。

方法论

1. 基础算法 – ARRDE 以 LSHADE 为起点，后者已经能够自适应控制参数（变异因子 F 与交叉率 CR）并线性缩减种群规模。
2. jSO 机制 – 继承了 jSO 成功的参数控制启发式（例如基于成功历史的自适应），以保持搜索的多样性。
3. 非线性种群规模衰减 – 与直线衰减不同，种群规模遵循 凹形 曲线：早期保持较大（促进探索），后期急剧下降（加强利用）。该计划由一个简单的幂律函数定义，仅需一个额外的超参数。
4. 自适应重启‑细化 – 在运行过程中，ARRDE 监控改进情况。如果在预设代数内最佳适应度未超过极小容差，则算法 重启，使用当前精英集合重新生成种群；随后通过暂时增大种群规模进行 细化。这种动态的“重置‑聚焦”循环帮助逃离局部最优而不丢失有用信息。
5. 评估协议 – 对每个基准套件，作者对每个问题进行 51 次独立实验，遵守套件特定的最大函数评估预算 (N_max)。性能报告同时使用经典排名（问题平均排名）和新提出的有界精度得分。

结果与发现

• 跨套件优势：ARRDE 在 全部五个 基准套件上获得最佳平均排名，击败了此前针对单一套件调优的算法。
• 统计显著性：配对 Wilcoxon 符号秩检验表明，ARRDE 相较于最接近竞争者的改进在大多数问题组上具有统计显著性（p < 0.01）。
• 可扩展性：当维度从 10 增至 30 时，算法仍保持优势，说明非线性种群计划具备良好的可扩展性。
• 对预算的鲁棒性：即使将 N_max 减半，ARRDE 的性能也能平稳下降，而许多基线算法在预算受限时会提前崩溃。

实际意义

• 即插即用的优化器：开发者可以将 ARRDE 直接替换现有的 DE 库（如 DEAP、PyGMO），无需为每个新问题类别重新调参。
• 工业设计与仿真：诸如气动形状优化、机器学习流水线的超参数调优或物理模型校准等任务通常涉及有界约束、噪声或多模态景观。ARRDE 的自适应重启‑细化循环使其能够抵御这些“未知地形”。
• 资源感知的优化：非线性种群衰减意味着在后期评估的个体更少，节约计算预算——这对云端或嵌入式优化（每次函数评估成本高）尤为有利。
• 与基准无关的开发：有界精度评分指标可被实践者用于比较专有测试套件上求解器的表现，即使目标尺度不同，也能促进更透明的性能报告。

局限性与未来工作

• 参数敏感性：尽管 ARRDE 减少了人工调参的需求，但控制种群衰减的幂律指数以及停滞检测阈值在极端问题域（如高度噪声函数）仍需适度校准。
• 约束扩展：当前研究聚焦于有界约束问题；若能处理一般的等式/不等式约束，将进一步扩大适用范围。
• 混合化：将 ARRDE 与局部搜索方法（如基于梯度的细化器）结合，可能在光滑子问题上进一步加速收敛。
• 真实案例研究：未来工作可在工业案例（如电路设计、物流）中验证 ARRDE，以展示其在合成基准之外的端到端收益。

结论：ARRDE 提供了一种稳健、基本自配置的 DE 变体，在广泛的基准挑战中始终优于专门调优的竞争者——这使其成为面向多样化真实优化问题的开发者的有力工具。

作者

• Khoirul Faiq Muzakka
• Ahsani Hafizhu Shali
• Haris Suhendar
• Sören Möller
• Martin Finsterbusch

论文信息

• arXiv ID: 2511.18429v1
• Categories: cs.NE, math.OC
• Published: November 23, 2025
• PDF: Download PDF