[Paper] CoupleEvo：使用大语言模型进化耦合优化问题的启发式方法

Source: arXiv - 2605.06341v1

请提供您希望翻译的具体文本内容，我将按照要求保留源链接并进行简体中文翻译。

概述

本文介绍了 CoupleEvo，一个利用大型语言模型（LLM）自动生成并进化 耦合 优化问题启发式算法的框架——这些问题涉及多个相互依赖的子问题必须一起求解（例如，路径规划加调度，或布局加资源分配）。通过将 LLM 驱动的启发式设计扩展到单任务场景之外，作者展示了协同进化策略如何为现实中的多维挑战产生稳健且高质量的解。

关键贡献

• 三种协同策略用于在耦合子问题之间演化启发式算法：
  1. 顺序 – 为一个子问题演化启发式，然后将其输出作为下一个子问题的起点。
  2. 迭代 – 在连续代之间交替演化每个子问题的启发式。
  3. 集成 – 演化单一的联合启发式，同时解决所有子问题。
• LLM 增强的启发式生成：向 LLM 提示以合成候选启发式代码片段，然后通过演化循环进行细化。
• 在两个基准耦合问题上的实证评估，表明基于分解的策略（顺序和迭代）收敛更可靠，且相较于集成方法能够获得更好的目标值。
• 开源实现（GitHub 链接），让实践者能够插入自己的 LLM 后端和问题定义。

方法论

1. 问题分解 – 将目标优化任务表达为一组紧密关联的子问题（例如，“分配任务” + “调度机器”）。
2. 提示驱动的启发式综合 – LLM（如 GPT‑4）接收描述子问题输入、输出和性能指标的结构化提示。它返回一个 Python（或伪代码）启发式模板。
3. 进化循环 –
   • 种群：每个个体是由 LLM 生成的具体启发式（代码），可能带有轻微的参数调整。
   • 适应度评估：在一组问题实例上运行启发式；适应度是所有子问题的综合目标。
   • 选择与变异：对代码应用标准遗传算子（变异、交叉），例如交换行、调整常数。
4. 协同策略 –
   • 顺序：对子问题 A 的启发式进行进化直至收敛，冻结后再对使用 A 输出的子问题 B 进行进化。
   • 迭代：在每一代中交替对 A 和 B 进行进化步骤，允许反馈回路。
   • 整体：将整个耦合问题视为单一实体；LLM 生成一个整体启发式，整体进行进化。

该框架是模块化的：可以替换 LLM、更改进化算子，或在评估步骤中接入不同的优化器。

结果与发现

关键要点

• 分解耦合问题并在子问题之间协调进化，可获得更稳定且质量更高的解。
• 集成方法受到更大搜索空间的限制，使得进化算法更难找到优秀的启发式策略。
• LLM 生成的启发式在仅几代后即可与手工基准竞争，凸显了 LLM 驱动设计的实际可行性。

实际意义

• 快速原型：开发团队可以向大型语言模型提供多组件优化任务的高级描述，并在几分钟内获得可工作的启发式算法，然后让 CoupleEvo 自动进行优化。
• 遗留系统集成：拥有现有单任务求解器的公司可以将其扩展到耦合场景，而无需重写大量代码库——只需添加协调层。
• 可扩展自动化：该框架可以在云端 GPU/TPU 实例上运行，实现对物流、云资源分配或生产线平衡等的大规模超参数搜索。
• 定制化：由于进化循环直接作用于实际代码，开发者可以将领域特定约束（例如安全检查）注入适应度函数，确保生成的启发式算法遵守监管或性能限制。
• 开源工具包：提供的仓库包含流行 LLM API（OpenAI、Anthropic、LLaMA）的适配器以及基准问题定义，降低了工业实验室进行实验的门槛。

限制与未来工作

• 搜索复杂性：综合策略仍然在高维搜索空间中表现困难；未来的工作可以探索层次化或多目标进化算法来降低这种复杂性。
• 对大语言模型的依赖：初始启发式的质量取决于大语言模型的训练数据；针对特定领域的模型微调可能是小众行业所必需的。
• 对多个子问题的可扩展性：实验仅覆盖了两个耦合的子问题；将其扩展到更大、更异构的集合（例如 > 5）可能需要更智能的分解启发式方法。
• 可解释性：进化产生的代码可能变得不透明；整合程序分析工具以揭示启发式为何有效，将有助于在安全关键领域的采用。

总体而言，CoupleEvo 展示了协同进化搜索结合现代大语言模型是一条有前景的路径，可自动化设计启发式，以应对现代软件系统面临的错综复杂的优化挑战。

作者

• Thomas Bömer
• Bastian Amberg
• Max Disselnmeyer
• Anne Meyer

论文信息

• arXiv ID: 2605.06341v1
• 分类: cs.NE, cs.AI, math.OC
• 出版日期: 2026年5月7日
• PDF: 下载 PDF