[Paper] DyTopo：通过语义匹配的多智能体推理动态拓扑路由

Source: arXiv - 2602.06039v1

概览

DyTopo 提出了一种让多个基于 LLM 的代理在逐步求解问题时相互交流的新方式。它不采用静态的“所有人都与所有人交流”模式，而是让轻量级管理器在每一次推理回合重新构建一个 稀疏的有向通信图，仅在需求与提供实际匹配的代理之间路由消息。这样可以在代码生成、数学证明等任务上实现更快速、更准确的多代理推理。

关键贡献

• 动态拓扑路由： 每轮基于代理表达的 需求 和 提供 构建一个全新的稀疏通信图。
• 语义匹配引擎： 将自然语言描述嵌入并使用余弦相似度进行匹配，将模糊请求转化为具体的路由决策。
• 管理者引导的协同： 中央管理者为每轮提供高层目标，引导图构建过程，而不规定具体的消息流向。
• 可解释性： 演化中的图作为谁与谁交流以及原因的可视化追踪，使协同过程可检查。
• 实证提升： 在四种 LLM 主干（如 GPT‑3.5、Claude、LLaMA‑2）和两个基准套件（代码生成、数学推理）上，DyTopo 相较于最强固定拓扑基线提升平均准确率 +6.2 %。

方法论

1. Manager goal injection – 在每轮推理开始时，管理者发出一个简洁的自然语言目标（例如，“将函数重构为使用递归”）。
2. Agent self‑description – 每个代理在其私有上下文下回复：
   • 一个 need 句子，描述它正在寻找什么信息；
   • 一个 key 句子，总结它能够贡献什么。
3. Embedding & similarity – 将所有 need/key 句子使用相同的 LLM 主干转化为密集向量。计算成对的余弦相似度得分。
4. Graph construction – 当某个代理的 need 与另一代理的 key 相似度超过阈值时，创建一条从前者指向后者的边，形成 有向、稀疏图。
5. Message routing – 仅在有边相连的代理之间交换私有消息（实际负载可以是简短提示、代码片段或数学提示）。
6. Iterative update – 每轮结束后，代理更新内部状态，管理者发布下一个目标，过程重复。

整个流水线运行开销极小：语义匹配步骤只需一次矩阵乘法，图的稠密度通常低于 30 %，从而保持 token 使用量低。

结果与发现

• 持续提升 在所有四个 LLM 主干上，表明该方法与模型无关。
• 降低的 token 预算： 由于只有一部分代理进行消息交换，每轮的总 token 消耗相比广播下降约 22 %。
• 可解释性演示： 对代码重构任务的 5 轮图形可视化显示出明显的“搜索‑然后‑细化”模式——最初许多代理查询函数签名，随后只有专门的“refactor”代理与“test‑generator”通信。

实际意义

• 可扩展的多代理流水线: 构建 LLM 编排助手（例如 AI 配对程序员、自动定理证明器）的团队可以采用 DyTopo，以保持通信成本低廉并提升准确性。
• 资源受限的环境: 在边缘或本地部署且按 token 计费的情况下，可通过稀疏路由受益，降低推理开支而不牺牲性能。
• 可调试的 AI 工作流: 逐步演化的图为开发者提供了具体的审计对象——有助于合规、安全检查，或仅仅是理解代理为何做出特定决策。
• 即插即用的管理器: 已有高层规划器的现有系统可以用 DyTopo 的管理模块替换其静态广播层，几乎无需代码改动。

局限性与未来工作

• 阈值敏感性: 决定边创建的相似度阈值是一个超参数；不合适的取值可能导致过度连接（浪费 token）或连接不足（遗漏关键信息）。
• 对管理者的依赖: 当前设计假设有一个可信赖的管理者提供合理的轮次目标；如果管理者出现错误，可能会误导整个图。
• 对数百代理的可扩展性: 虽然实验中最多使用了 12 个代理，作者指出嵌入和匹配的成本呈二次增长；未来工作可以探索近似最近邻索引或分层路由。
• 领域特定语义: 语义匹配器是通用的；引入领域特定本体（例如软件工程词汇）可能进一步提升匹配质量。

DyTopo 为实现更高效、可解释且可适应的多代理推理开辟了有前景的道路——这一进展有望使基于 LLM 的开发者工具既更智能又更低成本运行。

作者

• Yuxing Lu
• Yucheng Hu
• Xukai Zhao
• Jiuxin Cao

论文信息

• arXiv ID: 2602.06039v1
• 分类: cs.AI
• 发布日期: 2026年2月5日
• PDF: 下载 PDF