AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

投票、自洽性与辩论拓扑 ​

最便宜的聚合：采样 N 个独立 agent，多数投票。Wang 等人 2022 年的自洽性用一个模型采样 N 次做了这件事。多 agent 用异质 agent 扩展了它，以逃离单一栽培——不同模型、不同 prompt、不同温度、不同上下文。在多数投票之外，辩论拓扑也很重要：MultiAgentBench（arXiv:2503.01935，ACL 2025）评测了 star / chain / tree / graph 协调，发现 graph 最适合研究，超过约 4 个 agent 后出现「协调税（coordination tax）」。AgentVerse（ICLR 2024）记录了两种涌现模式——志愿行为和从众行为——而从众既是特性（找到共识）也是风险（群体思维，第 24 课）。本课绘制拓扑空间、构建每个变体、并测量协调税。

类型： Learn + Build 语言： Python（标准库） 前置要求： Phase 16 · 07（心智社会与辩论）、Phase 16 · 14（共识与 BFT） 预计时间： ~75 分钟

问题背景 ​

辩论能提升准确率（Du 等人，arXiv:2305.14325）。它也能降低准确率。辩论帮不帮得上，取决于四个结构选择：

  1. 谁跟谁对话（拓扑）。
  2. 几轮（Du 2023：轮数和 agent 数各自独立地重要）。
  3. agent 是否异质（不同基础模型能打破单一栽培）。
  4. 是否有对抗声音（steel-manning 对 straw-manning，即认真反驳 vs 攻击稻草人）。

把「跑 5 个 agent 然后投票」硬塞到一个任务上的团队，往往比单 agent 还退步。这些失败不是随机的。它们跟拓扑和异质性挂钩。本课就是那张拓扑地图。

核心概念 ​

自洽性，单模型基线 ​

Wang 等人 2022 年（《Self-Consistency Improves Chain of Thought Reasoning》）在温度 > 0 下对同一模型采样 N 次，对推理路径的答案做多数投票。GSM8K 上的结果：N=40 个样本相比单次贪心解码有显著提升。自洽性是多 agent 投票的单 agent 前身。

局限：自洽性用一个基础模型。误差天生相关。如果模型有系统性偏差，所有 N 个样本都共享它。

多 agent 投票，异质扩展 ​

把 N 个样本换成 N 个不同的 agent。不同基础模型（Claude、GPT、Llama）、不同 prompt、不同工具访问。好处：误差不相关。代价：不同 agent 成本不同；协调它们带来开销。

异质辩论在 2026 年的标准名字是 A-HMAD——对抗式异质多 agent 辩论（Adversarial Heterogeneous Multi-Agent Debate）。没被普遍采用，但论文用这个词表示「不同模型辩论，从而减少单一栽培塌缩带来的相关误差」。

四种拓扑 ​

star                chain               tree                graph

    ┌─A─┐           A─B─C─D         ┌──A──┐              A───B
    │   │                           │     │              │ × │
    B   C                           B     C              D───C
    │   │                          / \   / \
    D   E                         D   E F   G           (fully connected)

Star：一个中枢，其他所有 agent 只跟中枢对话。等价于没有回传通道的 supervisor-worker。 Chain：线性，每个 agent 看到前一个的输出。流水线式。 Tree：层级式，被层级化 agent 系统使用（第 06 课）。 Graph：任意对任意。包括全连接团（clique）和任意 DAG。

协调税（MultiAgentBench） ​

MultiAgentBench（MARBLE，ACL 2025，arXiv:2503.01935）在一个含研究、编码、规划的任务集上对 star、chain、tree、graph 做了基准测试。测得的关键结果：

  • Graph 拓扑在研究任务上胜出。信息任意对任意流动；agent 能互相批判。
  • Star 在快答事实任务上胜出。中枢做过滤和整合。
  • Chain 在逐步流水线（分阶段精炼）上胜出。
  • 协调税 在 graph 拓扑超过约 4 个 agent 后出现。墙钟时间和 token 成本增长得比质量快。

4 agent 天花板是经验性的，不是根本性的。它反映 2026 年 LLM 的上下文容量：每个 agent 的上下文被同伴的输出填满，一旦人人能看到人人，加入第 N+1 个 agent 的边际价值就下降了。

多 agent 辩论策略（《Should we be going MAD?》） ​

arXiv:2311.17371 是 2023 年关于 MAD 策略的综述。被他人复现的关键发现：那些在结构上类似自洽性的 MAD 变体（独立采样 + 聚合），在同样预算下往往跑不过自洽性。MAD 最有用的时候，是 agent 真正异质、且辩论有对抗结构（有一个 agent 唱反调）。

AgentVerse 涌现模式 ​

AgentVerse（ICLR 2024，https://proceedings.iclr.cc/paper_files/paper/2024/file/578e65cdee35d00c708d4c64bce32971-Paper-Conference.pdf）记录了两种即便没有显式设计、也会从多 agent 辩论中涌现的行为：

  • 志愿（Volunteer）。 一个 agent 没被要求就主动提供帮助（「下一步我来」）。有用：它把活儿分给某个子任务上最有能力的 agent。
  • 从众（Conformity）。 一个 agent 调整自己的立场去迎合批评者，哪怕批评者是错的。这是辩论版的谄媚（第 14 课）。

从众就是为什么「辩到一致」会奖励霸凌者。有界轮数加一个独立裁判能缓解。

异质性：真正能撬动准确率的那个旋钮 ​

2024-2026 年实践文献里的一个模式：把你 N 个 agent 里的一个换成不同的基础模型，带来的准确率提升比把 N 加 1 还大。直觉是单一栽培——每个新的独立误差源，比一个额外的相关样本更值钱。

在极限处，异质性胜过数量。在大多数有干净 ground truth 的任务上，三个不同模型打得过同一模型的五份拷贝。

陪审团方法 ​

Sibyl 框架（在 Minsky-LLM 文献里被引用）把「陪审团」形式化——一小组专精 agent，在每个阶段通过投票来精炼答案。和单纯的多数投票不同，陪审团有角色：一个 agent 交叉盘问、一个提供上下文、一个给合理性打分。陪审团方法是单纯投票（便宜、易单一栽培）和完整 MAD（贵、易从众）之间的中间点。

投票加辩论何时占优 ​

  • 问题有 ground truth（事实、数学、代码行为）。投票收敛是有意义的。
  • agent 能访问不同来源或工具（具备异质性）。
  • 轮数有界（通常 2-3）且有独立裁判或 verifier。
  • 预算允许 3-5 个 agent。graph 拓扑上超过 5-7 个后，协调税占主导。

投票加辩论何时有害 ​

  • 问题是意见形态的。agent 收敛到看起来最自信、而非最正确的那个答案。
  • 所有 agent 共享一个基础模型。单一栽培让共识毫无意义。
  • 轮数无界。从众每次都赢。
  • 任务简单。一个带 N=5 自洽性的单 agent 更便宜、且一样准。
figure
sw-debate-topology

动手构建 ​

code/main.py 实现：

  • run_star(agents, hub, question) —— 中枢轮询每个 worker、聚合。
  • run_chain(agents, question) —— 顺序精炼。
  • run_tree(root, children, question) —— 带深度 2 聚合的层级式。
  • run_graph(agents, question, rounds) —— 全对全辩论，有界轮数。
  • 一个脚本化的异质性旋钮：每个 agent 有一个 error_bias，表示它的系统性错误程度。
  • 一个测量装置，在 N=3、5、7 下跑每种拓扑，报告 (accuracy, total_tokens, wallclock_simulated)。

运行：

python3 code/main.py

预期输出：一张拓扑 × N → (accuracy, tokens, latency) 的表。graph 在研究型任务上 N=3-5 时胜出；star 在快答事实任务上胜出；graph 在 N=7 时露出协调税（延迟膨胀得比准确率快）。

实际使用 ​

outputs/skill-topology-picker.md 是一个 skill，它读一段任务描述，推荐一种拓扑（star / chain / tree / graph）、一个 N（agent 数量）、一份异质性配置（用哪些基础模型）、以及一个轮数上界。

拿去用 ​

对任何集成：

  • 先用一个强基础模型做 N=5 的自洽性。这是便宜基线。
  • 如果准确率重要，升级到 N=3 的异质投票。测量增量。
  • 只在任务有结构（研究、多步）且有界轮数可行时，才升级到辩论拓扑。
  • 永远记录少数簇。当少数持续正确时，你就有了一个多样性信号。
  • 把墙钟时间和 token 跟准确率一起做基准。「10 倍成本换更好的准确率」是个商业决策。

练习 ​

  1. 跑 code/main.py。画出 graph 拓扑的协调税曲线：准确率 vs N、token vs N。曲线在哪个 N 拐弯？
  2. 实现 A-HMAD：三个故意带不同偏差的 agent。在第 14 课的单一栽培攻击上，全同偏差基线跟 A-HMAD 比怎样？
  3. 给 graph 拓扑加一个「裁判」角色，它不投票，只给最终共识打分。这改变了涌现的从众行为吗？
  4. 读 AgentVerse 论文（ICLR 2024）。指出你的实现里哪种涌现行为最强。你能通过改 prompt 引出相反行为吗？
  5. 读 MultiAgentBench（arXiv:2503.01935）第 4 节（拓扑实验）。用你的测量装置在论文里的一个任务上复现「graph 赢研究」的结果。

关键术语 ​

术语大家嘴上怎么说它实际是什么意思
Self-consistency「采样 N 次，投票」Wang 2022。单模型，N 个温度>0 样本，对推理路径多数投票。
Heterogeneity「不同模型」不同基础模型或 prompt 家族组成的集成。打破单一栽培。
MAD「多 agent 辩论」agent 跨轮交换批评的通称。见 Du 2023。
A-HMAD「对抗式异质 MAD」强调不同模型 + 对抗结构的 MAD 变体。
Topology「谁跟谁对话」star、chain、tree、graph。决定信息流。
Coordination tax「收益递减」graph 上超过约 4 个 agent，成本增长得比质量快。
Volunteer behavior「没要求就帮忙」AgentVerse 涌现模式：一个 agent 主动接一步。
Conformity behavior「压力下的附和」AgentVerse 涌现模式：一个 agent 迎合批评者。
Jury「小型专精评审团」Sibyl 风格、带角色（盘问者、上下文、打分者）的集成。

延伸阅读 ​