G48：协调、合作、串谋与“更多 Agent”边界

内容类型：预习教材（不代表已完成）
日期：2027-04-10
阶段：P3 · AGI Foundations 90
总路线：Day 228 / 360
周次：W7 · 多智能体、合作与社会泛化
节奏：周六可选探索
状态：教材已备；学习未完成
标签：cooperation、collusion、coordination-cost、multi-agent-boundary、epistemology

一句话定义

相互协调的 Agent 可能在共同目标上合作，也可能共同放大错误或损害第三方；增加 Agent 数量只有在任务可分、信息互补且协调成本受控时才可能带来净收益。

学习目标

1. 用 stakeholder 与 payoff 区分合作和串谋，而不是只看内部一致。
2. 推导并行收益、串行依赖、通信成本与 correlated error 的关系。
3. 构造单 Agent、多 Agent 和独立 verifier 的公平对照。
4. 总结多 Agent 主张的证据与外推边界。

核心知识

• 对参与 Agent 有利的联合行为不一定社会有益。若它绕过规则、操纵市场或把错误转嫁给客户，内部 cooperation 对外就是 collusion。
• 多 Agent 的潜在收益来自任务分解、并行搜索、不同信息源与相互校验；成本来自通信、冲突解决、调度、上下文复制和责任扩散。
• 同源模型、同 prompt 模板和同检索库会产生 correlated error。三个相同 Agent 的多数票不等于三个独立证据源。
• 串行任务的关键路径决定时延；把一个步骤拆成多个角色会增加 handoff，而不会产生并行加速。
• “辩论”或“反思”有时提升结果，有时只增加语言自洽。必须使用外部可验证任务、隐藏答案或环境状态检查。

机制与推导

若任务可分为并行比例 (p) 与串行比例 (1-p)，理想 Amdahl 上界为：

[ Speedup(n)\le\frac{1}{(1-p)+p/n} ]

加入协调成本 (C(n)) 后，真实收益更低：

[ T_n\approx T_1[(1-p)+p/n]+C(n) ]

Agent 数增长时 (C(n)) 可能超线性，因为消息边数最多为 (n(n-1))。这只是系统直觉，不表示所有编排都全连接。

若每个 Agent 独立错误率为 (q<0.5)，多数票可降低错误；但错误相关系数为正时收益下降。极端同源情况下，所有 Agent 同错，多数票错误率仍约为 (q)。因此要记录模型、数据、工具和提示的独立性，而非只记录角色名。

串谋边界可写成 stakeholder payoff 向量：

[ U=(U_{agents},U_{operator},U_{customer},U_{public},U_{policy}) ]

若只优化前两项，无法判断联合策略的外部伤害。政策约束不是可用高总回报抵消的负数，而可能是硬约束。

最小练习或观察步骤

1. 选择一个可验证 toy 任务，比较单 Agent、三个同源 Agent 多数票、两个不同规则 baseline 加一个聚合器。
2. 保持总 token/步骤预算近似一致，记录结果、延迟、消息量、冲突与外部 verifier 命中。
3. 构造完全并行与严格串行两个任务图，手算理想 speedup 和加入每次 handoff 成本后的结果。
4. 注入一个共享错误检索条目，观察同源 Agent 是否一致放大；再让一个 Agent 使用独立权威工具。
5. 写一个“内部效率提高但客户损害增加”的 payoff 反例，说明为何不能称为合作成功。
6. 若没有时间运行，只完成任务图和错误相关性手推即可，不新增多 Agent 部署作业。

常见误区与边界

• 角色 prompt 不同就当成独立 Agent 证据，忽略模型和数据同源。
• 多数票改善被归因于“集体智能”，没有与相同计算预算的单 Agent sampling 比较。
• 只看质量不计协调时延、token、失败恢复和权限面。
• Agent 相互同意就称为事实，缺少外部 verifier。
• 将所有联合获益称为合作，忽略客户、市场和规则外部性。
• toy 编排不能证明社会组织智慧、民主决策或真实市场安全。

研究/系统场景连接

金融用例中，销售 Agent、风险 Agent 和政策 Agent 可以提供不同视角，但若都读取同一错误客户摘要，它们的“共识”没有独立价值。高风险决定仍应由权威记录、规则和人类负责。研究 Agent 可以并行提出假设，但证据合并必须回到原论文和实验；多个生成意见不是多次独立测量。具身阶段还会加入共享物理环境和实时约束，使协调成本更具体。

自检问题

1. 哪些任务属性让多 Agent 可能有净收益？
2. 为什么同源多数票无法按独立错误公式估算？
3. Amdahl 上界没有包括哪些 Agent 成本？
4. 怎样从 stakeholder payoff 识别内部合作、外部串谋？
5. 一个公平单 Agent baseline 应怎样控制计算预算？

专业课程对齐

• 阅读 Concordia 原始论文，观察多角色社会仿真的协调结构，同时区分叙事一致与外部真值。
• 阅读 SOTOPIA 原始论文，检查社会互动评价怎样依赖目标、角色与 judge，训练 stakeholder 意识。
• 阅读 No Agent Is an Island 官方研究页，理解社会能力必须放在互动分布中评价，而非由 Agent 数量推断。

深入学习提示

进一步可研究 ensemble diversity、debate、mechanism design 与 collusion detection。优先做同预算对照和共享错误注入；它们常比大型多 Agent demo 更有解释力。任何“群体智能”主张都应附上任务图、独立性、外部真值和受影响 stakeholder。

学后填写区

• 实际比较的编排：
• 总预算与协调成本：
• 一个 correlated error：
• 一个外部 stakeholder：
• 最强可支持主张：
• 尚未理解的问题：