G46：通信消融、Free-Rider 与 Partner Shift

内容类型：预习教材（不代表已完成）
日期：2027-04-08
阶段：P3 · AGI Foundations 90
总路线：Day 226 / 360
周次：W7 · 多智能体、合作与社会泛化
节奏：周四争议与失败案例
状态：教材已备；学习未完成
标签：free-rider、deception、partner-shift、communication-ablation、failure-analysis

一句话定义

Partner shift 暴露策略对训练伙伴的过拟合，而通信消融、free-rider 和 deceptive message 则帮助区分合作、依赖、剥削与错误信任。

学习目标

1. 构造伙伴策略、消息可靠性和目标偏好的分布变化。
2. 区分 free-riding、合理风险规避、误协调与蓄意欺骗的可观察证据。
3. 分析通信错误如何通过 belief 与行动形成反馈。
4. 保留未出现失败的范围，不为符合叙事而夸大现象。

核心知识

• Partner shift 可分 policy shift、capability shift、preference shift、protocol shift 与 learning-dynamics shift。测试集只换名字不构成 shift。
• Free-rider 在公共物品环境中享受共同收益却少贡献；但低贡献也可能来自资源不足或错误 observation，需从状态与机会区分。
• Deception 涉及发送者利用接收者形成错误 belief 以获益。错误消息本身不等于欺骗；还需考虑发送者信息、激励和系统性行为。
• Communication ablation 包括静默、置换、噪声、延迟、对手伪造与通道成本变化。不同消融对应不同因果问题。
• 合作策略若过度信任消息会被欺骗，若完全不信则失去协调收益；关键是校准信任与验证，而非“信或不信”二选一。

机制与推导

公共资源量 (G_t)，Agent (i) 选择贡献 (c_i\in[0,e_i])，个体效用可简化为：

[ U_i=e_i-c_i+\alpha_i f\left(\sum_jc_j\right) ]

当个体边际收益 (\alpha_i f'<1) 而群体边际收益 (\sum_i\alpha_i f'>1) 时，存在社会困境。Free-rider probe 可比较实际 (c_i) 与可负担贡献，但“应该贡献多少”仍依赖公平规范。

消息 (m) 对行动的影响可用干预差：

[ ACE_m=\mathbb E[A\mid do(m=m_1)]-\mathbb E[A\mid do(m=m_0)] ]

在模拟中可通过置换消息近似；自然语言系统无法轻易保证只改变语义一个变量。若错误消息使接收者行动改变、发送者获益且这种模式在明知真实状态时重复，才提供欺骗机制的更强线索。

Partner robustness 不应只取平均：

[ R=(\mathbb E_{p\sim P_{test}}U,;Q_{0.1}(U),;\min_{p\in probes}U,;Var(U)) ]

最差 probe 仍不代表所有可能伙伴，只显示已覆盖范围。

最小练习或观察步骤

1. 从原伙伴集中留出至少两类：一个 noisy cooperator、一个 opportunistic defector；再加入一类协议不同但目标相近的伙伴。
2. 选择两种通信消融：消息置换与一轮延迟；保持行动、回合和信息预算相同。
3. 构造 free-rider 情景，记录资源禀赋、可贡献机会、实际贡献、个体收益和公共资源，而不只贴标签。
4. 构造一次错误消息：分别设置无意噪声和有激励的策略性错误，比较接收者行动及双方收益。
5. 按 partner 类型报告平均、10% 分位、方差和失败轨迹；若未观察到预设剥削，写明样本与条件。
6. 画出 message→belief proxy→action→payoff→future message 的反馈环，标注哪些节点可直接观察。

常见误区与边界

• 凡是低贡献都叫 free-rider，忽略资源、能力与 observation 差异。
• 凡是错误消息都叫 deception，忽略意图不可直接观测和随机错误。
• 留出同算法不同 seed 就宣称覆盖陌生社会策略。
• 只报平均 cross-play，隐藏对特定伙伴的灾难性失败。
• 消融同时改变消息、输入长度和模型预算，无法归因。
• toy game 中的欺骗线索不能直接推断现实主体意图或模型“有心机”。

研究/系统场景连接

组织内多个 Agent 可能共享由同一模型生成的风险标签，形成相关错误。真正独立的 partner shift 应改变信息源、规则或策略，而非只换角色提示。金融流程不能让一个 Agent 的自然语言声明自动授权另一个 Agent 写入；高影响 claim 应通过权威工具或人工验证。研究上，generator 与 critic 共享模型时也可能互相迎合，需用外部规则、隐藏数据或不同证据源检测。

自检问题

1. Partner shift 有哪些不同轴？
2. 低贡献为何不自动等于 free-riding？
3. 证明 deception 至少还需要哪些条件？
4. 哪种通信消融对应“消息是否被因果使用”？
5. 为什么最差 probe 也不是全局鲁棒性证明？

专业课程对齐

• 阅读 Melting Pot 官方介绍，关注 background population 和陌生伙伴如何形成社会泛化测试。
• 阅读 SOTOPIA 原始论文，审视社会目标、角色和语言评价对 deception/fairness 判断的依赖。
• 阅读 No Agent Is an Island 官方研究页，把单体能力放回共同适应的社会分布，避免固定伙伴结论。

深入学习提示

可进一步研究 opponent modeling、Bayesian belief about partner、robust cooperation 与 mechanism design。先避免给模型赋予不可观察心理状态；用行动、信息、激励和干预描述证据。最好的失败分析不是“Agent 很坏”，而是指出哪种伙伴变化、哪条信任规则和哪个反馈环产生了脆弱性。

学后填写区

• 实际构造的 partner shift：
• 通信消融观察：
• free-rider/deception 的证据边界：
• 一个未出现的预设现象：
• 系统阻断点：
• 尚未理解的问题：