G82：阶段复盘三：从能力主张到受控研究系统

内容类型：预习教材（不代表已完成）
日期：2027-05-14
阶段：P3 · AGI Foundations 90
总路线：Day 262
周次节奏：W12 · 周五低压力复盘
状态：教材已备；学习未完成

一句话定义

阶段复盘三把能力定义、学习机制、内部因果、持续适应、自改进、对齐控制与 AI Scientist 串成一条 claim→hypothesis→experiment→evidence→boundary 的研究链。

学习目标

1. 用统一证据语言连接 W1～W12，不把模块堆成“AGI 配方”。
2. 为每类能力主张指出最小实验、关键混杂、控制边界与不能外推之处。
3. 选择真正改变理解的 2～3 条机制连接，并允许其余主题保持未知。

核心知识

W1 的 generality、performance、learning efficiency 与 autonomy 是不同轴；W2 说明尺度曲线和指标阈值可能制造不同“涌现”叙事；W3 将直接生成、搜索、verifier 和 test-time compute 分开；W4～W5 把 RL 行为、奖励、world model 与规划误差连接；W6 引入记忆、工具和可审计 runtime；W7 检查社会学习与多 Agent 分布；W8 研究 continual/meta/transfer 的遗忘与适应。

W9 的自改进提醒生成循环必须有外部选择信号与数据谱系；W10 的机制可解释性要求从 probe/attention 相关推进到 patch/ablation 因果干预；W11 将训练时 alignment 与部署 control 分开；W12 再把这些认识论约束应用到自动科研。它们不是线性升级，也没有任何一项单独证明 general intelligence。

统一的研究对象可写成六层：Claim 描述系统能力；Operationalization 定义任务和指标；Mechanism 提出内部或算法假设；Experiment 做干预与对照；Evidence 标 R/E/C/H/S；Boundary 限定分布、预算、权限和影响。若缺少任一层，结论语言必须降级。

复盘不是考试，也不要求补齐所有实验。可以选三条连接深入：例如“test-time search 依赖 verifier，AI Scientist 也依赖 verifier”；“world-model rollout error 与具身控制误差将在 P4 相遇”；“self-improvement 的 evaluator bias 与 AI Scientist 的 reviewer bias 同构”。未做的代码、矛盾论文和负结果保留在 unknowns ledger。

机制与推导

将一个主张 (C) 的支持强度写成结构而非分数：

Support(C) = {validity(task,metric), controls, replication, causal_specificity, external_scope}

任何维度缺失都不能由其他维度的高分抵消。例如重复 100 次错误 benchmark 不增加 construct validity；清晰 toy circuit 也不扩大 external scope。

跨周连接可用依赖图：generality eval ← task distribution；reasoning gain ← search × verifier × budget；planning success ← dynamics error × horizon × replanning；self-improvement ← generator × selector × anchor；control risk ← proposal × detection × permission × impact；AI scientist evidence ← registry × verifier × skeptic × human responsibility。

复盘最小协议是对每条连接写“一句已理解、一条外部证据、一个本人未复现、一个反例、一个 P4 变化”。没有评分阈值，也不因空白阻止继续。

最小练习或观察步骤

1. 从 12 周各取一个核心名词，限制为 12 个节点，先不画工具名称。
2. 画五条有方向的机制依赖边，并在边上写混杂或失败条件。
3. 选择三条主张，分别填 Claim/Operationalization/Mechanism/Experiment/Evidence/Boundary。
4. 给每条主张标 R/E/C/H/S；本人未运行的论文结果只能标 E 或 C。
5. 写三个最值得保留的未知和一个想带入 P4 的问题，不需要得出阶段总分。

常见误区与边界

• 把 12 周主题列成技术清单，没有因果依赖和证据边界。
• 将读过论文记为本人复现，或将教材存在记为已掌握。
• 用同一个 benchmark 分数代表 generality、autonomy 与 safety。
• 为完成复盘而填满所有空格，隐藏真正未知。
• 从阶段学习路线预测 AGI 时间或声称组件组合即 AGI。

研究/系统场景连接

企业研究系统可用相同六层审视“Agent 能自主处理案件”：任务覆盖是否代表真实案件，runtime 工具是否受控，监控是否独立，人工接管是否可运营。金融/Web3 资产只是实验材料，不转成求职包装。P4 将引入传感器噪声、连续时间、接触与不可逆后果，使当前离散、可回放验证不再充分。

自检问题

1. 哪两周的 verifier 问题本质相同？
2. 为什么 replication 不能弥补 construct validity？
3. R/E/C/H/S 中本人未复现的外部论文属于什么？
4. 哪个 P3 机制进入 P4 后最可能失效？

专业课程对齐

• Levels of AGI：回到 performance、generality 与 autonomy 的拆分，检查复盘是否又把不同轴合成标签。
• Causal Abstraction：用干预对应提醒“机制连接图”不是仅凭相关性建立。
• AI Control：将能力、信任假设、协议证据与部署影响重新分开，为 P4 权限边界预热。

深入学习提示

如果全景图太满，删掉名词，只保留能回答“什么导致什么、证据来自哪里、何时失败”的节点和边。复盘的价值是压缩出少数稳定连接与诚实未知，不是覆盖率。

学后填写区

• 三条核心连接：
• Claim→Boundary 示例：
• R/E/C/H/S 分布：
• 三个未知：
• 带入 P4 的问题：