G78：AI Scientist 研究链：生成、执行、验证与责任不能合并

内容类型：预习教材（不代表已完成）
日期：2027-05-10
阶段：P3 · AGI Foundations 90
总路线：Day 258
周次节奏：W12 · 周一概念与论文
状态：教材已备；学习未完成

一句话定义

AI Scientist 是把文献检索、假设生成、实验设计、沙箱执行、确定性验证、统计分析、批判审阅与人类决定串成可追溯研究链，而不是让一个 Agent 同时生成并宣布发现。

学习目标

1. 将 scientific workflow 拆成角色、artifact、决策权与失败边界。
2. 区分 novelty、correctness、reproducibility、usefulness 和 safety 五种不能互换的评价。
3. 识别 verifier-bounded discovery 的优势及其规格漏洞、搜索偏差和外推限制。

核心知识

研究链起于问题而非答案。Question registry 记录研究对象、动机、已知证据与范围；hypothesis 必须包含预测和 falsification criteria；experiment specification 固定变量、baseline、预算、seed、指标和停止条件；executor 在沙箱产生原始 artifact；verifier 检查可执行性质；analysis 估计 effect 与不确定性；skeptic reviewer 寻找混杂和替代解释；最终是否接受、复现或继续由人类承担。

数学、代码优化和可执行算法适合 verifier-bounded search，因为候选可通过编译、单元测试、目标函数或形式化约束快速筛选。即便如此，verifier 只覆盖 specification：算法可能过拟合测试、利用计时漏洞、违反未编码资源限制或优化错目标。一个候选通过 verifier 说明“在该实现与测试下满足条件”，不自动说明新颖、有用或普遍正确。

自然科学中的验证更难。实验测量可能昂贵、有噪声或涉及现实安全；文献 novelty 无法由语义相似度或同一个生成模型独立判断；reviewer 和 generator 共享训练语料时会有共偏差。因此自动化程度应随可验证性和后果调整，高风险环节保留人类 checkpoint 与外部复现。

AI Scientist 还会放大传统研究问题：多重比较、p-hacking、选择性报告、不可复现环境、重复发现、引用错误和负结果丢失。自动化让候选数量增加，不会自动改善认识论；若只保存“最佳”候选，搜索过程本身造成的 selection bias 反而更强。

机制与推导

把研究状态写为：

Q → {H_i} → {E_ij} → {A_ij} → V(A_ij) → Analysis → Review → HumanDecision

每条边生成 provenance，任何角色不得覆盖前一 artifact。若搜索 (N) 个独立候选，每个在 null 下以概率 α 偶然通过，至少一个通过概率为：

P(any false pass)=1-(1-α)^N

N 增加时，固定阈值的假发现风险上升。因此需要 holdout verifier、multiple-comparison awareness、confirmatory rerun 和完整候选日志。

研究判断可表示为向量 J=[correctness, novelty, reproducibility, usefulness, safety]，不提前合成单分。Correctness 可由确定性测试部分支持；novelty 需检索和专家判断；reproducibility 需要环境与独立 rerun；usefulness 依赖领域价值；safety 取决于执行边界。任何一维高分都不能替代其他维度。

最小练习或观察步骤

1. 选择无害问题，例如“哪种排序算法在特定小数组分布下比较次数更少”，写 question scope。
2. 建一个 hypothesis 卡：预测、竞争 baseline、可否定条件、预算和暂不研究内容。
3. 画 registry→spec→sandbox→artifact→verifier→review→human 的状态机，并标每步 owner。
4. 构造一个 verifier 漏洞反例：候选对固定测试硬编码；再设计 holdout 输入阻止它。
5. 为 J 的五个维度各写证据来源，未执行时一律保持 planned/unknown。

常见误区与边界

• 同一 Agent 生成、打分、审阅并宣布 novelty，形成自我确认。
• 单元测试通过就称科学发现，忽略规格不完备与硬编码。
• 搜索大量候选只报告最优，不保存失败与比较次数。
• 把流畅论文文本当作正确性或可复现性证据。
• 给自动研究系统现实网络、凭证、实验室设备或无限执行权限。

研究/系统场景连接

金融研究可让系统生成无客户数据的规则假设和 SQL 草案，但真实策略改变必须由数据治理、统计复核和业务 owner 决定。系统需把 dataset、code、environment、seed、verifier 与 reviewer 版本绑定。P4 具身研究的 executor 必须从纯仿真开始，任何硬件实验都需 workspace、速度、急停和人类现场责任，不能由 AI Scientist 自行升级权限。

自检问题

1. 为什么 deterministic verifier 仍可能给出错误安全感？
2. Novelty 与 correctness 分别需要什么证据？
3. 候选数增加怎样放大假发现？
4. 哪些决策权不应交给生成模型自身？

专业课程对齐

• FunSearch：观察生成模型与可执行 evaluator 的角色分离，以及发现主张所依赖的领域验证。
• The AI Scientist：拆解 idea、experiment、write-up 与 review 流程，同时审视自动评分、成本和失败案例。
• AI Co-Scientist：关注多角色生成与排名如何辅助人类研究，不把官方案例直接视为普遍自主科研证据。

深入学习提示

用“谁能否定谁”检查架构：verifier 能否定候选、skeptic 能否挑战分析、人类能否拒绝系统建议；如果所有角色共享同一输出且无法保留分歧，所谓多 Agent 只是同一偏差的多次采样。

学后填写区

• Research question：
• Hypothesis 与否定条件：
• 角色 / artifact / 决策权：
• Verifier 漏洞与 holdout：
• 五维证据状态：