S89：Phase 3 问题树：区分系统工程问题与 AGI / 认知 / 智能本质问题

内容类型：预习教材（不代表已完成）
日期：2027-02-19
阶段：P2 · AI Systems Engineering 90
总路线：Day 179
周次节奏：知识整合 · 周五下一阶段准备
状态：教材已备；学习未完成

一句话定义

Phase 3 问题树把当前的困惑分成可通过架构、数据、实验、运行与治理回答的系统工程问题，以及需理论、认知科学、机制、学习与智能观研究的 AGI 基础问题，防止用工程术语伪回答本质问题。

学习目标

1. 从 Phase 2 笔记中收集仍不理解的问题，不为显得完整而创造宏大问题。
2. 用“对象、主张、可观测证据、可能方法、不能证明”五格重写模糊疑问。
3. 将问题放入 system engineering、model/mechanism、learning/generalization、cognition/agency、alignment/governance 五个分支，并安排轻量复习顺序。

核心知识

系统工程问题关心在给定能力与约束下，如何提供可用、可观测、可恢复、可授权与可追溯的服务。例如“怎样让 agent 工具调用幂等”、“怎样量化 human queue 容量”、“怎样追踪 prompt/index/policy 的 release bundle”。这些问题可通过 contract、state machine、fault injection、telemetry、基准与组织设计逐步回答。

模型/机制问题关心模型如何表示、计算和生成行为，例如某个 circuit/representation 是否因果参与计算。传入 trace 或显示 attention 只是相关证据，不能用系统可观测性直接回答内部机制。

学习/泛化问题关心什么经验、目标、归纳偏置与环境使能力迁移。“扩大数据与计算会得到哪些新能力”不能只靠 serving scaling law 或 benchmark 分数回答；需对任务分布、数据生成、表示与机制设计更强证据。

认知/主体问题关心 memory、planning、world model、metacognition、self、agency 和意识等概念。agent runtime 有持久状态、自我检查或目标队列，不等于它已拥有人类式记忆、元认知或主体性。工程上的“memory”只说明信息被保存与检索，未回答它如何影响内部学习与自我模型。

Alignment/governance 问题既有工程面（权限、评估、监控、回滚），也有规范面（目标应为何、谁有决定权、价值冲突如何处理）。技术控制可约束已定义的 action，但不能自动回答社会规范与正当性。

机制与推导

一个问题的归类可由它需要的证据决定：

• 需 interface/state/failure/operation evidence：系统工程；
• 需 representation/intervention/circuit evidence：模型机制；
• 需 training distribution/generalization evidence：学习；
• 需概念分析、认知模型与多方法证据：认知；
• 需规范选择、权力/责任与社会制度：alignment/governance。

同一问题可跨分支，但应拆成子问题，避免用一个实验声称回答所有层级。

最小练习或观察

1. 从 P2 笔记收集 10～15 个真实疑问，去掉为宏大而宏大的题目。
2. 每个用五格重写：对象、主张、证据、方法、不能证明。
3. 分到五个分支，跨分支问题拆子问题。
4. 对系统工程分支选 1～2 个进入长期复习；对 Phase 3 分支只排阅读先后，不预先写答案。
5. 不要用问题树做知识考核或用“已解决”填充未研究问题。

常见误区与边界

• 将 agent state/memory store 直接等同于认知记忆或自我。
• 用 benchmark 成绩上升回答泛化机制、推理本质或意识。
• 把 observability trace 当成内部机制解释，或用相关性下因果结论。
• 把权限、gate 或回滚当成 alignment 全部，忽略目标和正当性。
• 问题树是进入 Phase 3 的好奇导航，不是闭卷诊断、研究承诺或 AGI 预测。

系统 / 金融 / Web3 连接

可从金融案例中问：“一个 agent 为何能在新产品上泛化风险模式？”把它拆成数据分布、表示/学习、工具/系统与业务规范子问题。Web3 可问：“会计划的 Wallet Agent 是否具有 agency？”需区分工作流主动性、目标表示、自我模型和法律/伦理主体性。

自检问题

1. 系统工程能回答哪类“如何”，不能回答哪类“为什么”？
2. 一个问题为什么应由所需证据归类？
3. agent memory 与认知记忆之间还缺哪些机制证据？
4. 你的问题树中哪个问题最需要拆分层级？

专业课程对齐

• Stanford CS329S：精读 ML systems lifecycle 与 design 主题，用来界定哪些问题仍属于 P2 工程范围。
• NIST AIRC / AI RMF：精读 context、human oversight、measurement limits 和 governance，用来区分可测风险与规范决策。
• Google PAIR Guidebook：选读 mental models、trust、explainability 和 human control，检查工程上的人机交互概念与认知主张的边界。

深入学习提示

外部材料的作用是给问题划边界，不是提前学完 Phase 3。先用 CS329S 排除可明确工程化的问题，再用 NIST/PAIR 检查人类、风险和规范边界；剩下的机制/认知问题留给 Phase 3 逐步学习。

学后填写区

• 收集的真实疑问：
• 五格重写与五个分支：
• P2 长期复习项：
• Phase 3 阅读顺序：
• 目前明确不能回答的主张：