G55：Stability–Plasticity 的边界与三种适应层

内容类型：预习教材（不代表已完成）
日期：2027-04-17
阶段：P3 · AGI Foundations 90
总路线：Day 235 / 360
周次：W8 · Continual、Meta 与 Transfer Learning
节奏：周六可选探索
状态：教材已备；学习未完成
标签：stability-plasticity、in-context、memory-update、parameter-update、boundary

一句话定义

Stability–plasticity 不是单一算法问题，而是系统在 context、external memory 和 parameters 三层选择“哪些变化立即吸收、哪些保留、哪些拒绝”的状态治理问题。

学习目标

1. 比较三种适应层的速度、持久性、可撤销性与风险。
2. 理解过度稳定、过度可塑和错误边界选择的反例。
3. 为一个 toy Agent 写更新路由，而非盲目在线学习。
4. 连接 continual learning 与未来自改进循环的数据治理。

核心知识

• Context adaptation 最快、session 结束可消失，适合临时指令，但容易被 prompt 污染且受长度限制。
• External memory update 持久、可版本化和删除，适合事实与事件，但存在来源、时效、检索和隐私问题。
• Parameter update 能形成广泛行为变化，回滚和归因更难，适合经过筛选的分布性知识或技能，不适合每条临时事实。
• Stability 的对象可以是性能、校准、安全约束、身份或公平；plasticity 的对象可以是新任务、环境、用户偏好。若不指明对象，口号没有可操作意义。
• 在线更新会形成反馈：模型行为影响收集数据，数据又更新模型。错误或偏差可能被强化，稳定机制本身也可能固化旧伤害。

机制与推导

把一条新信息 (u) 的路由写成决策：

[ route(u)\in{context,memory,parameter,reject,human} ]

依据可以是来源可信度 (q)、预计有效期 (t)、影响范围 (s)、可撤销性 (v) 与风险 (r)。例如高风险、低可信内容直接拒绝或人工；短期偏好进入 context/memory；重复、经验证且广泛稳定的模式才可能进入离线参数更新候选。这个路由应由系统策略拥有，不由模型自行决定。

参数更新后的多目标变化可写成：

[ \Delta=(\Delta new,\Delta old,\Delta safety,\Delta calibration,Cost) ]

不存在所有维度都改善的保证。Pareto frontier 比单一分数更适合展示取舍。

构造反例：客户一次说“本周只用短信”，写入长期参数会过度泛化；只放 context 则下周丢失；带过期时间的 memory 更匹配。另一个规则“任何人不得泄露凭证”应是稳定系统约束，不应被个性化更新覆盖。

最小练习或观察步骤

1. 列出十条合成输入：临时偏好、权威政策、模型推测、恶意指令、重复事实、技能示例等。
2. 为每条选择 context/memory/parameter candidate/reject/human，并写一句依据；不需要实现更新。
3. 选择两条有争议输入，分别路由到错误层，推演可能的失效和撤销难度。
4. 画出参数更新离线流程：provenance→筛选→独立 eval→版本→可回滚发布；保持轻量概念图。
5. 对一个 toy task 比较 context 示例、memory 检索和一次 gradient update 的状态持久性，不要求三者达到同样性能。
6. 写出三个永不允许在线可塑化的硬边界，例如权限、凭证与客户权益动作。

常见误区与边界

• 任何新事实都通过微调吸收，造成更新慢、不可审计和遗忘。
• Context 中表现适应就称为模型“学会”了长期技能。
• External memory 可删除就认为完全无风险，忽略复制、摘要和索引残留。
• 安全约束也交给同一 plastic learner 自行改写。
• 追求零遗忘，结果模型无法适应制度变化。
• toy 路由只提供设计直觉，不能自动决定真实数据合规和伦理选择。

研究/系统场景连接

金融政策应进入权威版本库和受控检索，客户临时偏好带有效期进入 memory，通用语言/推理技能才可能经离线训练进入参数。将所有变化塞进模型参数会模糊业务事实与学习能力。研究 Agent 的论文结论也应保留来源，而不是自我训练后失去可追踪引用。下一周的合成数据循环正是参数层 plasticity 的高风险例子。

自检问题

1. 三种适应层分别改变什么状态？
2. 哪些属性决定一条信息应进入哪层？
3. 为什么安全权限不应交给同一在线 learner 自改？
4. 零遗忘目标为何可能妨碍必要更新？
5. 参数更新的 Pareto 维度至少有哪些？

专业课程对齐

• 阅读 MAML 原始论文，把参数快速适应与 context/memory 更新明确区分。
• 阅读 Learning to Learn by Gradient Descent by Gradient Descent，观察更新规则本身如何跨任务学习，并思考其受训练任务分布限制。
• 阅读 Gato 官方研究介绍，区分统一序列接口、多任务预训练和部署期持续更新。

深入学习提示

可继续研究 Bayesian continual learning、fast/slow weights、editable models 与 memory consolidation。不要把大脑隐喻直接当工程事实；每个层次都用可观察状态、更新权限和回滚方式描述。能做出“不要更新”的判断，也是学习系统能力的一部分。

学后填写区

• 实际完成的路由表：
• 两个错误层反例：
• 不可在线更新的边界：
• 参数更新 Pareto 取舍：
• 与下一周的连接：
• 尚未理解的问题：