S21：W3 休息与训练系统恢复

内容类型：休息日指南（不代表已完成）
日期：2026-12-13
阶段：P2 · AI Systems Engineering 90
总路线：Day 111 / 360
周次 / 节奏：W3 · 周日休息
状态：教材已备；学习未完成

今天的唯一任务

休息。没有必修阅读、代码、公式练习、考试或 Gate，也不引入新知识。W3 的内存账本、并行轴、collective 与 checkpoint 信息密度较高，主动停止比继续塞入更多术语更有利于形成系统图。

本周即使没有运行双进程 Gloo，也不构成缺项；纸面跟踪 collective 是有效学习方式。没有真实 GPU、多机或 NCCL 环境，也不需要补装。更不能把教材预先存在写成自己已经运行或掌握。

可选的 5 分钟整理

如果自然想回顾，只回答一个问题：“参数、梯度、optimizer、activation 中，哪几项可以被我已知的策略分片或重算？”最多写四行，然后停止。不要做新的 memory calculator，不查多维并行论文，不启动性能 benchmark。

下一周将转向 serving 的请求队列、调度和容量。今天可以让“训练 step 是同步批处理，而服务面对持续到达请求”这一差异自然沉淀，无需预习。

可选课程回看（非必修）

若确实想看，最多 15 分钟浏览 CMU Deep Learning Systems 的课程目录，找出一个与 memory 或 distributed training 对应的主题标题即可；不做作业、不运行框架、不要求看完讲义。

恢复提醒

• 什么都不做就是正确执行休息日。
• 不因未运行硬件实验增加补学债务。
• 不比较进度、不评分，不建立额外验证清单。
• 明天直接进入 S22，无需先证明 W3 已全部掌握。

学后填写区（完全可留空）

• 今天是否真正休息：
• 自然留下的一个概念（可空）：
• 以后想回看的问题（可空）：