学习计划 Roadmap
AI Model Engineering 90:当前学习进度
P1 已正式启动,但 M01 尚未完成。计划、课程和执行入口分别见:
122 行daily/AI_MODEL_ENGINEERING_PROGRESS.md
AI Model Engineering 90 学习进度
状态:🟡 进行中 当前任务:M01 已完成:0 / 90 下一步:M01 启动决定日:2026-08-23 课程周期:2026-08-24 ~ 2026-11-21 唯一进度账本:本文件 教材状态:M01~M90 内容已备,入口为
/learn/ai-model-engineering/notes;教材就绪不计入完成数
P1 已正式启动,但 M01 尚未完成。计划、课程和执行入口分别见:
docs/AI_MODEL_ENGINEERING_90_PLAN.mddocs/ai-model-engineering/AI_MODEL_ENGINEERING_90_CURRICULUM.mddocs/ai-model-engineering/README.md
记录规则
- 只在真实完成学习后更新对应行;“已启动”不计入完成数,也不预填实际日期、用时或产出。
- 每天可先打开对应
docs/ai-model-engineering/notes/mNN-*.md教材;阅读、练习并填写自己的理解后,才将该日记为完成。 - 以轻量学习为主:周一概念、周二最小实现、周三引导练习、周四案例连接、周五一页小结、周六选做、周日休息。
- 不设分数、考试或 Gate;W4、W8、W12 只做低压力复盘,未掌握内容进入复习清单。
- 周六可直接休息;周日到期后可记为
🌿 休息完成,同样算一个真实走过的课程日。 - 建议状态只使用
⬜ 未完成、✅ 完成、🌿 休息完成或⏸ 延后;完成后同步顶部的当前任务、下一步和完成数。 - AISA 是独立历史资产;本文件不回写、不改写其历史进度。
M01~M90
| Day | 日期 | 周/节奏 | 主题 | 状态 | 实际日期 | 用时 | 笔记/产出 |
|---|---|---|---|---|---|---|---|
| M01 | 2026-08-24 | W1 · 周一概念与阅读 | 确认 Python/CPU/MPS 环境;理解 tensor、计算图、链式法则、backprop 和 optimizer | ⬜ 未完成 | — | — | — |
| M02 | 2026-08-25 | W1 · 周二最小实现 | 不调用 autograd,实现 scalar 计算图或两层网络的反向传播 | ⬜ 未完成 | — | — | — |
| M03 | 2026-08-26 | W1 · 周三引导练习 | 用 PyTorch autograd 重建 M02;MPS 可用时观察 CPU/MPS 差异 | ⬜ 未完成 | — | — | — |
| M04 | 2026-08-27 | W1 · 周四案例与连接 | 观察忘记 zero-grad、过大学习率、饱和激活和数据错误的不同症状 | ⬜ 未完成 | — | — | — |
| M05 | 2026-08-28 | W1 · 周五一页小结 | 整理计算图、梯度、optimizer、学习率和数值稳定性的关系 | ⬜ 未完成 | — | — | — |
| M06 | 2026-08-29 | W1 · 周六可选探索 / 补课 | 可选:更换网络、激活或 seed;也可只补链式法则 | ⬜ 未完成 | — | — | — |
| M07 | 2026-08-30 | W1 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M08 | 2026-08-31 | W2 · 周一概念与阅读 | 学习基准率、条件概率、混淆矩阵、Brier/ECE、阈值和 abstention | ⬜ 未完成 | — | — | — |
| M09 | 2026-09-01 | W2 · 周二最小实现 | 从零实现 sigmoid、BCE 或小 logistic regression | ⬜ 未完成 | — | — | — |
| M10 | 2026-09-02 | W2 · 周三引导练习 | 比较规则、logistic regression 和小 MLP | ⬜ 未完成 | — | — | — |
| M11 | 2026-09-03 | W2 · 周四案例与连接 | 改变基准率、错误成本或阈值,观察 accuracy 与决策损失的差别 | ⬜ 未完成 | — | — | — |
| M12 | 2026-09-04 | W2 · 周五一页小结 | 整理 discrimination、calibration、threshold 与 business decision | ⬜ 未完成 | — | — | — |
| M13 | 2026-09-05 | W2 · 周六可选探索 / 补课 | 可选:尝试不同成本矩阵、拒答覆盖率或校准方法 | ⬜ 未完成 | — | — | — |
| M14 | 2026-09-06 | W2 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M15 | 2026-09-07 | W3 · 周一概念与阅读 | 理解字符、subword、vocab、embedding、similarity 和 representation bias | ⬜ 未完成 | — | — | — |
| M16 | 2026-09-08 | W3 · 周二最小实现 | 跟随现有实现训练一个很小的 byte-level BPE | ⬜ 未完成 | — | — | — |
| M17 | 2026-09-09 | W3 · 周三引导练习 | 比较 lexical、frozen embedding 或小 encoder 中可行的两种路线 | ⬜ 未完成 | — | — | — |
| M18 | 2026-09-10 | W3 · 周四案例与连接 | 分析 AML 缩写、中英混合、地址/哈希、近义误命中和 OOD | ⬜ 未完成 | — | — | — |
| M19 | 2026-09-11 | W3 · 周五一页小结 | 整理 text→token→vector→similarity→task 因果链 | ⬜ 未完成 | — | — | — |
| M20 | 2026-09-12 | W3 · 周六可选探索 / 补课 | 可选:改变 vocab size、normalization 或 metric | ⬜ 未完成 | — | — | — |
| M21 | 2026-09-13 | W3 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M22 | 2026-09-14 | W4 · 周一概念与阅读 | 学习 Q/K/V、scaled dot-product、causal mask、multi-head、residual、normalization 和 FFN | ⬜ 未完成 | — | — | — |
| M23 | 2026-09-15 | W4 · 周二最小实现 | 从零实现最小 scaled causal attention | ⬜ 未完成 | — | — | — |
| M24 | 2026-09-16 | W4 · 周三引导练习 | 跟随现有 TypeScript 实现并映射到 PyTorch tensor 操作 | ⬜ 未完成 | — | — | — |
| M25 | 2026-09-17 | W4 · 周四案例与连接 | 观察移除 scale、mask、residual 或 normalization 后的变化 | ⬜ 未完成 | — | — | — |
| M26 | 2026-09-18 | W4 · 周五一页小结 / 阶段复盘 | 连接 W1 梯度、W2 概率、W3 表示与 W4 Transformer | ⬜ 未完成 | — | — | — |
| M27 | 2026-09-19 | W4 · 周六可选探索 / 补课 | 可选:改变 head 数、位置编码或 context;也可补 W1~W4 | ⬜ 未完成 | — | — | — |
| M28 | 2026-09-20 | W4 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M29 | 2026-09-21 | W5 · 周一概念与阅读 | 学习 next-token objective、cross-entropy、perplexity、token budget、data mix 和 scaling | ⬜ 未完成 | — | — | — |
| M30 | 2026-09-22 | W5 · 周二最小实现 | 组合 W3 tokenizer 与 W4 decoder,完成 tiny LM 的 batch、loss 和短训练 loop | ⬜ 未完成 | — | — | — |
| M31 | 2026-09-23 | W5 · 周三引导练习 | 跟随小数据训练 baseline,查看 train/validation curve、吞吐和内存 | ⬜ 未完成 | — | — | — |
| M32 | 2026-09-24 | W5 · 周四案例与连接 | 只改变数据量、学习率、宽度或领域配比中的一个变量 | ⬜ 未完成 | — | — | — |
| M33 | 2026-09-25 | W5 · 周五一页小结 | 整理 data/objective/optimization/curve/behavior 的关系 | ⬜ 未完成 | — | — | — |
| M34 | 2026-09-26 | W5 · 周六可选探索 / 补课 | 可选:观察重复数据、数据顺序或小 checkpoint;也可补训练基础 | ⬜ 未完成 | — | — | — |
| M35 | 2026-09-27 | W5 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M36 | 2026-09-28 | W6 · 周一概念与阅读 | 比较 prompting、retrieval、linear probe、full fine-tuning 与 LoRA | ⬜ 未完成 | — | — | — |
| M37 | 2026-09-29 | W6 · 周二最小实现 | 为小线性层实现 frozen weight + 低秩 A/B update | ⬜ 未完成 | — | — | — |
| M38 | 2026-09-30 | W6 · 周三引导练习 | 使用 PEFT/MLX-LM 跟随一个本机可行小练习;资源不足时使用模拟 | ⬜ 未完成 | — | — | — |
| M39 | 2026-10-01 | W6 · 周四案例与连接 | 观察 rank、target module、数据质量、格式或 masking 怎样影响结果 | ⬜ 未完成 | — | — | — |
| M40 | 2026-10-02 | W6 · 周五一页小结 | 整理 low-rank 假设、trainable params、领域质量和遗忘 | ⬜ 未完成 | — | — | — |
| M41 | 2026-10-03 | W6 · 周六可选探索 / 补课 | 可选:换一个 rank/target module;或补低秩线性代数 | ⬜ 未完成 | — | — | — |
| M42 | 2026-10-04 | W6 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M43 | 2026-10-05 | W7 · 周一概念与阅读 | 区分 SFT、reward model、DPO、PPO/GRPO、RLVR 的训练信号 | ⬜ 未完成 | — | — | — |
| M44 | 2026-10-06 | W7 · 周二最小实现 | 手算或实现 pairwise loss、group-relative advantage 或 reward composition | ⬜ 未完成 | — | — | — |
| M45 | 2026-10-07 | W7 · 周三引导练习 | 构造很小的 chosen/rejected 数据,跟随 DPO/pairwise 示例 | ⬜ 未完成 | — | — | — |
| M46 | 2026-10-08 | W7 · 周四案例与连接 | 改变正确性、格式、长度或 judge reward,理解 shortcut 和 reward hacking | ⬜ 未完成 | — | — | — |
| M47 | 2026-10-09 | W7 · 周五一页小结 | 整理 SFT→preference→reward→behavior 和 verifier 的关系 | ⬜ 未完成 | — | — | — |
| M48 | 2026-10-10 | W7 · 周六可选探索 / 补课 | 可选:体验 TRL 小例、更多 reward 组合;或补 DPO/GRPO 数学 | ⬜ 未完成 | — | — | — |
| M49 | 2026-10-11 | W7 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M50 | 2026-10-12 | W8 · 周一概念与阅读 | 学习 prefill、decode、KV cache、batching、precision、memory bandwidth、TTFT 和 throughput | ⬜ 未完成 | — | — | — |
| M51 | 2026-10-13 | W8 · 周二最小实现 | 在 tiny LM 上实现或跟随最小 cached decode | ⬜ 未完成 | — | — | — |
| M52 | 2026-10-14 | W8 · 周三引导练习 | 对同一小模型观察两种 context/output 或 precision 配置 | ⬜ 未完成 | — | — | — |
| M53 | 2026-10-15 | W8 · 周四案例与连接 | 分析 batch、context、quantization、cache 和本地后端之间的取舍 | ⬜ 未完成 | — | — | — |
| M54 | 2026-10-16 | W8 · 周五一页小结 / 阶段复盘 | 连接 W5 训练、W6 适配、W7 奖励与 W8 推理 | ⬜ 未完成 | — | — | — |
| M55 | 2026-10-17 | W8 · 周六可选探索 / 补课 | 可选:量化、batch、不同 context 或 MLX/llama.cpp 体验 | ⬜ 未完成 | — | — | — |
| M56 | 2026-10-18 | W8 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M57 | 2026-10-19 | W9 · 周一概念与阅读 | 区分 behavior、correlation、mechanism、causal evidence 和 business explanation | ⬜ 未完成 | — | — | — |
| M58 | 2026-10-20 | W9 · 周二最小实现 | 在 tiny model 上抓取 attention/activation,或跟随一个 replacement/ablation 示例 | ⬜ 未完成 | — | — | — |
| M59 | 2026-10-21 | W9 · 周三引导练习 | 比较 single pass、self-consistency 或 verifier cascade 中两种路线 | ⬜ 未完成 | — | — | — |
| M60 | 2026-10-22 | W9 · 周四案例与连接 | 分析“可视化看似合理但干预不成立”与“解释越级”案例 | ⬜ 未完成 | — | — | — |
| M61 | 2026-10-23 | W9 · 周五一页小结 | 整理 activation、feature、intervention、verifier 和 test-time compute | ⬜ 未完成 | — | — | — |
| M62 | 2026-10-24 | W9 · 周六可选探索 / 补课 | 可选:换一个 activation 位置或 verifier 阈值;也可补 mech-interp 概念 | ⬜ 未完成 | — | — | — |
| M63 | 2026-10-25 | W9 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M64 | 2026-10-26 | W10 · 周一概念与阅读 | 区分 OCR、layout parser、vision encoder、projector、LM 和分层指标 | ⬜ 未完成 | — | — | — |
| M65 | 2026-10-27 | W10 · 周二最小实现 | 生成一个合成表单/账单,并实现 OCR 后字段规则或等价小练习 | ⬜ 未完成 | — | — | — |
| M66 | 2026-10-28 | W10 · 周三引导练习 | 比较 OCR+规则、layout-aware 或小 VLM 中可行的两种路线 | ⬜ 未完成 | — | — | — |
| M67 | 2026-10-29 | W10 · 周四案例与连接 | 选择旋转、模糊、遮挡、手写、语言混合或冲突字段中的两类 | ⬜ 未完成 | — | — | — |
| M68 | 2026-10-30 | W10 · 周五一页小结 | 整理 pixels/layout→fields/relations→evidence→decision | ⬜ 未完成 | — | — | — |
| M69 | 2026-10-31 | W10 · 周六可选探索 / 补课 | 可选:增加一种扰动、体验 VLM;需要恢复时也可完全休息 | ⬜ 未完成 | — | — | — |
| M70 | 2026-11-01 | W10 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M71 | 2026-11-02 | W11 · 周一概念与阅读 | 从交易图异常、时间序列预测或排序中只选一个主题 | ⬜ 未完成 | — | — | — |
| M72 | 2026-11-03 | W11 · 周二最小实现 | 为所选任务实现规则/统计 baseline 或一个核心计算 | ⬜ 未完成 | — | — | — |
| M73 | 2026-11-04 | W11 · 周三引导练习 | 跟随一个小神经、图或序列模型 | ⬜ 未完成 | — | — | — |
| M74 | 2026-11-05 | W11 · 周四案例与连接 | 比较时间/实体/图 split 与错误随机 split,并讨论 LLM 的受限角色 | ⬜ 未完成 | — | — | — |
| M75 | 2026-11-06 | W11 · 周五一页小结 | 整理规则→统计→小模型→LLM 的选择逻辑 | ⬜ 未完成 | — | — | — |
| M76 | 2026-11-07 | W11 · 周六可选探索 / 补课 | 可选:改变一个特征或切分;需要恢复时也可完全休息 | ⬜ 未完成 | — | — | — |
| M77 | 2026-11-08 | W11 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M78 | 2026-11-09 | W12 · 周一概念与阅读 | 选择场景和 A/B/C 范围;整理任务、数据、错误成本、baseline 和候选模型 | ⬜ 未完成 | — | — | — |
| M79 | 2026-11-10 | W12 · 周二最小实现 | 完成最小规则、经典 ML 或小神经模型中的一个核心路径 | ⬜ 未完成 | — | — | — |
| M80 | 2026-11-11 | W12 · 周三引导练习 | 按所选范围加入第二种方法、校准、LoRA、VLM 或资源测量中的一项 | ⬜ 未完成 | — | — | — |
| M81 | 2026-11-12 | W12 · 周四案例与连接 | 观察类别、长度、语言、噪声、OOD 或成本中的两类差异 | ⬜ 未完成 | — | — | — |
| M82 | 2026-11-13 | W12 · 周五一页小结 / 阶段复盘 | 总结 W9~W12,并回看三次阶段全景图 | ⬜ 未完成 | — | — | — |
| M83 | 2026-11-14 | W12 · 周六可选探索 / 补课 | 可选:完善一个图、补一个小对照或写项目总结;也可休息 | ⬜ 未完成 | — | — | — |
| M84 | 2026-11-15 | W12 · 周日休息 | 不安排必修任务 | ⬜ 未完成 | — | — | — |
| M85 | 2026-11-16 | 整合 · 周一知识整合 | 合并 W4、W8、W12 三张阶段图,整理 data→representation→objective→optimization→behavior→inference→decision | ⬜ 未完成 | — | — | — |
| M86 | 2026-11-17 | 整合 · 周二阅读回访 | 从 W1~W4 选择一个仍感兴趣的主题,重读笔记或重跑最小实现 | ⬜ 未完成 | — | — | — |
| M87 | 2026-11-18 | 整合 · 周三关系整理 | 从 W5~W8 选择一个主题,补充训练、适配、奖励和推理之间的联系 | ⬜ 未完成 | — | — | — |
| M88 | 2026-11-19 | 整合 · 周四案例迁移 | 把所学迁移到新的金融/Web3/文档场景,比较规则、传统 ML、小模型和 LLM | ⬜ 未完成 | — | — | — |
| M89 | 2026-11-20 | 整合 · 周五下一阶段问题树 | 区分“模型问题”与下一阶段“AI 系统工程问题” | ⬜ 未完成 | — | — | — |
| M90 | 2026-11-21 | 整合 · 周六轻量总结 | 浏览 90 天笔记,写下最重要的 10 个联系、3 个想深入的方向和下一阶段节奏建议 | ⬜ 未完成 | — | — | — |