返回 Papers
学习计划 Roadmap

AI Model Engineering 90:当前学习进度

P1 已正式启动,但 M01 尚未完成。计划、课程和执行入口分别见:

122daily/AI_MODEL_ENGINEERING_PROGRESS.md

AI Model Engineering 90 学习进度

状态:🟡 进行中 当前任务:M01 已完成:0 / 90 下一步:M01 启动决定日:2026-08-23 课程周期:2026-08-24 ~ 2026-11-21 唯一进度账本:本文件 教材状态:M01~M90 内容已备,入口为 /learn/ai-model-engineering/notes;教材就绪不计入完成数

P1 已正式启动,但 M01 尚未完成。计划、课程和执行入口分别见:

记录规则

  • 只在真实完成学习后更新对应行;“已启动”不计入完成数,也不预填实际日期、用时或产出。
  • 每天可先打开对应 docs/ai-model-engineering/notes/mNN-*.md 教材;阅读、练习并填写自己的理解后,才将该日记为完成。
  • 以轻量学习为主:周一概念、周二最小实现、周三引导练习、周四案例连接、周五一页小结、周六选做、周日休息。
  • 不设分数、考试或 Gate;W4、W8、W12 只做低压力复盘,未掌握内容进入复习清单。
  • 周六可直接休息;周日到期后可记为 🌿 休息完成,同样算一个真实走过的课程日。
  • 建议状态只使用 ⬜ 未完成✅ 完成🌿 休息完成⏸ 延后;完成后同步顶部的当前任务、下一步和完成数。
  • AISA 是独立历史资产;本文件不回写、不改写其历史进度。

M01~M90

Day日期周/节奏主题状态实际日期用时笔记/产出
M012026-08-24W1 · 周一概念与阅读确认 Python/CPU/MPS 环境;理解 tensor、计算图、链式法则、backprop 和 optimizer⬜ 未完成
M022026-08-25W1 · 周二最小实现不调用 autograd,实现 scalar 计算图或两层网络的反向传播⬜ 未完成
M032026-08-26W1 · 周三引导练习用 PyTorch autograd 重建 M02;MPS 可用时观察 CPU/MPS 差异⬜ 未完成
M042026-08-27W1 · 周四案例与连接观察忘记 zero-grad、过大学习率、饱和激活和数据错误的不同症状⬜ 未完成
M052026-08-28W1 · 周五一页小结整理计算图、梯度、optimizer、学习率和数值稳定性的关系⬜ 未完成
M062026-08-29W1 · 周六可选探索 / 补课可选:更换网络、激活或 seed;也可只补链式法则⬜ 未完成
M072026-08-30W1 · 周日休息不安排必修任务⬜ 未完成
M082026-08-31W2 · 周一概念与阅读学习基准率、条件概率、混淆矩阵、Brier/ECE、阈值和 abstention⬜ 未完成
M092026-09-01W2 · 周二最小实现从零实现 sigmoid、BCE 或小 logistic regression⬜ 未完成
M102026-09-02W2 · 周三引导练习比较规则、logistic regression 和小 MLP⬜ 未完成
M112026-09-03W2 · 周四案例与连接改变基准率、错误成本或阈值,观察 accuracy 与决策损失的差别⬜ 未完成
M122026-09-04W2 · 周五一页小结整理 discrimination、calibration、threshold 与 business decision⬜ 未完成
M132026-09-05W2 · 周六可选探索 / 补课可选:尝试不同成本矩阵、拒答覆盖率或校准方法⬜ 未完成
M142026-09-06W2 · 周日休息不安排必修任务⬜ 未完成
M152026-09-07W3 · 周一概念与阅读理解字符、subword、vocab、embedding、similarity 和 representation bias⬜ 未完成
M162026-09-08W3 · 周二最小实现跟随现有实现训练一个很小的 byte-level BPE⬜ 未完成
M172026-09-09W3 · 周三引导练习比较 lexical、frozen embedding 或小 encoder 中可行的两种路线⬜ 未完成
M182026-09-10W3 · 周四案例与连接分析 AML 缩写、中英混合、地址/哈希、近义误命中和 OOD⬜ 未完成
M192026-09-11W3 · 周五一页小结整理 text→token→vector→similarity→task 因果链⬜ 未完成
M202026-09-12W3 · 周六可选探索 / 补课可选:改变 vocab size、normalization 或 metric⬜ 未完成
M212026-09-13W3 · 周日休息不安排必修任务⬜ 未完成
M222026-09-14W4 · 周一概念与阅读学习 Q/K/V、scaled dot-product、causal mask、multi-head、residual、normalization 和 FFN⬜ 未完成
M232026-09-15W4 · 周二最小实现从零实现最小 scaled causal attention⬜ 未完成
M242026-09-16W4 · 周三引导练习跟随现有 TypeScript 实现并映射到 PyTorch tensor 操作⬜ 未完成
M252026-09-17W4 · 周四案例与连接观察移除 scale、mask、residual 或 normalization 后的变化⬜ 未完成
M262026-09-18W4 · 周五一页小结 / 阶段复盘连接 W1 梯度、W2 概率、W3 表示与 W4 Transformer⬜ 未完成
M272026-09-19W4 · 周六可选探索 / 补课可选:改变 head 数、位置编码或 context;也可补 W1~W4⬜ 未完成
M282026-09-20W4 · 周日休息不安排必修任务⬜ 未完成
M292026-09-21W5 · 周一概念与阅读学习 next-token objective、cross-entropy、perplexity、token budget、data mix 和 scaling⬜ 未完成
M302026-09-22W5 · 周二最小实现组合 W3 tokenizer 与 W4 decoder,完成 tiny LM 的 batch、loss 和短训练 loop⬜ 未完成
M312026-09-23W5 · 周三引导练习跟随小数据训练 baseline,查看 train/validation curve、吞吐和内存⬜ 未完成
M322026-09-24W5 · 周四案例与连接只改变数据量、学习率、宽度或领域配比中的一个变量⬜ 未完成
M332026-09-25W5 · 周五一页小结整理 data/objective/optimization/curve/behavior 的关系⬜ 未完成
M342026-09-26W5 · 周六可选探索 / 补课可选:观察重复数据、数据顺序或小 checkpoint;也可补训练基础⬜ 未完成
M352026-09-27W5 · 周日休息不安排必修任务⬜ 未完成
M362026-09-28W6 · 周一概念与阅读比较 prompting、retrieval、linear probe、full fine-tuning 与 LoRA⬜ 未完成
M372026-09-29W6 · 周二最小实现为小线性层实现 frozen weight + 低秩 A/B update⬜ 未完成
M382026-09-30W6 · 周三引导练习使用 PEFT/MLX-LM 跟随一个本机可行小练习;资源不足时使用模拟⬜ 未完成
M392026-10-01W6 · 周四案例与连接观察 rank、target module、数据质量、格式或 masking 怎样影响结果⬜ 未完成
M402026-10-02W6 · 周五一页小结整理 low-rank 假设、trainable params、领域质量和遗忘⬜ 未完成
M412026-10-03W6 · 周六可选探索 / 补课可选:换一个 rank/target module;或补低秩线性代数⬜ 未完成
M422026-10-04W6 · 周日休息不安排必修任务⬜ 未完成
M432026-10-05W7 · 周一概念与阅读区分 SFT、reward model、DPO、PPO/GRPO、RLVR 的训练信号⬜ 未完成
M442026-10-06W7 · 周二最小实现手算或实现 pairwise loss、group-relative advantage 或 reward composition⬜ 未完成
M452026-10-07W7 · 周三引导练习构造很小的 chosen/rejected 数据,跟随 DPO/pairwise 示例⬜ 未完成
M462026-10-08W7 · 周四案例与连接改变正确性、格式、长度或 judge reward,理解 shortcut 和 reward hacking⬜ 未完成
M472026-10-09W7 · 周五一页小结整理 SFT→preference→reward→behavior 和 verifier 的关系⬜ 未完成
M482026-10-10W7 · 周六可选探索 / 补课可选:体验 TRL 小例、更多 reward 组合;或补 DPO/GRPO 数学⬜ 未完成
M492026-10-11W7 · 周日休息不安排必修任务⬜ 未完成
M502026-10-12W8 · 周一概念与阅读学习 prefill、decode、KV cache、batching、precision、memory bandwidth、TTFT 和 throughput⬜ 未完成
M512026-10-13W8 · 周二最小实现在 tiny LM 上实现或跟随最小 cached decode⬜ 未完成
M522026-10-14W8 · 周三引导练习对同一小模型观察两种 context/output 或 precision 配置⬜ 未完成
M532026-10-15W8 · 周四案例与连接分析 batch、context、quantization、cache 和本地后端之间的取舍⬜ 未完成
M542026-10-16W8 · 周五一页小结 / 阶段复盘连接 W5 训练、W6 适配、W7 奖励与 W8 推理⬜ 未完成
M552026-10-17W8 · 周六可选探索 / 补课可选:量化、batch、不同 context 或 MLX/llama.cpp 体验⬜ 未完成
M562026-10-18W8 · 周日休息不安排必修任务⬜ 未完成
M572026-10-19W9 · 周一概念与阅读区分 behavior、correlation、mechanism、causal evidence 和 business explanation⬜ 未完成
M582026-10-20W9 · 周二最小实现在 tiny model 上抓取 attention/activation,或跟随一个 replacement/ablation 示例⬜ 未完成
M592026-10-21W9 · 周三引导练习比较 single pass、self-consistency 或 verifier cascade 中两种路线⬜ 未完成
M602026-10-22W9 · 周四案例与连接分析“可视化看似合理但干预不成立”与“解释越级”案例⬜ 未完成
M612026-10-23W9 · 周五一页小结整理 activation、feature、intervention、verifier 和 test-time compute⬜ 未完成
M622026-10-24W9 · 周六可选探索 / 补课可选:换一个 activation 位置或 verifier 阈值;也可补 mech-interp 概念⬜ 未完成
M632026-10-25W9 · 周日休息不安排必修任务⬜ 未完成
M642026-10-26W10 · 周一概念与阅读区分 OCR、layout parser、vision encoder、projector、LM 和分层指标⬜ 未完成
M652026-10-27W10 · 周二最小实现生成一个合成表单/账单,并实现 OCR 后字段规则或等价小练习⬜ 未完成
M662026-10-28W10 · 周三引导练习比较 OCR+规则、layout-aware 或小 VLM 中可行的两种路线⬜ 未完成
M672026-10-29W10 · 周四案例与连接选择旋转、模糊、遮挡、手写、语言混合或冲突字段中的两类⬜ 未完成
M682026-10-30W10 · 周五一页小结整理 pixels/layout→fields/relations→evidence→decision⬜ 未完成
M692026-10-31W10 · 周六可选探索 / 补课可选:增加一种扰动、体验 VLM;需要恢复时也可完全休息⬜ 未完成
M702026-11-01W10 · 周日休息不安排必修任务⬜ 未完成
M712026-11-02W11 · 周一概念与阅读从交易图异常、时间序列预测或排序中只选一个主题⬜ 未完成
M722026-11-03W11 · 周二最小实现为所选任务实现规则/统计 baseline 或一个核心计算⬜ 未完成
M732026-11-04W11 · 周三引导练习跟随一个小神经、图或序列模型⬜ 未完成
M742026-11-05W11 · 周四案例与连接比较时间/实体/图 split 与错误随机 split,并讨论 LLM 的受限角色⬜ 未完成
M752026-11-06W11 · 周五一页小结整理规则→统计→小模型→LLM 的选择逻辑⬜ 未完成
M762026-11-07W11 · 周六可选探索 / 补课可选:改变一个特征或切分;需要恢复时也可完全休息⬜ 未完成
M772026-11-08W11 · 周日休息不安排必修任务⬜ 未完成
M782026-11-09W12 · 周一概念与阅读选择场景和 A/B/C 范围;整理任务、数据、错误成本、baseline 和候选模型⬜ 未完成
M792026-11-10W12 · 周二最小实现完成最小规则、经典 ML 或小神经模型中的一个核心路径⬜ 未完成
M802026-11-11W12 · 周三引导练习按所选范围加入第二种方法、校准、LoRA、VLM 或资源测量中的一项⬜ 未完成
M812026-11-12W12 · 周四案例与连接观察类别、长度、语言、噪声、OOD 或成本中的两类差异⬜ 未完成
M822026-11-13W12 · 周五一页小结 / 阶段复盘总结 W9~W12,并回看三次阶段全景图⬜ 未完成
M832026-11-14W12 · 周六可选探索 / 补课可选:完善一个图、补一个小对照或写项目总结;也可休息⬜ 未完成
M842026-11-15W12 · 周日休息不安排必修任务⬜ 未完成
M852026-11-16整合 · 周一知识整合合并 W4、W8、W12 三张阶段图,整理 data→representation→objective→optimization→behavior→inference→decision⬜ 未完成
M862026-11-17整合 · 周二阅读回访从 W1~W4 选择一个仍感兴趣的主题,重读笔记或重跑最小实现⬜ 未完成
M872026-11-18整合 · 周三关系整理从 W5~W8 选择一个主题,补充训练、适配、奖励和推理之间的联系⬜ 未完成
M882026-11-19整合 · 周四案例迁移把所学迁移到新的金融/Web3/文档场景,比较规则、传统 ML、小模型和 LLM⬜ 未完成
M892026-11-20整合 · 周五下一阶段问题树区分“模型问题”与下一阶段“AI 系统工程问题”⬜ 未完成
M902026-11-21整合 · 周六轻量总结浏览 90 天笔记,写下最重要的 10 个联系、3 个想深入的方向和下一阶段节奏建议⬜ 未完成