返回 Papers
学习计划 Roadmap

AI Model Engineering 90：M01～M90 逐日课程

W1～W12 固定为：周一概念与阅读、周二最小实现、周三引导练习、周四案例与连接、周五一页小结、周六可选探索/补课、周日休息。

209 行ai-model-engineering/AI_MODEL_ENGINEERING_90_CURRICULUM.md

AI Model Engineering 90：M01～M90 逐日课程

周期：2026-08-24 ～ 2026-11-21，共 90 个阶段日 总纲：docs/AI_MODEL_ENGINEERING_90_PLAN.md 状态：当前执行中；M01 尚未完成 启动决定：用户已于 2026-08-23 决定正式启动；课程从 2026-08-24 开始，不再依赖 AISA 配套教材：docs/ai-model-engineering/notes/ 已按 M01～M90 一一生成；网页目录为 /learn/ai-model-engineering/notes 专业课程对照：docs/ai-model-engineering/PROFESSIONAL_COURSE_REFERENCE_MAP.md；按当天问题选读，不并行修完整套外部课程 约束：不求职、不并行执行、不预造结果；唯一进度账本为 docs/daily/AI_MODEL_ENGINEERING_PROGRESS.md；Python 环境和模型选择到 M01 再确认

1. 执行口径

  • W1～W12 固定为：周一概念与阅读、周二最小实现、周三引导练习、周四案例与连接、周五一页小结、周六可选探索/补课、周日休息。
  • 建议每天 2～3 小时；忙碌时优先保留周一、周三、周五，周六可以完全休息。
  • 周二的实现可以是几十行代码、一个手算、一张曲线或一项配置，不要求形成独立项目。
  • W4、W8、W12 的周五做低压力阶段复盘，不评分；不清楚内容只加入 docs/ai-model-engineering/reflections/ 的复习清单。
  • 所有数据使用公开、合成或许可明确的来源；不提交权重、缓存、secret、敏感数据或未授权数据。
  • M85～M90 可以查看全部资料，用于知识整合、案例迁移和下一阶段问题树，不是考试周。
  • 逐日教材是预习输入，不是完成记录；每份教材末尾保留“学后填写区”，只在当天真实学习后补充。

2. W1 · 张量、梯度、autograd（M01～M07）

建议输入：docs/llm/day30-loss-curves-training-dynamics.md、docs/llm/day33-adamw-internals.md、docs/llm/day36-lr-schedule-cosine-wsd.md

Day日期 / 节奏学习内容引导练习轻量产出
M012026-08-24 · 周一概念与阅读确认 Python/CPU/MPS 环境；理解 tensor、计算图、链式法则、backprop 和 optimizer画 parameter→loss→gradient→update 流程环境清单与一张概念图
M022026-08-25 · 周二最小实现不调用 autograd，实现 scalar 计算图或两层网络的反向传播手算一个小例并和代码逐节点对照一个最小实现
M032026-08-26 · 周三引导练习用 PyTorch autograd 重建 M02；MPS 可用时观察 CPU/MPS 差异跟随有限差分示例理解梯度检查一份简短运行记录
M042026-08-27 · 周四案例与连接观察忘记 zero-grad、过大学习率、饱和激活和数据错误的不同症状对比四条 loss/gradient 现象一张症状→可能原因表
M052026-08-28 · 周五一页小结整理计算图、梯度、optimizer、学习率和数值稳定性的关系回看本周最难的一步W1 一页小结
M062026-08-29 · 周六可选探索 / 补课可选：更换网络、激活或 seed；也可只补链式法则任选一项一条新观察即可
M072026-08-30 · 周日休息不安排必修任务——

3. W2 · 概率、经典 ML、校准与决策损失（M08～M14）

建议输入：docs/ai-foundations/papers/54-calibration-conformal-prediction-uncertainty-governance.md、docs/ai-foundations/papers/48-anomaly-detection-isolation-forest-autoencoder-risk-monitoring.md、src/aml/confusionMatrix.ts、src/aml/groundTruthEval.ts

Day日期 / 节奏学习内容引导练习轻量产出
M082026-08-31 · 周一概念与阅读学习基准率、条件概率、混淆矩阵、Brier/ECE、阈值和 abstention手算一个类别不平衡例子一张 score→decision 图
M092026-09-01 · 周二最小实现从零实现 sigmoid、BCE 或小 logistic regression在几条合成 AML 特征上运行一个小模型实现
M102026-09-02 · 周三引导练习比较规则、logistic regression 和小 MLP使用同一小数据和指标观察差异一张 baseline 对比表
M112026-09-03 · 周四案例与连接改变基准率、错误成本或阈值，观察 accuracy 与决策损失的差别画 reliability/cost 小图一个金融决策案例
M122026-09-04 · 周五一页小结整理 discrimination、calibration、threshold 与 business decision解释为何模型分数不是最终决策W2 一页小结
M132026-09-05 · 周六可选探索 / 补课可选：尝试不同成本矩阵、拒答覆盖率或校准方法自选一项一条观察即可
M142026-09-06 · 周日休息不安排必修任务——

4. W3 · Tokenization、Embedding 与表示学习（M15～M21）

建议输入：docs/llm/day27-tokenizer-bpe-sentencepiece-tiktoken.md、docs/ai-foundations/papers/31-embeddings-ann-vector-search-faiss-hnsw.md、src/agent/eval/tokenizer.ts、src/agent/rag/embeddingClient.ts、src/agent/rag/vectorSearch.ts

Day日期 / 节奏学习内容引导练习轻量产出
M152026-09-07 · 周一概念与阅读理解字符、subword、vocab、embedding、similarity 和 representation bias预测缩写、数字和中英混合的 token 化一张表示学习概念图
M162026-09-08 · 周二最小实现跟随现有实现训练一个很小的 byte-level BPE观察 merge 和 vocab 如何形成一个 tokenizer 小例
M172026-09-09 · 周三引导练习比较 lexical、frozen embedding 或小 encoder 中可行的两种路线使用同一组短文本一张表示差异表
M182026-09-10 · 周四案例与连接分析 AML 缩写、中英混合、地址/哈希、近义误命中和 OOD连接 token 成本与下游错误一个边界案例
M192026-09-11 · 周五一页小结整理 text→token→vector→similarity→task 因果链区分语义相似、事实相同和权限相同W3 一页小结
M202026-09-12 · 周六可选探索 / 补课可选：改变 vocab size、normalization 或 metric自选一项一条观察即可
M212026-09-13 · 周日休息不安排必修任务——

5. W4 · Transformer 第一性原理（M22～M28）

建议输入：docs/ai-foundations/papers/01-attention-is-all-you-need.md、docs/llm/day1-transformer-vaswani-revisit.md、docs/llm/day2-scaled-dot-product-multihead-deep-dive.md、src/agent/transformer/transformer.ts、src/agent/__tests__/transformer.test.ts

Day日期 / 节奏学习内容引导练习轻量产出
M222026-09-14 · 周一概念与阅读学习 Q/K/V、scaled dot-product、causal mask、multi-head、residual、normalization 和 FFN手算一个两 token attention一张 Transformer 组件图
M232026-09-15 · 周二最小实现从零实现最小 scaled causal attention检查 shape、mask 和输出一段最小 attention 代码
M242026-09-16 · 周三引导练习跟随现有 TypeScript 实现并映射到 PyTorch tensor 操作对照同一输入的中间张量一份实现映射表
M252026-09-17 · 周四案例与连接观察移除 scale、mask、residual 或 normalization 后的变化分析 causal leak 与训练稳定性一个结构边界案例
M262026-09-18 · 周五一页小结 / 阶段复盘连接 W1 梯度、W2 概率、W3 表示与 W4 Transformer回看四周概念图第一阶段全景图与复习清单
M272026-09-19 · 周六可选探索 / 补课可选：改变 head 数、位置编码或 context；也可补 W1～W4自选一项自选，不要求完成
M282026-09-20 · 周日休息不安排必修任务——

6. W5 · 小语言模型预训练、数据与 scaling（M29～M35）

建议输入：docs/ai-foundations/papers/10-scaling-laws-pretraining-bert-gpt-t5.md、docs/llm/day26-pretraining-overview.md、docs/llm/day28-data-mix-dclm-fineweb.md、docs/llm/day30-loss-curves-training-dynamics.md、docs/llm/PHASE2_LONGREAD_training-paradigms-2025.md

Day日期 / 节奏学习内容引导练习轻量产出
M292026-09-21 · 周一概念与阅读学习 next-token objective、cross-entropy、perplexity、token budget、data mix 和 scaling预测几种训练曲线一张 objective→behavior 图
M302026-09-22 · 周二最小实现组合 W3 tokenizer 与 W4 decoder，完成 tiny LM 的 batch、loss 和短训练 loop先观察单 batch 过拟合一个 tiny training loop
M312026-09-23 · 周三引导练习跟随小数据训练 baseline，查看 train/validation curve、吞吐和内存保存关键配置即可一份训练观察记录
M322026-09-24 · 周四案例与连接只改变数据量、学习率、宽度或领域配比中的一个变量对比两条曲线一个变量影响案例
M332026-09-25 · 周五一页小结整理 data/objective/optimization/curve/behavior 的关系区分欠拟合、过拟合和数据问题W5 一页小结
M342026-09-26 · 周六可选探索 / 补课可选：观察重复数据、数据顺序或小 checkpoint；也可补训练基础自选一项一条观察即可
M352026-09-27 · 周日休息不安排必修任务——

7. W6 · SFT、LoRA/PEFT 与领域适配（M36～M42）

建议输入：docs/ai-foundations/papers/06-lora-peft-adaptation.md、docs/ai/day7-finetuning-lora-qlora.md、docs/ai/day54-hands-on-lora-finetuning.md

Day日期 / 节奏学习内容引导练习轻量产出
M362026-09-28 · 周一概念与阅读比较 prompting、retrieval、linear probe、full fine-tuning 与 LoRA画五种方法改变对象的对比图一张适配方法地图
M372026-09-29 · 周二最小实现为小线性层实现 frozen weight + 低秩 A/B update手算参数量和 forward一个 LoRA 机制小例
M382026-09-30 · 周三引导练习使用 PEFT/MLX-LM 跟随一个本机可行小练习；资源不足时使用模拟对比 prompt-only、frozen、adapter一份适配观察表
M392026-10-01 · 周四案例与连接观察 rank、target module、数据质量、格式或 masking 怎样影响结果分析 loss 下降但任务未改善的情况一个领域适配案例
M402026-10-02 · 周五一页小结整理 low-rank 假设、trainable params、领域质量和遗忘说明 LoRA 改变了什么W6 一页小结
M412026-10-03 · 周六可选探索 / 补课可选：换一个 rank/target module；或补低秩线性代数自选一项一条观察即可
M422026-10-04 · 周日休息不安排必修任务——

8. W7 · Preference、DPO、GRPO/RLVR 与奖励科学（M43～M49）

建议输入：docs/ai-foundations/papers/11-dpo-constitutional-ai-preference-optimization.md、docs/llm/day48-deepseek-r1-grpo.md、docs/llm/day55-dpo-derivation.md、docs/llm/day60-reward-model-hacking.md、src/agent/train/grpo.ts、src/agent/__tests__/train/grpo.test.ts

Day日期 / 节奏学习内容引导练习轻量产出
M432026-10-05 · 周一概念与阅读区分 SFT、reward model、DPO、PPO/GRPO、RLVR 的训练信号画 feedback→reward→behavior 流程一张后训练方法图
M442026-10-06 · 周二最小实现手算或实现 pairwise loss、group-relative advantage 或 reward composition对照现有 GRPO 教学实现一个机制小例
M452026-10-07 · 周三引导练习构造很小的 chosen/rejected 数据，跟随 DPO/pairwise 示例观察 preference 怎样改变输出一份小数据与观察
M462026-10-08 · 周四案例与连接改变正确性、格式、长度或 judge reward，理解 shortcut 和 reward hacking选择两类偏差分析一个奖励设计案例
M472026-10-09 · 周五一页小结整理 SFT→preference→reward→behavior 和 verifier 的关系区分 reward 与真实业务价值W7 一页小结
M482026-10-10 · 周六可选探索 / 补课可选：体验 TRL 小例、更多 reward 组合；或补 DPO/GRPO 数学自选，不要求真实 RL 训练
M492026-10-11 · 周日休息不安排必修任务——

9. W8 · 推理、KV Cache、量化与 serving（M50～M56）

建议输入：docs/ai-foundations/papers/07-inference-optimization-kv-cache-flashattention-speculative.md、docs/ai-foundations/papers/41-knowledge-distillation-small-models-quantization.md、docs/llm/PHASE4_LONGREAD_llm-inference-2026.md、docs/ai/day2-quantization-local-deployment.md、docs/ai/day8-inference-optimization.md

Day日期 / 节奏学习内容引导练习轻量产出
M502026-10-12 · 周一概念与阅读学习 prefill、decode、KV cache、batching、precision、memory bandwidth、TTFT 和 throughput画一次自回归推理数据流一张推理组件图
M512026-10-13 · 周二最小实现在 tiny LM 上实现或跟随最小 cached decode对比 cache/no-cache 输出和内存一个 cache 小例
M522026-10-14 · 周三引导练习对同一小模型观察两种 context/output 或 precision 配置记录运行时间、内存和质量一张小型 benchmark 表
M532026-10-15 · 周四案例与连接分析 batch、context、quantization、cache 和本地后端之间的取舍画质量—内存—速度三角一个设备约束案例
M542026-10-16 · 周五一页小结 / 阶段复盘连接 W5 训练、W6 适配、W7 奖励与 W8 推理回看 W5～W8 四张图第二阶段全景图与复习清单
M552026-10-17 · 周六可选探索 / 补课可选：量化、batch、不同 context 或 MLX/llama.cpp 体验自选一项自选，不要求完整 serving
M562026-10-18 · 周日休息不安排必修任务——

10. W9 · 机制可解释性、推理与 verifier（M57～M63）

建议输入：docs/ai-foundations/papers/22-mechanistic-interpretability-transformer-circuits-sae.md、docs/ai-foundations/papers/26-process-supervision-step-by-step-verification.md、docs/ai-foundations/papers/167-ai-reasoning-budget-test-time-compute-verifier-cascade-architecture.md、docs/llm/PHASE5_LONGREAD_mech-interp-2026.md、docs/llm/day140-test-time-compute-scaling.md

Day日期 / 节奏学习内容引导练习轻量产出
M572026-10-19 · 周一概念与阅读区分 behavior、correlation、mechanism、causal evidence 和 business explanation画证据强度阶梯一张证据类型图
M582026-10-20 · 周二最小实现在 tiny model 上抓取 attention/activation，或跟随一个 replacement/ablation 示例对比原始与干预输出一个最小干预例子
M592026-10-21 · 周三引导练习比较 single pass、self-consistency 或 verifier cascade 中两种路线观察质量、延迟和计算量一张推理路线对比表
M602026-10-22 · 周四案例与连接分析“可视化看似合理但干预不成立”与“解释越级”案例区分内部机制与客户理由一个证据边界案例
M612026-10-23 · 周五一页小结整理 activation、feature、intervention、verifier 和 test-time compute说明不同证据能支持什么W9 一页小结
M622026-10-24 · 周六可选探索 / 补课可选：换一个 activation 位置或 verifier 阈值；也可补 mech-interp 概念自选一项一条观察即可
M632026-10-25 · 周日休息不安排必修任务——

11. W10 · 多模态与文档智能（M64～M70）

建议输入：docs/ai-foundations/papers/32-clip-multimodal-embeddings-product-architecture.md、docs/ai-foundations/papers/137-ai-document-intelligence-unstructured-data-evidence-quality-architecture.md、docs/ai/day10-multimodal-vision-language.md、docs/ai/day57-hands-on-multimodal-app.md

Day日期 / 节奏学习内容引导练习轻量产出
M642026-10-26 · 周一概念与阅读区分 OCR、layout parser、vision encoder、projector、LM 和分层指标画文档智能处理链一张多模态组件图
M652026-10-27 · 周二最小实现生成一个合成表单/账单，并实现 OCR 后字段规则或等价小练习保存已知字段和位置一个无敏感信息 fixture
M662026-10-28 · 周三引导练习比较 OCR+规则、layout-aware 或小 VLM 中可行的两种路线观察字段、关系、坐标和拒答一张路线对比表
M672026-10-29 · 周四案例与连接选择旋转、模糊、遮挡、手写、语言混合或冲突字段中的两类分析错误怎样向后传播一个文档边界案例
M682026-10-30 · 周五一页小结整理 pixels/layout→fields/relations→evidence→decision说明何时传统 pipeline 更合适W10 一页小结
M692026-10-31 · 周六可选探索 / 补课可选：增加一种扰动、体验 VLM；需要恢复时也可完全休息自选一条观察或休息
M702026-11-01 · 周日休息不安排必修任务——

12. W11 · 非 LLM 决策 AI（M71～M77）

建议输入：docs/ai-foundations/papers/34-graph-neural-networks-gnn-fraud-risk-architecture.md、docs/ai-foundations/papers/47-time-series-forecasting-tft-deepar-foundation-models.md、docs/ai-foundations/papers/48-anomaly-detection-isolation-forest-autoencoder-risk-monitoring.md、docs/finance-design/06-hft-risk-science/08-ml-model-lifecycle.md

Day日期 / 节奏学习内容引导练习轻量产出
M712026-11-02 · 周一概念与阅读从交易图异常、时间序列预测或排序中只选一个主题学习该任务的数据结构和 split一张任务结构图
M722026-11-03 · 周二最小实现为所选任务实现规则/统计 baseline 或一个核心计算手算一个小样本一个非 LLM baseline
M732026-11-04 · 周三引导练习跟随一个小神经、图或序列模型在同一数据上观察差异一张模型对比表
M742026-11-05 · 周四案例与连接比较时间/实体/图 split 与错误随机 split，并讨论 LLM 的受限角色分析泄漏和分布变化一个任务选择案例
M752026-11-06 · 周五一页小结整理规则→统计→小模型→LLM 的选择逻辑写出主导、辅助或不进入的条件W11 一页小结
M762026-11-07 · 周六可选探索 / 补课可选：改变一个特征或切分；需要恢复时也可完全休息自选一条观察或休息
M772026-11-08 · 周日休息不安排必修任务——

13. W12 · 可选 Financial Model Lab（M78～M84）

可以从 AML evidence、支付争议证据、文档分类或链上钱包风险中选择一个小场景，并选择 A 分析设计、B 最小比较或 C 兴趣扩展。详细范围见总纲 W12。

Day日期 / 节奏学习内容引导练习轻量产出
M782026-11-09 · 周一概念与阅读选择场景和 A/B/C 范围；整理任务、数据、错误成本、baseline 和候选模型复用 W2/W5/W10/W11 中相关概念一页项目范围说明
M792026-11-10 · 周二最小实现完成最小规则、经典 ML 或小神经模型中的一个核心路径先让一条路径跑通一个小而完整的实现
M802026-11-11 · 周三引导练习按所选范围加入第二种方法、校准、LoRA、VLM 或资源测量中的一项只比较真正关心的问题一张简短观察表
M812026-11-12 · 周四案例与连接观察类别、长度、语言、噪声、OOD 或成本中的两类差异连接模型结果与场景限制一页案例分析
M822026-11-13 · 周五一页小结 / 阶段复盘总结 W9～W12，并回看三次阶段全景图结果可写为支持、反驳或证据不足第三阶段复盘与复习清单
M832026-11-14 · 周六可选探索 / 补课可选：完善一个图、补一个小对照或写项目总结；也可休息自选，不要求整理完整材料自选产出
M842026-11-15 · 周日休息不安排必修任务——

14. M85～M90 · 知识整合与下一阶段准备

这六天用于串联概念、重访笔记和衔接下一阶段，不安排计时或量化考核。

Day日期 / 节奏学习内容轻量产出
M852026-11-16 · 周一知识整合合并 W4、W8、W12 三张阶段图，整理 data→representation→objective→optimization→behavior→inference→decision一张模型工程全景图
M862026-11-17 · 周二阅读回访从 W1～W4 选择一个仍感兴趣的主题，重读笔记或重跑最小实现一份短阅读/运行记录
M872026-11-18 · 周三关系整理从 W5～W8 选择一个主题，补充训练、适配、奖励和推理之间的联系一张关系图
M882026-11-19 · 周四案例迁移把所学迁移到新的金融/Web3/文档场景，比较规则、传统 ML、小模型和 LLM一页模型选择分析
M892026-11-20 · 周五下一阶段问题树区分“模型问题”与下一阶段“AI 系统工程问题”Phase 2 问题树与复习清单
M902026-11-21 · 周六轻量总结浏览 90 天笔记，写下最重要的 10 个联系、3 个想深入的方向和下一阶段节奏建议一页阶段总结；不评分

15. 课程边界

  • M01～M90 的日期和主题是导航，不是打卡压力。
  • 没有运行某个可选模型、后端或 API，不影响对本周概念的学习。
  • 最小实现只用于理解，不需要扩建成生产代码。
  • 实验结果可以不理想；记录观察和不确定性即可，不要求为了得到正向结果反复调参。
  • docs/ai-model-engineering/gates/ 只作为历史兼容目录；新的阶段整理放入 docs/ai-model-engineering/reflections/。