返回 Papers
AI 底层逻辑 / 经典论文

Recommender Systems:YouTube DNN、Wide & Deep、Two-Tower

推荐系统不是“猜你喜欢”的展示模块,而是企业 AI decisioning layer 的一种形态。它把用户、上下文、候选库存、目标函数、策略约束和反馈闭环组合在一起,决定下一步应该展示、建议、触达、升级或拦截什么。

212ai-foundations/papers/35-recommender-systems-youtube-wide-deep-two-tower.md

Recommender Systems 解读

本篇为经典论文精读(历史回顾/经典打底定位),机制正文以原论文(YouTube DNN 2016 / Wide & Deep 2016)为锚点;最新进展见文末「SOTA 检查」。

Source Anchors

SourceLink用途
Google Recommendation Systems coursehttps://developers.google.com/machine-learning/recommendation建立推荐系统从 candidate generation 到 scoring 的整体框架(访问日期: 2026-07-01)
TensorFlow Recommendershttps://www.tensorflow.org/recommenders理解 retrieval/ranking 多任务推荐建模的工程抽象(访问日期: 2026-07-01)
YouTube DNN paperhttps://research.google/pubs/deep-neural-networks-for-youtube-recommendations/理解候选生成和排序两阶段架构(论文 2016-09, RecSys 2016)
Wide & Deep paperhttps://research.google/pubs/wide-deep-learning-for-recommender-systems/理解 memorization + generalization 的产品价值(论文 2016-06, arXiv 1606.07792)
NIST AI RMFhttps://www.nist.gov/itl/ai-risk-management-framework把个性化系统纳入风险治理、监控和影响管理(访问日期: 2026-07-01)

核心导读

推荐系统不是“猜你喜欢”的展示模块,而是企业 AI decisioning layer 的一种形态。它把用户、上下文、候选库存、目标函数、策略约束和反馈闭环组合在一起,决定下一步应该展示、建议、触达、升级或拦截什么。

在金融零售场景中,推荐系统的真正难点不在“模型能否预测点击”,而在是否能把 eligibility、suitability、consent、risk、fairness、frequency cap、解释和申诉路径放进同一个可验证架构。模型分数只能提出候选顺序,不能替代客户权益边界和业务责任。

问题定义

推荐问题可以形式化为:

given user/context/session
  and a large inventory of actions/items/content/products/cases
  choose an ordered slate
  maximizing long-term value
  under eligibility, risk, policy, consent, and UX constraints

金融零售里它常以不同名字出现:

场景推荐系统抽象关键风险
Next-best-action在候选行动中排序将营销、服务、建议和正式决策混在一起
财富/保险推荐对产品、教育内容、顾问动作排序适当性、建议边界、误导销售
信贷预审批入口对资格路径、补件路径、产品入口排序把推荐误用为审批结论
客服引导对答案、脚本、下一步动作排序错误承诺、敏感信息泄露、投诉升级失败
欺诈/AML 优先级对告警、案件、证据排序排序成为事实判断,缺少复核证据

因此,推荐系统的产品问题不是“给用户推荐什么”,而是“在什么业务边界内分配注意力和行动机会”。被排在前面的内容会获得更多曝光、更多点击和更多后续数据,系统会进一步学习这些反馈,形成自我强化。

核心原理

生产推荐通常采用多阶段结构,而不是单个大模型端到端解决所有问题:

inventory
  -> eligibility and policy pre-filter
  -> candidate generation
  -> retrieval
  -> ranking
  -> re-ranking / policy layer
  -> rendering and explanation
  -> exposure, feedback, outcome logging
  -> offline training and online monitoring

Candidate generation 先解决规模问题。从百万级内容、产品、行动或案件中找出几百到几千个可能相关候选。来源可以是协同过滤、内容相似、业务规则、热门趋势、人工 curated 列表、风险优先级或 embedding retrieval。

Two-Tower retrieval 的核心结构是:

user tower: user profile + behavior + context -> user embedding
item tower: item/product/action features -> item embedding
ANN search: nearest candidates by embedding similarity

它适合大规模低延迟召回,但点积相似度不能表达所有交叉特征,也不能自然处理权限、适当性和合规边界。向量相似只能说明“像”,不能说明“应该推荐”。

Ranking 对候选进行精排,使用更多上下文和交叉特征。YouTube DNN 的重要启发是候选生成和排序职责分离: 召回侧重覆盖和延迟,排序侧重精细目标和上下文,线上 serving latency 是架构约束,而不是部署后的性能调优项。

Wide & Deep 的机制价值在于把 memorization 和 generalization 合在一起:

能力WideDeep
记住已知有效组合
泛化到新组合
策略可解释性相对强相对弱
长尾和冷启动依赖特征工程可利用语义和表示
监管可审计性更容易落证据需要额外解释和监控

在高监管场景中,这不是“传统模型 vs 深度模型”的选择,而是规则记忆、表示泛化和策略控制的组合设计。

系统/架构模型

一个可上线的推荐平台至少包含以下控制面:

Customer / Employee / Agent Context
  -> identity, consent, purpose, eligibility
  -> feature service and real-time context
  -> candidate service
       -> rules candidates
       -> two-tower retrieval
       -> campaign inventory
       -> operational queue
  -> ranking service
  -> policy re-ranking service
       -> suitability
       -> fairness
       -> frequency cap
       -> risk limit
       -> product/channel constraints
  -> decision output
       -> display
       -> recommend
       -> draft
       -> escalate
       -> suppress
  -> exposure, action, complaint, override, outcome logs

关键边界是排序前过滤与排序后控制的分工:

  • 不具备资格、权限或同意基础的候选应在召回前或召回时排除。
  • 多样性、频控、库存、渠道、客户保护和排序稳定性通常在重排层处理。
  • 高风险动作不能由推荐分数直接触发,应进入决策服务、人工任务或正式审批流程。
  • 面向客户或员工展示的推荐理由必须来自真实特征、政策或证据,不能由生成模型临场编写。

推荐系统还需要完整日志。曝光日志比点击日志更重要,因为没有曝光就没有反馈;如果只记录点击,系统无法区分“不喜欢”和“从未看到”。

关键机制与取舍

机制价值取舍
Candidate generation扩大候选覆盖,降低排序输入规模召回失败后,排序模型无法补救
Two-Tower retrieval低延迟、大规模、可复用 embedding交叉特征弱,解释困难,权限需外部控制
Wide & Deep兼顾已知规则和泛化能力需要清晰特征治理,否则规则和表示互相污染
Re-ranking注入策略、风险、公平和 UX 约束若规则过多,可能遮蔽目标函数并降低可解释性
Exploration发现新内容、新用户偏好和长尾机会需要限制探索流量,避免伤害客户权益
Feedback loop持续学习真实行为容易放大位置偏差、热门偏差和短期主义
Multi-objective optimization平衡客户结果、业务价值和风险指标权重需要治理,不能只由实验自动决定

常见指标陷阱:

  • CTR 高不等于客户满意,可能只是标题诱导或高频营销。
  • Conversion 高不等于合规销售,可能掩盖适当性问题。
  • 短期收入高不等于长期价值,可能推高投诉、退订和信任损失。
  • 总体指标提升不代表所有客户群体受益,少数群体和高风险产品需要单独切片。

证据与控制

推荐系统上线证据应覆盖模型、策略、客户影响和运行稳定性:

证据项目的
Candidate inventory register证明候选来源、owner、适用范围和禁用条件
Eligibility and consent tests证明不合规候选不会进入排序
Exposure log schema记录用户实际看到了什么、何时看到、由哪个版本决定
Offline metricsrecall@k、NDCG、MAP、coverage、calibration、slice performance
Online metricsconversion、task success、complaint、opt-out、manual override、policy violation
Long-term metrics留存、客户结果、复购、风险调整收益、投诉趋势
Policy simulation上线前估算重排规则影响哪些人群和候选
Decision trace记录 feature snapshot、model version、policy version、rank position、reason code
Rollback plan指标、投诉或违规触发时可降级到规则、热门项或人工队列

治理重点不是让每次推荐都能用一句自然语言解释,而是能证明推荐来自允许的数据、允许的候选、允许的目标和允许的策略,并且可以复盘某次排序为什么发生。

AI产品/金融零售场景

Next-best-action 平台:

Customer 360
  -> consent and eligibility filter
  -> candidate action generation
  -> retrieval/rules candidates
  -> ranking model
  -> suitability and risk re-ranking
  -> channel decision
  -> employee/customer UX
  -> exposure, complaint, outcome feedback

财富和保险推荐中,系统可以推荐教育内容、比较工具、预约顾问或下一步了解路径,但不能把“相似用户购买过”作为适当性依据。适当性需要客户目标、风险承受能力、期限、产品复杂度、费用和披露证据。

信贷场景中,推荐可以排序产品入口、补件提醒、教育内容和还款辅助路径,但正式信贷决定需要独立的 decision authority、reason code、公平借贷评估、adverse action 边界和模型风险管理。

客服和 Agent 场景中,推荐对象不只是内容,也包括下一步工具、话术、升级路径和证据请求。模型可以建议,workflow 和 policy engine 决定是否可以执行。

欺诈和 AML 中,推荐系统表现为案件优先级。排序可以帮助分配分析资源,但不能把高分案件直接等同于客户有罪;证据路径、复核流程和偏差监控必须保留。

反模式

  • 把推荐系统定义为“提高 CTR 的模型”,没有决策边界和客户影响定义。
  • 候选池混入不合规、不适当或未授权项目,期待排序模型自动避开。
  • 在 RAG 或 Agent 场景中先召回所有内容,再让模型不要泄露。
  • 只记录点击,不记录曝光、排序位置、候选全集和策略版本。
  • 用生成模型写推荐理由,但理由与真实排序特征和政策无关。
  • 只做总体 A/B,不看投诉、退订、手动覆盖、少数群体和高风险产品切片。
  • 把业务 campaign 当成候选注入,却没有频控、资格检查和冲突解决。
  • 排序目标频繁变化,但没有目标函数版本、实验证据和回滚机制。

最终心智模型

推荐系统是“候选库存 + 排序目标 + 策略约束 + 反馈证据”的组合系统。候选决定系统能看见什么,排序决定注意力如何分配,重排决定哪些业务和客户保护不能被模型覆盖,反馈决定系统未来会强化什么。

在金融零售中,推荐分数不是行动许可。正确的心智模型是: 模型提出优先级,策略定义边界,决策服务选择动作,日志保存证据,监控纠正反馈闭环。


SOTA 检查 (2026-07-01)

  • 多阶段架构(召回→排序→重排)与 Two-Tower + ANN 召回在 2026 年仍是绝大多数生产推荐系统的现役结构:Red Hat Developer 2026-01 的工程文章仍以 Two-Tower 为大规模检索的标准讲法,其低延迟、可复用 embedding 的定位没有被取代。本篇的两阶段职责分离结论(YouTube DNN 2016)依然成立。
  • 但范式正在向「生成式推荐 (Generative Recommendation)」转移:Meta HSTU("Actions Speak Louder than Words",arXiv 2402.17152,2024-02,ICML 2024)把召回和排序统一重构为生成式序列转导任务,NDCG 最高提升 65.8%、生产 A/B 线上参与度 +12.4%,并首次验证推荐系统具备 NLP 式 scaling laws(模型规模至 1.5T 参数)。这是对 DLRM/Wide & Deep 一代「特征工程 + 判别式排序」范式的最强替代信号。
  • 语义 ID 路线成为生成式召回的主流表示:Google DeepMind TIGER(arXiv 2305.05065,2023-05)用 RQ-VAE 把 item 量化为 semantic ID 并自回归生成候选,直接挑战本篇 Two-Tower 点积召回;Spotify Research 2025-09 发布了 Semantic IDs 用于生成式搜索与推荐的落地研究。
  • 端到端生成式推荐已进入超大规模生产:快手 OneRec(技术报告 arXiv 2506.13695,2025-06)以 Encoder-Decoder 生成架构全量部署于快手主站与极速版,承接约 25% QPS,总观看时长 +1.68%,算力利用率从 11% 提至 28.8%;OneRec-V2(arXiv 2508.20900,2025-08)继续优化算力分配;2026-01 开源 OneRec-Foundation(1.7B/8B)与 RecIF-Bench。Google/Meituan/Netflix/字节/阿里等均在跟进 GR 范式。
  • 本篇不随版本过时的框架性结论:eligibility/consent 前置过滤、策略重排层(suitability/fairness/频控)、曝光日志优先于点击日志、决策 trace 与回滚、"模型提出优先级、策略定义边界" 的责任划分——这些控制面在生成式范式下同样必须外置:生成式召回和语义 ID 一样只表达"像",不表达"应该推荐",金融零售的合规边界仍不能交给模型分数或生成概率。