Recommender Systems:YouTube DNN、Wide & Deep、Two-Tower
推荐系统不是“猜你喜欢”的展示模块,而是企业 AI decisioning layer 的一种形态。它把用户、上下文、候选库存、目标函数、策略约束和反馈闭环组合在一起,决定下一步应该展示、建议、触达、升级或拦截什么。
Recommender Systems 解读
本篇为经典论文精读(历史回顾/经典打底定位),机制正文以原论文(YouTube DNN 2016 / Wide & Deep 2016)为锚点;最新进展见文末「SOTA 检查」。
Source Anchors
| Source | Link | 用途 |
|---|---|---|
| Google Recommendation Systems course | https://developers.google.com/machine-learning/recommendation | 建立推荐系统从 candidate generation 到 scoring 的整体框架(访问日期: 2026-07-01) |
| TensorFlow Recommenders | https://www.tensorflow.org/recommenders | 理解 retrieval/ranking 多任务推荐建模的工程抽象(访问日期: 2026-07-01) |
| YouTube DNN paper | https://research.google/pubs/deep-neural-networks-for-youtube-recommendations/ | 理解候选生成和排序两阶段架构(论文 2016-09, RecSys 2016) |
| Wide & Deep paper | https://research.google/pubs/wide-deep-learning-for-recommender-systems/ | 理解 memorization + generalization 的产品价值(论文 2016-06, arXiv 1606.07792) |
| NIST AI RMF | https://www.nist.gov/itl/ai-risk-management-framework | 把个性化系统纳入风险治理、监控和影响管理(访问日期: 2026-07-01) |
核心导读
推荐系统不是“猜你喜欢”的展示模块,而是企业 AI decisioning layer 的一种形态。它把用户、上下文、候选库存、目标函数、策略约束和反馈闭环组合在一起,决定下一步应该展示、建议、触达、升级或拦截什么。
在金融零售场景中,推荐系统的真正难点不在“模型能否预测点击”,而在是否能把 eligibility、suitability、consent、risk、fairness、frequency cap、解释和申诉路径放进同一个可验证架构。模型分数只能提出候选顺序,不能替代客户权益边界和业务责任。
问题定义
推荐问题可以形式化为:
given user/context/session
and a large inventory of actions/items/content/products/cases
choose an ordered slate
maximizing long-term value
under eligibility, risk, policy, consent, and UX constraints
金融零售里它常以不同名字出现:
| 场景 | 推荐系统抽象 | 关键风险 |
|---|---|---|
| Next-best-action | 在候选行动中排序 | 将营销、服务、建议和正式决策混在一起 |
| 财富/保险推荐 | 对产品、教育内容、顾问动作排序 | 适当性、建议边界、误导销售 |
| 信贷预审批入口 | 对资格路径、补件路径、产品入口排序 | 把推荐误用为审批结论 |
| 客服引导 | 对答案、脚本、下一步动作排序 | 错误承诺、敏感信息泄露、投诉升级失败 |
| 欺诈/AML 优先级 | 对告警、案件、证据排序 | 排序成为事实判断,缺少复核证据 |
因此,推荐系统的产品问题不是“给用户推荐什么”,而是“在什么业务边界内分配注意力和行动机会”。被排在前面的内容会获得更多曝光、更多点击和更多后续数据,系统会进一步学习这些反馈,形成自我强化。
核心原理
生产推荐通常采用多阶段结构,而不是单个大模型端到端解决所有问题:
inventory
-> eligibility and policy pre-filter
-> candidate generation
-> retrieval
-> ranking
-> re-ranking / policy layer
-> rendering and explanation
-> exposure, feedback, outcome logging
-> offline training and online monitoring
Candidate generation 先解决规模问题。从百万级内容、产品、行动或案件中找出几百到几千个可能相关候选。来源可以是协同过滤、内容相似、业务规则、热门趋势、人工 curated 列表、风险优先级或 embedding retrieval。
Two-Tower retrieval 的核心结构是:
user tower: user profile + behavior + context -> user embedding
item tower: item/product/action features -> item embedding
ANN search: nearest candidates by embedding similarity
它适合大规模低延迟召回,但点积相似度不能表达所有交叉特征,也不能自然处理权限、适当性和合规边界。向量相似只能说明“像”,不能说明“应该推荐”。
Ranking 对候选进行精排,使用更多上下文和交叉特征。YouTube DNN 的重要启发是候选生成和排序职责分离: 召回侧重覆盖和延迟,排序侧重精细目标和上下文,线上 serving latency 是架构约束,而不是部署后的性能调优项。
Wide & Deep 的机制价值在于把 memorization 和 generalization 合在一起:
| 能力 | Wide | Deep |
|---|---|---|
| 记住已知有效组合 | 强 | 弱 |
| 泛化到新组合 | 弱 | 强 |
| 策略可解释性 | 相对强 | 相对弱 |
| 长尾和冷启动 | 依赖特征工程 | 可利用语义和表示 |
| 监管可审计性 | 更容易落证据 | 需要额外解释和监控 |
在高监管场景中,这不是“传统模型 vs 深度模型”的选择,而是规则记忆、表示泛化和策略控制的组合设计。
系统/架构模型
一个可上线的推荐平台至少包含以下控制面:
Customer / Employee / Agent Context
-> identity, consent, purpose, eligibility
-> feature service and real-time context
-> candidate service
-> rules candidates
-> two-tower retrieval
-> campaign inventory
-> operational queue
-> ranking service
-> policy re-ranking service
-> suitability
-> fairness
-> frequency cap
-> risk limit
-> product/channel constraints
-> decision output
-> display
-> recommend
-> draft
-> escalate
-> suppress
-> exposure, action, complaint, override, outcome logs
关键边界是排序前过滤与排序后控制的分工:
- 不具备资格、权限或同意基础的候选应在召回前或召回时排除。
- 多样性、频控、库存、渠道、客户保护和排序稳定性通常在重排层处理。
- 高风险动作不能由推荐分数直接触发,应进入决策服务、人工任务或正式审批流程。
- 面向客户或员工展示的推荐理由必须来自真实特征、政策或证据,不能由生成模型临场编写。
推荐系统还需要完整日志。曝光日志比点击日志更重要,因为没有曝光就没有反馈;如果只记录点击,系统无法区分“不喜欢”和“从未看到”。
关键机制与取舍
| 机制 | 价值 | 取舍 |
|---|---|---|
| Candidate generation | 扩大候选覆盖,降低排序输入规模 | 召回失败后,排序模型无法补救 |
| Two-Tower retrieval | 低延迟、大规模、可复用 embedding | 交叉特征弱,解释困难,权限需外部控制 |
| Wide & Deep | 兼顾已知规则和泛化能力 | 需要清晰特征治理,否则规则和表示互相污染 |
| Re-ranking | 注入策略、风险、公平和 UX 约束 | 若规则过多,可能遮蔽目标函数并降低可解释性 |
| Exploration | 发现新内容、新用户偏好和长尾机会 | 需要限制探索流量,避免伤害客户权益 |
| Feedback loop | 持续学习真实行为 | 容易放大位置偏差、热门偏差和短期主义 |
| Multi-objective optimization | 平衡客户结果、业务价值和风险 | 指标权重需要治理,不能只由实验自动决定 |
常见指标陷阱:
- CTR 高不等于客户满意,可能只是标题诱导或高频营销。
- Conversion 高不等于合规销售,可能掩盖适当性问题。
- 短期收入高不等于长期价值,可能推高投诉、退订和信任损失。
- 总体指标提升不代表所有客户群体受益,少数群体和高风险产品需要单独切片。
证据与控制
推荐系统上线证据应覆盖模型、策略、客户影响和运行稳定性:
| 证据项 | 目的 |
|---|---|
| Candidate inventory register | 证明候选来源、owner、适用范围和禁用条件 |
| Eligibility and consent tests | 证明不合规候选不会进入排序 |
| Exposure log schema | 记录用户实际看到了什么、何时看到、由哪个版本决定 |
| Offline metrics | recall@k、NDCG、MAP、coverage、calibration、slice performance |
| Online metrics | conversion、task success、complaint、opt-out、manual override、policy violation |
| Long-term metrics | 留存、客户结果、复购、风险调整收益、投诉趋势 |
| Policy simulation | 上线前估算重排规则影响哪些人群和候选 |
| Decision trace | 记录 feature snapshot、model version、policy version、rank position、reason code |
| Rollback plan | 指标、投诉或违规触发时可降级到规则、热门项或人工队列 |
治理重点不是让每次推荐都能用一句自然语言解释,而是能证明推荐来自允许的数据、允许的候选、允许的目标和允许的策略,并且可以复盘某次排序为什么发生。
AI产品/金融零售场景
Next-best-action 平台:
Customer 360
-> consent and eligibility filter
-> candidate action generation
-> retrieval/rules candidates
-> ranking model
-> suitability and risk re-ranking
-> channel decision
-> employee/customer UX
-> exposure, complaint, outcome feedback
财富和保险推荐中,系统可以推荐教育内容、比较工具、预约顾问或下一步了解路径,但不能把“相似用户购买过”作为适当性依据。适当性需要客户目标、风险承受能力、期限、产品复杂度、费用和披露证据。
信贷场景中,推荐可以排序产品入口、补件提醒、教育内容和还款辅助路径,但正式信贷决定需要独立的 decision authority、reason code、公平借贷评估、adverse action 边界和模型风险管理。
客服和 Agent 场景中,推荐对象不只是内容,也包括下一步工具、话术、升级路径和证据请求。模型可以建议,workflow 和 policy engine 决定是否可以执行。
欺诈和 AML 中,推荐系统表现为案件优先级。排序可以帮助分配分析资源,但不能把高分案件直接等同于客户有罪;证据路径、复核流程和偏差监控必须保留。
反模式
- 把推荐系统定义为“提高 CTR 的模型”,没有决策边界和客户影响定义。
- 候选池混入不合规、不适当或未授权项目,期待排序模型自动避开。
- 在 RAG 或 Agent 场景中先召回所有内容,再让模型不要泄露。
- 只记录点击,不记录曝光、排序位置、候选全集和策略版本。
- 用生成模型写推荐理由,但理由与真实排序特征和政策无关。
- 只做总体 A/B,不看投诉、退订、手动覆盖、少数群体和高风险产品切片。
- 把业务 campaign 当成候选注入,却没有频控、资格检查和冲突解决。
- 排序目标频繁变化,但没有目标函数版本、实验证据和回滚机制。
最终心智模型
推荐系统是“候选库存 + 排序目标 + 策略约束 + 反馈证据”的组合系统。候选决定系统能看见什么,排序决定注意力如何分配,重排决定哪些业务和客户保护不能被模型覆盖,反馈决定系统未来会强化什么。
在金融零售中,推荐分数不是行动许可。正确的心智模型是: 模型提出优先级,策略定义边界,决策服务选择动作,日志保存证据,监控纠正反馈闭环。
SOTA 检查 (2026-07-01)
- 多阶段架构(召回→排序→重排)与 Two-Tower + ANN 召回在 2026 年仍是绝大多数生产推荐系统的现役结构:Red Hat Developer 2026-01 的工程文章仍以 Two-Tower 为大规模检索的标准讲法,其低延迟、可复用 embedding 的定位没有被取代。本篇的两阶段职责分离结论(YouTube DNN 2016)依然成立。
- 但范式正在向「生成式推荐 (Generative Recommendation)」转移:Meta HSTU("Actions Speak Louder than Words",arXiv 2402.17152,2024-02,ICML 2024)把召回和排序统一重构为生成式序列转导任务,NDCG 最高提升 65.8%、生产 A/B 线上参与度 +12.4%,并首次验证推荐系统具备 NLP 式 scaling laws(模型规模至 1.5T 参数)。这是对 DLRM/Wide & Deep 一代「特征工程 + 判别式排序」范式的最强替代信号。
- 语义 ID 路线成为生成式召回的主流表示:Google DeepMind TIGER(arXiv 2305.05065,2023-05)用 RQ-VAE 把 item 量化为 semantic ID 并自回归生成候选,直接挑战本篇 Two-Tower 点积召回;Spotify Research 2025-09 发布了 Semantic IDs 用于生成式搜索与推荐的落地研究。
- 端到端生成式推荐已进入超大规模生产:快手 OneRec(技术报告 arXiv 2506.13695,2025-06)以 Encoder-Decoder 生成架构全量部署于快手主站与极速版,承接约 25% QPS,总观看时长 +1.68%,算力利用率从 11% 提至 28.8%;OneRec-V2(arXiv 2508.20900,2025-08)继续优化算力分配;2026-01 开源 OneRec-Foundation(1.7B/8B)与 RecIF-Bench。Google/Meituan/Netflix/字节/阿里等均在跟进 GR 范式。
- 本篇不随版本过时的框架性结论:eligibility/consent 前置过滤、策略重排层(suitability/fairness/频控)、曝光日志优先于点击日志、决策 trace 与回滚、"模型提出优先级、策略定义边界" 的责任划分——这些控制面在生成式范式下同样必须外置:生成式召回和语义 ID 一样只表达"像",不表达"应该推荐",金融零售的合规边界仍不能交给模型分数或生成概率。