AI Conduct Risk：适当性与销售护栏架构
AI conduct risk 不是普通 hallucination 风险。它关注 AI 如何影响客户选择、产品推荐、销售话术、费用解释、投诉处理、困难客户对待和员工激励。当 AI 参与排序、推荐、next best action、销售草稿或客户承诺时，系统必须控制的不只是事实准确性，还包括适当性、利益冲突、披露、脆弱客户保护、禁止性 claim、升级和补救。
AI Conduct Risk / Suitability / Sales Guardrails Architecture 解读
配对阅读：本篇的操作手册版（模板/RACI/门禁/runbook）是
docs/AI_CONDUCT_RISK_SUITABILITY_SALES_GUARDRAILS_PLAYBOOK.md。第一遍读本篇建立原理与架构判断；第二遍做案例时再用 playbook 查表落地，两者不需要重复精读。
Source Anchors
| Source | Link | 用途 |
|---|---|---|
| SEC Regulation Best Interest | https://www.sec.gov/regulation-best-interest | 参考 broker-dealer 对零售投资者推荐的 best interest、disclosure、care、conflict、compliance 义务 |
| FINRA Rule 2111 Suitability | https://www.finra.org/rules-guidance/rulebooks/finra-rules/2111 | 参考 reasonable-basis、customer-specific、quantitative suitability 的控制思想 |
| FINRA Regulation Best Interest | https://www.finra.org/rules-guidance/key-topics/regulation-best-interest | 参考 FINRA 对 Reg BI、Form CRS、检查和 member readiness 的资源集合 |
| CFPB Circulars / Guidance Index | https://www.consumerfinance.gov/compliance/circulars/ | 参考 CFPB 对 consumer financial protection 的 circulars、bulletins、guidance 入口 |
| NIST AI RMF | https://www.nist.gov/itl/ai-risk-management-framework | 参考 Govern、Map、Measure、Manage 的 AI 风险治理结构 |
| 重要 nuance: |
Not all banks are broker-dealers. Reg BI and FINRA suitability rules do not automatically apply to every banking, insurance, credit-card, deposit or retail finance flow. But their conduct-risk concepts are highly reusable: know the customer context, know the product risk, control the recommendation, disclose limitations, manage conflicts, keep evidence and monitor outcomes.
核心导读
AI conduct risk 不是普通 hallucination 风险。它关注 AI 如何影响客户选择、产品推荐、销售话术、费用解释、投诉处理、困难客户对待和员工激励。当 AI 参与排序、推荐、next best action、销售草稿或客户承诺时，系统必须控制的不只是事实准确性，还包括适当性、利益冲突、披露、脆弱客户保护、禁止性 claim、升级和补救。
金融零售 AI 产品如果只优化 conversion、AHT、NPS 或员工效率，会很容易把商业激励放大成不公平或不适当的客户结果。Conduct guardrails 必须嵌入推荐前、生成中、发送前、事后监控和投诉闭环。
问题定义
AI 可能在这些场景中引入 conduct risk：
- 推荐投资产品、储蓄产品、信用卡、贷款、保险 rider 或再融资方案。
- 给 relationship manager、branch banker、agent、collector 生成 next best action。
- 解释产品费用、风险、资格、优惠、罚息、退保、赎回或锁定期。
- 处理投诉、争议、困难客户、老人或弱势客户。
- 将 generic education 包装成 personalized advice。
- 根据客户行为或脆弱状态推送更高收益但更高风险的产品。
- 为员工生成看似合规但遗漏 disclosure 或夸大利益的话术。
风险点在于：客户可能把教育内容当成建议；员工可能把 AI 草稿当成合规批准；推荐可能 technically eligible 但不适合客户目标、风险承受能力、流动性需求或财务能力；交叉销售可能利用客户脆弱状态。
核心原理/方法
Conduct control 要先识别 AI 对客户决策链的影响程度：
| 影响层级 | 示例 | 控制要求 |
|---|---|---|
| Education | 解释产品概念和一般风险 | approved content、禁止个性化建议、清晰边界 |
| Comparison | 对比产品费用、收益、限制 | 数据来源、口径一致、完整 disclosure |
| Recommendation | 根据客户情况排序或建议产品 | suitability/eligibility gate、冲突管理、人类授权 |
| Advice / regulated action | 个性化买卖、替换、申请或退出建议 | 牌照/授权、强审查、完整证据 |
| Complaint / hardship handling | 处理投诉、困难客户、争议和补救 | 公平对待、升级、记录、禁止 defensive automation |
Conduct policy 要把以下对象结构化：
| 对象 | 说明 |
|---|---|
| Customer context | 年龄、目标、风险偏好、财务能力、流动性需求、脆弱状态、投诉状态 |
| Product profile | 风险、费用、锁定期、资格、限制、冲突、适合/不适合人群 |
| Allowed claims | 已批准收益、费用、资格、风险、服务和流程说明 |
| Forbidden claims | 保本、保证收益、无风险、监管批准暗示、未批准优惠、误导性比较 |
| Disclosure | 需要何时、以何种方式、和哪类输出一起展示 |
| Conflict rule | 员工激励、campaign quota、库存压力、产品佣金、渠道偏好 |
| Escalation | licensed advisor、complaint team、hardship team、fraud specialist、human review |
系统/架构模型
Customer Context Service
-> Product / Offer Risk Catalog
-> Conduct Policy Engine
-> Approved Content & Claim Library
-> LLM / Sales Assistant
-> Claim Scanner & Suitability Gate
-> Disclosure / Handoff Service
-> Evidence Ledger
-> Surveillance / Complaint Feedback
关键组件：
| 组件 | 职责 |
|---|---|
| Customer context service | 提供适当性、偏好、脆弱状态、投诉、hardship、consent 和关系信息 |
| Product risk catalog | 记录产品风险、费用、资格、限制、冲突、disclosure 和禁止 claim |
| Conduct policy engine | 判断 intent、客户状态、产品风险和输出类型是否允许 |
| Approved content service | 提供已审查话术、claim、FAQ、disclosure、模板和版本 |
| LLM assistant | 只能在 policy 和 approved content 边界内生成草稿或解释 |
| Claim scanner | 检测 forbidden claim、遗漏 disclosure、过度个性化、冲突性表述 |
| Handoff service | 将高风险、投诉、脆弱客户或 regulated advice 升级给有权人员 |
| Evidence ledger | 记录客户上下文、产品规则、policy decision、输出、审批和发送版本 |
| Surveillance layer | 监控投诉、销售结果、override、客户损害和员工/渠道集中度 |
设计重点是让 LLM 不单独判断适当性。LLM 可以生成语言，但 eligibility、suitability、conflict 和 disclosure 应由外部 policy decision point 控制。
关键机制与取舍
| 机制 | 取舍 |
|---|---|
| 个性化 vs 不当建议 | 个性化提高相关性，但越接近推荐或建议，越需要客户上下文、适当性和证据 |
| Conversion KPI vs fair outcome | 销售效率指标必须与投诉率、suitability pass、escalation quality 和 remediation 指标平衡 |
| Approved content vs 生成灵活性 | 纯模板安全但体验差；自由生成体验好但风险高。可采用 approved claim + controlled generation |
| 员工辅助 vs 客户直出 | 员工辅助仍有风险，但可加人类判断；客户直出需要更强 gate 和 disclosure |
| 保守阻断 vs 业务可用 | 过度阻断会降低采用；风险分层和 intent classification 可以保持低风险场景可用 |
| 事前控制 vs 事后 surveillance | 事前控制防损害；事后监控发现激励扭曲、segment harm 和话术演化 |
Conduct 架构必须处理商业激励。只靠模型安全过滤器不能发现 quota pressure、product conflict、vulnerable customer exploitation 或投诉语境下的不公平处理。
证据与控制
Conduct evidence 要能重建“为什么这个客户在这个时点收到这个建议或话术”：
| 证据对象 | 关键字段 |
|---|---|
| Intent classification | education/comparison/recommendation/advice/complaint/hardship |
| Customer context snapshot | 适用的客户状态、偏好、风险、脆弱状态、投诉和授权信息 |
| Product rule snapshot | 产品版本、费用、风险、资格、限制、disclosure、conflict |
| Policy decision | allow/deny/escalate、reason code、policy version、threshold |
| Output record | generated draft、approved claim references、disclosure、final sent copy、hash |
| Human approval | reviewer、authority、changes、reason、evidence viewed |
| Surveillance signal | complaint、sales pattern、override、conversion skew、segment harm、remediation |
控制指标包括：forbidden-claim rate、missing-disclosure rate、recommendation escalation rate、vulnerable-customer handoff quality、complaint-to-sale ratio、suitability failure、employee override concentration、campaign conflict alerts。
金融零售/AI产品场景
财富会谈助手：AI 帮 RM 准备会谈摘要和讨论主题。系统可允许教育性内容和已批准产品说明，但个性化买卖建议必须经过 suitability gate 和有权人员处理。
信用卡交叉销售：AI 根据交易行为推荐卡产品。必须检查客户偏好、费用、资格、信用影响、脆弱状态和禁止 claim，不能只按转化率排序。
贷款再融资建议：AI 生成“可节省月供”的话术时，应同时展示总成本、期限变化、费用、风险和适用条件，避免片面强调短期利益。
催收和困难客户：AI 生成沟通脚本必须识别 hardship、投诉、医疗/失业等脆弱信号，优先升级或提供合规路径，而不是最大化回收压力。
反模式
- 只加免责声明，把 suitability、conflict 和 disclosure 控制交给客户自己理解。
- LLM 直接根据客户资料生成个性化推荐，没有外部 policy gate。
- 成功指标只有 conversion、AHT 或销售额，没有 fair outcome 和 complaint surveillance。
- Approved content 版本不可追踪，无法证明客户看到的是哪版 claim。
- 员工可以覆盖 conduct gate，但没有理由、权限和二次复核。
- 对投诉或 hardship 语境仍使用销售 next best action。
- 事后只能看最终发送文本，无法重建客户上下文、产品规则和模型配置。
最终心智模型
Conduct guardrails 的核心是把商业激励、客户上下文和产品风险放进 AI 控制平面。AI 生成的语言越自然，越需要系统性证明它没有把教育伪装成建议、把资格伪装成适合、把销售目标伪装成客户利益。
成熟架构能在推荐、话术、披露、升级和监控之间形成闭环：事前有 policy gate，生成有 approved claims，发送前有扫描和审批，事后有 surveillance 和补救。否则，AI 销售助手会把传统销售行为风险以更高速度、更大规模复制出去。
SOTA 状态标注 (2026-07-01)
本篇属于第二、三遍深读池（参考架构/深读笔记），未列入 12 周主线必读。时效基线为写作时点；引用前请按 CLAUDE.md 全局时效性硬规则复查最新进展。模块级 SOTA 对照见 docs/AI_SYSTEMATIC_LEARNING_ROADMAP_2026.md 各周「2026 SOTA 对照」行与文末「SOTA 检查」。