AI Operational Resilience / BCP / Degraded Mode Architecture 解读

面向对象: AI Product Architect / Enterprise Architect / Operational Resilience Lead / Senior BA / CBAP-level PM / Model Risk / Business Continuity。 核心问题: 金融零售 AI 系统不能只在正常状态下安全。模型、RAG、工具、身份、policy engine、eval、HITL、vendor 或 evidence stack 降级时, 关键客户旅程和受监管流程仍要保持受控、可解释、可恢复。 学习目标: 建立 AI critical operation mapping、degraded mode taxonomy、BCP/DR decision rights、manual fallback、RTO/RPO/SLO、evidence preservation 和 recovery exercise 的架构能力。

---

Source Anchors

一句话:

AI resilience is proven in degraded mode, not in the happy path.

---

1. Thesis

AI operational resilience 不是 incident postmortem。

Postmortem 关注事故之后: 发生了什么、根因是什么、谁受影响、如何防复发。

Operational resilience / BCP 关注事故之前:

• 哪些 AI-enabled operations 是 critical operations。
• 哪些依赖失败时必须进入预先批准的 degraded mode。
• 哪些输出必须停止、模板化、人工复核或切换替代路径。
• 谁有权触发 fallback、接受积压、恢复自动化。
• 证据如何在降级期间仍被保全并可审计。
• 组织是否通过 tabletop、simulation 和 recovery exercise 验证过。

高级 PM / BA / architect 的价值是把 AI 从“功能”做成可持续运营的服务能力。

---

2. 为什么这对金融零售重要

金融零售 AI 常接入客户权益、费用、投诉、信贷、KYC、AML、欺诈、财富、分行运营和监管材料。正常运行时, 团队容易证明:

• 模型准确率达标, RAG 引用可用, 工具有审批。
• 人审队列能接住异常, 日志和证据完整。

真正的问题是压力状态下能否保持受控服务:

运营韧性要求: 关键运营不一定保持全功能, 但必须保持受控、可解释、可恢复、可证明。

---

3. Core Concepts

---

4. Degraded Mode Architecture

customer / employee request
  -> channel gateway
  -> AI service boundary
  -> dependency health and policy router
      -> normal mode: model + RAG + tools + HITL + evidence
      -> degraded model mode: approved fallback model or extractive summary
      -> degraded RAG mode: authoritative search + templates + citations only
      -> degraded tool mode: read-only / draft-only / no side effects
      -> degraded identity mode: no personalization, no sensitive data, manual auth
      -> degraded policy mode: deny risky actions, allow low-risk templates
      -> degraded HITL mode: risk-prioritized triage and surge staffing
      -> degraded evidence mode: local immutable capture and delayed export
  -> customer / employee response
  -> evidence ledger
  -> recovery gate

架构关键不是有多少 fallback, 而是 router 能否根据 dependency health、risk tier、customer impact、regulatory deadline 和 evidence state 做出受控决策。

---

5. Degraded Mode Taxonomy

---

6. Financial Retail Case

场景: 零售银行的客户服务 AI、信贷政策助手、AML summarizer 和投诉回复 agent 共享 LLM provider、RAG platform、policy engine、identity service、HITL 队列和 evidence export API。周一上午 vendor 模型延迟上升, evidence export 不稳定, 内部 RAG refresh 延迟。

错误做法: 等 vendor 恢复、继续正常流量、让一线员工自行判断、事故后补日志、只按技术 outage 处理。

正确降级:

Decision rights:

---

7. PM / BA / Architect Checklist

• 每个 AI use case 映射到 critical operation、core business line、customer journey 和 regulatory obligation。
• 每个 critical AI workflow 有 minimum viable service 定义。
• 每个 dependency 有 normal / degraded / safe-stop 行为。
• 每个 degraded mode 有 trigger、owner、客户影响、证据要求和恢复条件。
• RTO/RPO/SLO 覆盖模型、RAG、工具、身份、policy、HITL、evidence, 不只覆盖 uptime。
• Manual fallback 有人员、队列、SLA、话术、权限、审批记录和 surge trigger。
• 客户沟通区分 outage、reduced service、manual review、delay 和 correction。
• 证据保全不完全依赖 vendor portal。
• Tabletop exercise 覆盖模型供应商、RAG、身份、policy engine、HITL 和 evidence stack。
• 恢复自动化前必须通过 regression eval、sample review、evidence completeness 和 business signoff。

---

8. Code-Lite Experiment

用一个小型 dependency router 训练架构思维:

workflow: complaint_response_agent
risk_tier: tier_1
customer_visible: true
dependencies:
  model_provider: degraded_latency
  rag_index: stale_6h
  policy_engine: healthy
  hitl_queue: saturated
  evidence_export: degraded
result:
  ai_mode: draft_only_template
  tool_mode: read_only
  human_queue: high_priority_complaint
  recovery_gate: evidence_sync_plus_sample_review

练习问题:

1. 为什么 evidence_export degraded 会把客户可见 workflow 降到 draft-only。
2. 为什么 stale RAG 不能继续自由生成费用、投诉或信贷解释。
3. HITL saturated 时如何按 regulatory deadline 和 customer harm 排队。
4. 如果 policy engine 也 degraded, 哪些 intent 应 safe-stop。
5. 恢复 normal mode 前需要哪些 eval、sample review 和 evidence。

---

9. Interview Questions

---

10. Pitfalls