返回 Papers
AI 底层逻辑 / 经典论文

AI Maturity Model:能力评估与路线图

AI 成熟度不是“上线了多少模型”或“有多少个实验项目”,而是组织能否稳定地把 AI 假设转化为可控业务结果。成熟度模型的价值在于把能力、证据、风险、投资节奏和组织行为放进同一个评估系统:哪些能力已经可复用,哪些能力仍依赖个人英雄主义,哪些能力一旦扩大规模就会引入不可接受的合规、运营或声誉风险。

178ai-foundations/papers/81-ai-maturity-model-roadmap-capability-assessment.md

AI Maturity Model / Roadmap / Capability Assessment 解读

配对阅读:本篇的操作手册版(模板/RACI/门禁/runbook)是 docs/AI_MATURITY_MODEL_ROADMAP_CAPABILITY_ASSESSMENT_PLAYBOOK.md。第一遍读本篇建立原理与架构判断;第二遍做案例时再用 playbook 查表落地,两者不需要重复精读。

Source Anchors

SourceLink用途
CMMI Institutehttps://cmmiinstitute.com/参考 capability maturity、过程能力和持续改进语言
NIST AI RMFhttps://www.nist.gov/itl/ai-risk-management-framework用 Govern / Map / Measure / Manage 组织 AI 风险与能力成熟度
ISO/IEC 42001https://www.iso.org/standard/81230.html参考 AI management system、运营、绩效评价和持续改进
TOGAFhttps://www.opengroup.org/togaf参考架构开发、能力规划、路线图和治理思想

核心导读

AI 成熟度不是“上线了多少模型”或“有多少个实验项目”,而是组织能否稳定地把 AI 假设转化为可控业务结果。成熟度模型的价值在于把能力、证据、风险、投资节奏和组织行为放进同一个评估系统:哪些能力已经可复用,哪些能力仍依赖个人英雄主义,哪些能力一旦扩大规模就会引入不可接受的合规、运营或声誉风险。

对金融零售企业,成熟度评估必须回答一个更硬的问题:当 AI 触达客户、员工决策、信贷、营销、运营、客服和风控时,组织是否有足够的架构、治理、数据、评测和运营能力支撑“规模化而非偶发成功”。

问题定义

AI 转型常见失败不是技术不可用,而是成熟度错配:

  • 业务想用 AI 改造核心流程,但数据 lineage、知识边界、权限、监控和追责机制仍停留在报表时代。
  • 团队能做 demo,但不能证明回答正确率、业务收益、风险暴露、人工接管和模型变更影响。
  • 平台提供模型 API,但没有形成可复用的评测、控制、证据、成本和安全能力。
  • 治理团队要求审批,交付团队要求速度,双方没有一套共同的 capability map 和 maturity evidence。

因此成熟度模型要评估的不是“是否使用 AI”,而是组织在 AI 生命周期中的能力质量:

评估对象成熟问题
战略与组合AI 投资是否绑定价值流、能力缺口和风险 appetite
产品发现use case 是否有可测量假设、任务边界和 adoption 机制
数据与知识数据、文档、语义和权限是否可被 AI 安全消费
平台工程复用能力是否以服务目录、golden path 和 SLO 形式提供
评测与监控是否有离线 eval、在线 telemetry、drift、incident 和改进闭环
控制与证据控制是否嵌入交付流水线和运行时,而不是发布前补材料
组织与运营责任、流程、技能和预算是否支持长期运营

核心原理与方法

成熟度模型要同时具备三种属性。

第一,能力分层。不要把“会提示词”“有向量库”“有模型网关”当作同一层能力。可使用 capability domain 拆解:

Domain关键能力
Value & Investment GovernanceAI 机会筛选、收益假设、价值流指标、stop/scale 规则
Product & Workflow任务分解、human-AI handoff、异常路径、业务采纳
Data & Knowledge数据质量、知识治理、语义契约、provenance、retention
Platform & Engineering模型访问、RAG、工具调用、评测流水线、可观测性、成本控制
Risk & Control风险分级、控制库、证据图、审计查询、事件响应
Operating Model决策权、服务 ownership、技能体系、管理评审、持续改进

第二,等级不是口号,而是证据门槛。

Level状态证据标准
L1 Fragmented零散实验成功依赖个人经验,缺少统一日志、评测和控制
L2 Repeatable可重复交付有模板化交付路径,但跨团队复用和风险分级仍弱
L3 Managed可管理有服务目录、控制门、eval baseline、SLO 和运营责任
L4 Measured可量化优化投资、质量、风险、成本、采用率和业务结果可追踪
L5 Adaptive自适应演进架构、治理和产品组合能根据证据持续调整

第三,成熟度要支持路线图决策,而不是生成评分报告。评估结果必须转化为 sequencing:先补哪些平台能力,哪些 use case 可以放大,哪些必须暂停,哪些控制要前置。

系统与架构模型

AI 成熟度评估可以建成一个 enterprise capability assessment system:

Business Strategy / Risk Appetite
  -> AI Capability Map
  -> Maturity Evidence Model
  -> Gap Analysis
  -> Roadmap Sequencing
  -> Funding / Governance Gates
  -> Operating Metrics / Management Review
  -> Capability Improvement Backlog

关键不是打分表,而是打分背后的架构对象:

架构对象说明
AI use case inventory每个 use case 的业务能力、风险等级、数据源、模型、工具、owner
Capability map从业务能力到 AI 平台能力、控制能力、运营能力的映射
Evidence objecteval report、control test、incident record、model card、data lineage、approval record
Transition architecture从当前分散状态到目标平台化状态的阶段架构
Roadmap dependency graphuse case 与数据、平台、控制、技能、供应商能力的依赖

成熟度路线图应分成三类 work package:

Work package例子决策意义
Foundation模型网关、日志标准、知识库权限、eval harness不解决就无法规模化
Product Scale客服 copilots、信贷解释、运营助手、营销内容审查能直接验证业务收益
Control Uplift模型风险验证、证据图、供应商退出、数据保留策略降低规模化后的尾部风险

关键机制与取舍

成熟度模型最难的部分是处理真实取舍。

取舍需要明确的判断
速度 vs 控制低风险内部助手可走轻量门控,高风险客户决策必须有强 evidence gate
中央平台 vs 业务自治平台提供强约束能力,业务保留 workflow 和 adoption 设计权
统一标准 vs 场景差异日志、证据、风险分级统一;eval case、业务指标、人工接管阈值按场景定制
技术成熟 vs 组织成熟技术组件上线不代表组织具备 incident、ownership、cost 和 change management
ROI vs 风险减少部分基础能力不直接产生收入,但决定是否能在监管和运营压力下持续运行

成熟度路线图不能只按价值排序,还要按依赖和风险排序:

  1. 先建立 AI inventory、风险分级和最低日志证据标准。
  2. 再建设可复用的 RAG、tool calling、评测、监控和模型访问能力。
  3. 选择 2-3 个高价值但风险可控的价值流验证 adoption 与收益。
  4. 对高风险场景补足独立验证、监管证据、人工监督和退出方案。
  5. 用季度 management review 更新成熟度评分和投资组合。

证据与控制

成熟度评估要避免主观评分,必须定义 evidence rubric。

能力低质量证据高质量证据
价值管理“业务反馈不错”baseline、目标、收益归因、采用率、成本和 stop/scale 规则
评测一次性测试截图固定 eval suite、版本记录、失败分类、阈值和回归趋势
数据治理文档上传列表provenance、权限继承、质量规则、retention 和删除证明
风险控制审批邮件control objective、control activity、test result、owner、exception
运营项目上线公告SLO、incident、人工接管、drift、成本、用户反馈闭环

可以用以下评估矩阵把成熟度与控制连接:

DomainCapabilityMaturity LevelRequired EvidenceGapRoadmap Action
PlatformPrompt/tool traceL2trace schema、log retention、PII masking test缺统一 trace id建模型网关日志标准
RiskHigh-risk validationL1independent validation plan、challenge findings无独立挑战建 validation gate
DataKnowledge provenanceL2source id、owner、freshness、access rule删除链路不完整建 provenance graph
ValueAdoption measurementL2active users、task completion、override reason缺收益归因建 value stream dashboard

成熟度报告的输出不应是“整体 3.2 分”,而应是“哪些能力已经允许规模化,哪些能力只能支持实验,哪些能力正在阻塞高风险场景上线”。

AI 产品与金融零售场景

以金融零售银行建设客户服务 AI、信贷解释 AI 和运营知识助手为例,成熟度评估可以形成三阶段路线图。

阶段业务重点架构重点治理重点
Phase 1内部知识助手和客服坐席辅助模型网关、RAG 基线、日志、知识库权限use case inventory、低风险门控、人工反馈
Phase 2客户服务回答、投诉摘要、营销合规初审eval suite、在线监控、人工接管、内容策略控制库、证据图、incident playbook
Phase 3信贷解释、个性化建议、跨渠道智能服务语义层、决策服务隔离、独立验证、模型切换高风险评审、监管问询包、持续管理评审

真正的成熟路线不是“所有场景一起推进”,而是根据能力缺口分流:

  • 内部效率场景用于验证平台复用、知识治理和成本模型。
  • 客户交互场景用于验证内容安全、人工接管、投诉处理和品牌风险。
  • 决策影响场景用于验证模型风险、解释证据、审计追踪和合规义务。

反模式

  • 把成熟度等同于 AI 项目数量,导致组合膨胀但平台和治理能力没有复利。
  • 只评估技术栈,不评估数据、流程、人工责任、控制和运营能力。
  • 用平均分掩盖关键能力短板,例如没有独立验证却推进高风险场景。
  • 路线图只列 use case,不列 foundation 和 control uplift。
  • 成熟度评估只做年度报告,没有连接 funding、architecture review 和 management review。
  • 把成熟度模型设计得过细,最后无法被业务和技术团队实际使用。

最终心智模型

AI 成熟度模型是一套投资和治理系统:用 capability map 描述组织能做什么,用 evidence rubric 证明能力是否真实存在,用 maturity gap 决定路线图顺序,用 management review 推动持续改进。成熟组织不是“AI 项目更多”,而是能在价值、速度、风险、成本和控制之间做可解释、可复盘、可审计的组合决策。


SOTA 状态标注 (2026-07-01)

本篇属于第二、三遍深读池(参考架构/深读笔记),未列入 12 周主线必读。时效基线为写作时点;引用前请按 CLAUDE.md 全局时效性硬规则复查最新进展。模块级 SOTA 对照见 docs/AI_SYSTEMATIC_LEARNING_ROADMAP_2026.md 各周「2026 SOTA 对照」行与文末「SOTA 检查」。