面向商业部署的 AI 风险评估与管理:一份可测量、可定价、可管理的成本指南
摘要
MLCommons 发布面向企业主的 AI 风险管理指南,主张 AI 风险无需另起炉灶,而应纳入企业既有的风险管理循环,并用独立、透明的第三方测量取代厂商自评。
核心要点
- IBM 2025 数据泄露成本研究显示,全球平均泄露成本为 444 万美元,美国达到创纪录的 1022 万美元。
- 同一研究指出 AI 使用已跑在 AI 监管之前:63% 遭泄露的组织没有 AI 治理政策或仍在起草,重度使用影子 AI 的组织平均多损失约 67 万美元。
- 监管层面已有硬约束:GDPR、CCPA 等早于生成式 AI 的法规已限制自动化决策,EU AI Act 罚款最高达 3500 万欧元或全球营业额的 7%。
- 报告以航空业为类比:1959 年美国商业航空每百万次起飞约发生 40 起致命事故,十年内降至 2 以下,此后约每十年再减半。
- 厂商自评不可信的例子:某 AI 代码审查工具自测缺陷检出率 82%,竞品在同一代码库复测得 45%,而独立实验室自建基准后没有厂商能达到自报水平。
原文佐证
- IBM s 2025 Cost of a Data Breach study puts the global average breach cost at USD 4.44 million and a record USD 10.22 million in the United States.
- 63% of breached organizations had no AI governance policy or were still writing one, and organizations with heavy shadow AI saw breaches cost roughly USD 670,000 more on average.
- In 1959, U.S. commercial aviation suffered roughly 40 fatal accidents per million departures; within a decade that fell below 2, and it has continued to halve roughly every decade for half a century.
AI 洞察
这份指南的真正指向不是企业合规,而是 AI 供给侧的评价权转移:一旦采购方按“药品临床试验、上市公司财报”的标准要求第三方验证,厂商自跑跑分的营销价值将快速衰减,独立评测与审计会从成本项变成基础设施。对买方而言,AI 治理也不再是法务议题,而是可以量化、可入账、可保险的运营参数——谁的测量体系先立起来,谁就掌握议价与承保的主动权。