Anthropic 与埃森哲合作开展前沿 AI「嵌入式评估」
摘要
Anthropic 宣布与埃森哲合作开展前沿 AI 的「嵌入式评估」,双方各承诺未来五年至少投入 10 亿美元,让独立评估者以接近员工的权限进入公司内部,监督模型训练、对齐与安全防护。
核心要点
- 合作由埃森哲旗下 AI 专业业务 Faculty 主导,工作内容包括模型评估与红队测试、对齐评估以及模型防护措施测试。
- Anthropic 与埃森哲各自预计在未来五年至少投入 10 亿美元用于建设这一领域的能力,合计规模至少 20 亿美元。
- 与现有外部评估者不同,嵌入式评估者将在 AI 公司内部工作,访问权限可比员工,从而观察训练中模型的成形过程、跟踪构建与部署决策,并直接与员工交流。
- 原文承认目前尚无标准规定嵌入式评估者应获得哪些信息、如何报告发现,也没有成熟的独立评估资助体系。
- Anthropic 将直接资助埃森哲的工作,同时正与 METR 及其他非营利评估机构商谈,以对方自有资金试点嵌入式评估的若干环节。
原文佐证
- Anthropic and Accenture each expect to invest at least $1 billion in building capacity in this area over the next five years.
AI 洞察
这是把「安全承诺」从自我声明推向可验证机制的一步:用制度化的内部访问权换取外部信任,若被其他前沿实验室跟进,可能成为未来 AI 监管的事实模板。它同时会催生一个由咨询巨头与非营利评估机构共同构成的新评估产业,Anthropic 与埃森哲各投 10 亿美元正是为这一市场定锚。但由被评估方直接付费的现状短期难以消除利益冲突质疑,资金池化或政府出资能否落地,决定这套模式是真约束还是公关姿态。