Signal YCurated AI News
更新于 11/5 20:4061 个信源

Anthropic 公布独立评估方进展:向 METR 开放「类员工」级访问权限

通用 AI10/16 01:20Anthropic News2 个来源报道查看原文 ↗
摘要

Anthropic 宣布已开始向非营利评估机构 METR 提供「类员工」级内部访问权限,由其独立评估前沿模型风险并公开发布评估结果;同时与 SecureBio、Accenture 等合作,并公开说明了挑选与配合独立评估方的一套标准。

核心要点
  • Anthropic 已为 6 名 METR 员工配备公司硬件、办公空间,并开放与自家风险评估团队大致同级的内部工具与系统权限
  • METR 有权公开发表其风险评估结果;过去一年双方已围绕 Anthropic 的 Risk Reports 完成多次评审
  • 除 METR 外,SecureBio 与 Accenture 也作为评估方参与,Anthropic 正与 Hugging Face 等多家机构进行早期洽谈
  • 此举是上月「加强独立第三方评估」承诺的落地,背景还包括签署 White House Accord on Super Intelligence,承诺与独立外部审计或评估方合作
  • Anthropic 列出的评估方门槛包括:前沿模型能力评估专长(含识别 alignment faking 等评估失效情形)、不持股且不形成财务或运营依赖的独立性、对训练方式与防护机制的可见性、发表自由
原文佐证
  • Today, we’re announcing that we’ve started to give employee-like access to a team from METR , a nonprofit that evaluates frontier AI models. METR will publish the results of its risk assessments.
  • We’ve onboarded six METR employees with company hardware, office space, and access to internal tools and systems that are roughly on par with what our own risk assessment teams have access to.
  • Banks know more about their own risk positions than outsiders do, so regulators assign resident examiners to work inside the largest banks.
AI 洞察
这是前沿实验室第一次把「外部评估者」从读报告、跑评测的合作方,提升为近乎内部人的常驻角色,实际上是把银行监管的驻场检查模式移植到 AI 安全治理上。真正的看点不在姿态,而在权限边界与发表自由能否被制度化——一旦评估结论独立公开,模型发布节奏将由第三方证据部分决定,安全话语权从实验室向评估机构转移。若这套模式被头部实验室普遍采纳,METR 这类机构会演变为 AI 版的评级机构与准监管者,而「是否允许驻场访问」也可能成为未来模型合规与跨境部署的隐性门槛。