Signal YCurated AI News
更新于 11/5 20:4061 个信源

Anthropic 向外部 AI 监督机构开放“类员工”权限

通用 AI10/19 00:25Ars Technica · AI查看原文 ↗
摘要

Anthropic 向外部评估机构 METR 开放“类员工”级别权限,允许其团队常驻公司内部、访问硬件与内部系统,以独立评估模型风险;这是实验室回应 AI 失控担忧的具体承诺。

核心要点
  • 获授权方为 METR,一家曾与 OpenAI、Anthropic、Google、Meta 等头部实验室合作的非营利评估机构
  • METR 的团队直接嵌入 Anthropic 办公室办公,而非仅在外部提交评测请求
  • 访问范围包括 Anthropic 的硬件与内部系统,超出常规的 API 或黑盒测试
  • 该举措是 Anthropic 此前“加强安全防护”承诺的兑现
  • 文章指出,扩大第三方评估者的角色,是各实验室为应对 AI 在经济、网络安全和人类层面风险而提出的主要具体步骤之一
原文佐证
  • Anthropic has granted external evaluators “employee-like access” to assess the risks of its models
  • METR, a nonprofit that has worked with leading labs including OpenAI, Anthropic, Google and Meta, now has a team embedded in the Claude maker’s office with access to its hardware and internal systems.
AI 洞察
这标志着前沿实验室的安全评估正从“自我声明”转向“受监督的白盒访问”,谁能提供可验证的外部审计,谁就可能在监管与公众信任上占先。但访问权由被评估方主动授予,评估者的独立性边界仍模糊——真正的考验是 METR 能否公开不受否决的结论。若此类安排被监管采纳为标准,模型评测将从跑分竞赛转向治理基础设施。