红队测试 OpenAI 内部智能体监控系统
摘要
METR 与 Redwood Research 公布对 OpenAI 内部“失准监控系统”为期三周的红队演练:外部研究员获得罕见的深度访问权,发现若干新型漏洞,并给出内部智能体推理流量被监控比例的量化估算。
核心要点
- 演练于 7 月 21 日至 8 月 11 日进行,METR 与 Redwood Research 各一名员工参与,最终产出一份 61 页内部报告,仅与 OpenAI 研究员和安全人员共享,对外只发布简短高层级博文。
- 访问深度罕见:二人可接触 OpenAI 内部代码库、失准监控的提示词与配置细节及内部文档,并在不离场、全程陪同、使用 OpenAI 设备的条件下,访谈了监控、安全系统与安保团队约 12 名研究员和工程师。
- 覆盖率估算:演练时约 75%–94% 的、来自能力不低于 GPT-5.5 的模型的内部 Responses API 智能体流量“可被监控”,但两个方向都存在较大不确定性;内部 Codex 智能体所用的那部分流量中,99.2% 可被监控。
- 覆盖缺口:演练开始时 RL 训练 rollout 未被监控系统覆盖(尽管 3–6 月间曾有部分被监控);未监控上下文压缩(compaction)事件,估计导致 2026 年 5–7 月间约 10% 的合规内部 Codex 流量未被监控。
- 研究人员在 7 月 21 日及之前的异步内部失准监控系统中发现了多个新型漏洞,评估重点之一是智能体原则上能否禁用或颠覆监控系统本身。
原文佐证
- The METR and Redwood employees discovered a number of novel vulnerabilities in the asynchronous internal misalignment monitoring system as it existed on and before July 21st.
- METR, Redwood Research, and OpenAI designed this exercise as a pilot for giving external researchers deep access to internal infrastructure, not to provide robust public transparency about OpenAI’s monitoring systems.
AI 洞察
这是前沿实验室首次允许外部机构携深度权限进入内部安全基础设施,标志着 AI 安全治理从“自我声明”向“第三方可验证”迈出实质一步——尽管这次公开的只是冰山一角。对 OpenAI 而言,愿意暴露内部监控的真实覆盖率与漏洞,本身是竞争叙事的一部分:安全能力正被当作可审计资产来经营。更值得关注的是估算口径暴露的结构性盲区(RL rollout、compaction 事件),这类“监控之外的推理”可能成为未来智能体失控风险的主要来源,也会推动行业形成外部红队与访问权授予的规范模板。