纳德拉:应当假定所有 AI 模型都已被「攻陷」
摘要
微软 CEO 萨提亚·纳德拉在 X 发长文,主张不能再把 AI 模型当作只能接受或拒绝其建议的「嵌套黑箱」,应假定所有模型都已被攻陷,并建立可隔离、可观测、可留痕的透明治理体系。
核心要点
- 纳德拉的判断前提是:应当假定所有 AI 模型都已被「攻陷」(compromised),而非默认其可信
- 他明确反对把 AI 视作「一组嵌套的黑箱」,即人类只能被动接受或拒绝其建议与行动
- 他要求模型能够被隔离(contained)、被观测(observed),并留下「防篡改的人类可读证据」
- 其建议中与业界已有共识重合的部分包括:及时的事件披露、独立审计、可验证数据以及隔离机制
- 原文指出,在「隔离」这一点上他的立场似乎与业界其他人有所不同,但摘录在此处截断
原文佐证
- Nadella says we can no longer accept a world where AI is treated as a "set of nested black boxes" whose advice and actions we simply accept or reject.
- He calls for building a more transparent system where models can be contained, observed, and leaves behind "tamper-proof human readable evidence."
- Many of his recommendations align with what we've heard from others in the industry: timely incident disclosure, independent audits, verifiable data, and containment.
AI 洞察
这标志着头部厂商对 AI 安全的叙事从「让模型更对齐」转向「默认模型不可信、以工程手段兜底」——即把 AI 当作需要隔离与取证的基础设施,而非需要信任的顾问。若这一「假定已被攻陷」的默认前提被监管与采购体系采纳,模型透明度、审计接口和日志留痕会从加分项变成准入门槛,中小模型厂商的合规成本将显著上升。对个人而言,这意味着未来与 AI 交互的证据链会被默认留存,使用 AI 的隐私与责任边界将被重新划定。