Signal YCurated AI News
更新于 11/5 20:4061 个信源

纳德拉:应当假定所有 AI 模型都已被「攻陷」

通用 AI10/11 06:10The Verge AI查看原文 ↗
摘要

微软 CEO 萨提亚·纳德拉在 X 发长文,主张不能再把 AI 模型当作只能接受或拒绝其建议的「嵌套黑箱」,应假定所有模型都已被攻陷,并建立可隔离、可观测、可留痕的透明治理体系。

核心要点
  • 纳德拉的判断前提是:应当假定所有 AI 模型都已被「攻陷」(compromised),而非默认其可信
  • 他明确反对把 AI 视作「一组嵌套的黑箱」,即人类只能被动接受或拒绝其建议与行动
  • 他要求模型能够被隔离(contained)、被观测(observed),并留下「防篡改的人类可读证据」
  • 其建议中与业界已有共识重合的部分包括:及时的事件披露、独立审计、可验证数据以及隔离机制
  • 原文指出,在「隔离」这一点上他的立场似乎与业界其他人有所不同,但摘录在此处截断
原文佐证
  • Nadella says we can no longer accept a world where AI is treated as a "set of nested black boxes" whose advice and actions we simply accept or reject.
  • He calls for building a more transparent system where models can be contained, observed, and leaves behind "tamper-proof human readable evidence."
  • Many of his recommendations align with what we've heard from others in the industry: timely incident disclosure, independent audits, verifiable data, and containment.
AI 洞察
这标志着头部厂商对 AI 安全的叙事从「让模型更对齐」转向「默认模型不可信、以工程手段兜底」——即把 AI 当作需要隔离与取证的基础设施,而非需要信任的顾问。若这一「假定已被攻陷」的默认前提被监管与采购体系采纳,模型透明度、审计接口和日志留痕会从加分项变成准入门槛,中小模型厂商的合规成本将显著上升。对个人而言,这意味着未来与 AI 交互的证据链会被默认留存,使用 AI 的隐私与责任边界将被重新划定。