AI 研究者发布视频警告:超级智能的危险「与听上去一样危险」
摘要
非营利机构 Palisade Research 在 frominside.ai 上线了一批对十余位 AI 研究者的访谈视频,其中包括 OpenAI、Google、Anthropic 的现任与前任员工,他们公开警告超级智能可能给人类带来灭绝级风险。
核心要点
- 访谈由 Palisade Research 收集并发布,该机构自称是研究 AI 能力与动机的非营利组织,视频集中上线于 frominside.ai
- 受访者共十余人,涵盖 OpenAI、Google、Anthropic 三家头部实验室的现任与前任员工
- 前 OpenAI、Google DeepMind 员工 Geoffrey Irving 在访谈中称,在他看来人类灭绝的概率「约等于抛硬币」
- Google DeepMind 研究科学家 Neel Nanda 给出的估计是「至少 10% 的概率」导致人类灭绝
- 除 Irving 外,还有多位研究者一同警告 AI 可能导致人类灭绝,形成集体性的公开表态
原文佐证
- "The chance of human extinction is about a coin flip, in my view," Geoffrey Irving, a former OpenAI and Google DeepMind employee, said in a new interview.
- Palisade Research, which says it's a nonprofit studying AIs' capabilities and motivations, collected and launched the interviews on frominside.ai .
AI 洞察
一线研究者不再用模糊措辞,而是给出「抛硬币」「至少 10%」这样的具体概率,意味着 AI 灭绝风险正从边缘话题变成主流实验室内部人愿意具名承担的表达。这类视频既是公共教育素材,也可能成为未来监管听证与政策辩论的现成证词,给 OpenAI、Google、Anthropic 带来「自家员工都在警告」的声誉与合规压力。它同时暴露了同一批机构内部安全派与加速派的分裂,这种内部分歧很可能比外部批评更早影响模型发布节奏。