Signal YCurated AI News
更新于 11/5 20:4061 个信源

Sam Altman 在联合国安理会就人工智能发表讲话

通用 AI9/23 20:00OpenAI News查看原文 ↗
摘要

OpenAI CEO Sam Altman 在联合国安理会发表讲话,主张 AI 既可能带来创造力与发现的新复兴,也可能造成动荡,因此必须让强大系统处于人类控制之下,并通过国际合作推进 AI 安全。

核心要点
  • 讲话场合为联合国安理会,主体是 OpenAI CEO Sam Altman,文首标注日期为 9 月 23 日,属全球治理层级的多边场合发声
  • Altman 的核心比喻是二选一:AI 要么更像'创造力与发现的新文艺复兴',要么更像'动荡与失序的新工业革命'
  • 他明确的价值立场是 AI 应当为人服务,而非'为了让机器转得更快而转动曲柄',也不应把人变成巨型机器里的齿轮
  • 他把风险具体化为三点:AI 系统可能比制度跑得更快、把权力过度集中于少数人手里、做出人类不再理解或控制的决定
  • 他点名'递归自我改进'(recursive self-improvement):当构建 AI 的过程愈发自动化,AI 进步速度可能急剧加快,控制问题因此更加紧迫
原文佐证
  • AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.
  • AI should be built for people, not simply to turn the crank of the machines faster for their own sake.
  • That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement.
AI 洞察
头部实验室选择在多边安全治理的最高舞台直接发声,本质是争夺 AI 安全规则的叙事权与规则制定权:当各国监管碎片化时,联合国成为换取'国际共识'合法性的场所。但讲话停留在价值框架层面,没有给出红线、评测机制或可核查承诺,更像是在更强模型(乃至递归自我改进)到来前提前铺设治理与舆论缓冲。这也意味着 AI 安全议题正从技术圈正式进入地缘政治议程,后续可能外溢为模型准入、跨境部署与合规审查的现实门槛。