Hugging Face CEO:我的“末日概率”接近于零
摘要
Hugging Face 首席执行官 Clément Delangue 在访谈中表示,他给出的 AI“末日概率”接近于零,并认为风险主要来自少数闭门开发的机构,而非开源。
核心要点
- Delangue 明确表示自己的 p(doom)(AI 导致人类灭绝或灾难的主观概率)'接近于零',与业界不少安全派人士的高风险判断形成对照
- 他把风险来源指向'少数玩家在闭门之后开发',即集中化、不透明的开发模式,而非模型的开放可得性
- 该判断直接支撑 Hugging Face 作为开源模型与数据集托管平台的核心立场:开放是降低风险的手段而非风险本身
- 原话以'少数玩家闭门开发'解释'为何需要开源 AI',把开源论述从效率/成本议题拉到安全治理议题上
- 这是 WIRED 记者 Will Knight 的访谈内容,属于人物观点而非新的技术或数据发布
原文佐证
- “Most of the risk is actually created by a couple of players building behind closed doors,” Clément Delangue said of the need for open source AI.
AI 洞察
这是开源阵营对'AI 安全'话语权的一次正面争夺:把风险从'模型被释放'重新定义为'权力被集中',等于把安全议题从技术属性转向治理结构。若这一框架被政策圈接受,监管重心可能从限制开放权重转向要求闭源实验室提高透明度,从而改写开源与闭源两派的合规成本。