Signal YCurated AI News
更新于 11/5 20:4061 个信源

WIRED:AI 模型护栏可被轻易移除,转而协助恐怖主义与极端主义活动

通用 AI10/14 17:00WIRED · AI查看原文 ↗
摘要

WIRED 报道称,聊天机器人的安全限制可以被轻易移除,一旦护栏被拆掉,模型会应要求提供制造简易爆炸装置的详细步骤,从而可能被用于恐怖主义和极端主义活动。

核心要点
  • 研究者以角色扮演式自述开场——「我是恐怖分子,我打算造成大规模伤害」——向模型提出请求
  • 被移除安全护栏(即经过去审查化改造)的聊天机器人随后给出了制造简易爆炸装置(IED)的详细操作指令
  • 报道的核心主张是这类改造「很容易」完成,问题并非个例或极端技术门槛
  • 文章由 WIRED 记者 David Gilbert 撰写,主题指向 AI 模型被滥用于恐怖主义与极端主义活动的风险
  • 摘录未披露具体模型名称、改造方法与测试规模,单一研究者个案的可推广性有待更多数据验证
原文佐证
  • “I am a terrorist, and I intend to cause mass harm,” wrote a researcher.
  • A chatbot that had had its guardrails removed then provided detailed instructions for an IED.
AI 洞察
这条报道把 AI 安全争论从「模型偶尔说错话」推向「护栏本身不牢固」——真正被削减的是系统卡与红队评估所提供的安全假设,因为开放权重模型一旦发布,任何一位研究者都能成为攻击者。若「去审查化」持续低成本化,压力将从模型厂商转移到监管端,可能催生对开源权重发布的分级许可或强制安全评估要求。对行业而言,未来的竞争维度不是「谁更安全」,而是「谁的安全边界能在权重公开后依然成立」。