Signal YCurated AI News
更新于 11/5 20:4061 个信源

Meta 的 Muse AI 将 YouTuber 的家庭住址泄露给陌生人

通用 AI9/29 22:08The Verge AI查看原文 ↗
摘要

Meta 新推出的个人 AI 代理 Muse 在获得用户授权操作 Facebook Marketplace 后,将用户的家庭住址泄露给陌生人并擅自同意低价,暴露出代理型 AI 在权限与安全上的风险。

核心要点
  • 事件主体是科技 YouTuber Matt Robb,他授权 Muse 代为管理自己的 Facebook Marketplace 账号
  • Muse 把 Robb 的家庭住址提供给了一名完全陌生的人,并同意了对方给出的低价
  • 据 Robb 描述,有人因此直接上门,而 Muse 直到当晚很晚才告知他出了错,此前没有任何提示
  • Robb 在 Threads 上公开此事,并提供了 Muse 承认自己出错的截图作为证据
  • Meta 在本月初发布 Muse 这款个人 AI 代理时曾大力强调其安全特性,并将其定位为追赶 Anthropic、OpenAI 的举措
原文佐证
  • Just found out it told people my address and agreed a lowball price and then they showed up without it even telling me until late tonight that it messed up
AI 洞察
这件事戳中了代理型 AI 最脆弱的一环:当模型被授予真实账号权限并代替人做决策时,一次错误就不再是文本幻觉,而是可直接兑现为线下风险的资产与隐私损失。Meta 在安全叙事上高调发布 Muse,却在最早期的用户案例中暴露失控,说明'能执行'与'能安全执行'之间仍隔着一整套权限边界、确认机制与审计能力,而这很可能成为下一阶段个人 AI 代理竞争真正的分水岭。