Google Earth 的 AI 深度伪造工具仅存活了一天
摘要
Google 因担心 AI 深度伪造滥用，在功能上线仅一天后将其关闭。
核心要点
- Google Earth 于周四推出基于 Nano Banana 2 的 AI 编辑功能，用户可通过文本提示修改卫星图像。
- 数字取证专家 Henk van Ess 故意生成墨西哥边境难民、加沙医院弹坑等敏感图像，展示滥用风险。
- Google 周四回应称生成图像含数字水印，且禁止有害主题；但一天后仍决定彻底关闭该功能。
- 该功能可被视为真实世界 AI 深度伪造工具，引发对卫星图像可信度的担忧。
原文佐证
- Google has shut down Google Earth feature it launched Thursday that allowed users to edit satellite images with text prompts using AI.
- The tool essentially let users create AI deepfakes of the real world using text prompts; Digital Digging 's Henk van Ess, for example, intentionally generated images adding things like refugees near the Mexican border and a bomb crater by a hospital in Gaza.
- On Thursday, Google's initial response to van Ess noted that images generated with Nano Banana 2 in Google Earth included a digital watermark and that the company prevented "image creation on harmful topics."
AI 洞察
这一事件表明，生成式 AI 在真实世界图像编辑中的应用将面临更高滥用风险，即便是带水印也无法阻止恶意用途。科技公司需要建立更快的应急响应机制，并在推出此类功能前进行更严格的安全评估。未来类似工具可能会受到更严格的监管，或采取更多保护措施。