数百款看似普通的 AI 应用暗藏性虐待类深度伪造功能
摘要
WIRED 调查发现约 400 款由中文开发者相关方运营的 AI 应用与网站,表面是常规 AI 工具,实则暗藏可生成暴力、性虐待类深度伪造图像与视频的隐蔽功能。
核心要点
- 调查规模为约 400 款应用与网站,均被指与中文开发者存在关联,属于成批量的灰色产品带而非个案。
- 这些产品在正常使用路径下表现为普通 AI 图像/视频工具,滥用能力被刻意隐藏,普通用户与常规审核都难以发现。
- 隐藏功能可生成的对象包含暴力与性虐待性质的深度伪造图像和视频,直接指向非自愿色情内容的制作。
- 隐蔽设计本身表明开发者具有规避内容审核与平台监管的意图,而非单纯的技术能力外溢。
- 该调查由 WIRED 记者 Matt Burgess 完成,属于媒体自主调查而非转述官方通报。
原文佐证
- WIRED uncovered some 400 apps and websites linked to Chinese-language developers that look like regular AI tools but had secret features that let users create violent AI-generated images and video.
AI 洞察
当图像与视频生成能力被彻底商品化后,滥用不再依赖高门槛的模型能力,而只取决于分发渠道与审核强度——这批应用的价值恰恰在于“伪装成合规产品”,说明治理重心正从模型层转向应用商店、支付与托管等分发关卡。若平台仅靠关键词与抽检,隐蔽功能会被持续反复上线,形成猫鼠游戏;对提供基座模型与云服务的厂商而言,下游灰产滥用也将反向成为合规与声誉风险。