Hugging Face 被用于轻易脱掉女性和儿童的衣服

通用 AI7/28 17:07The Verge AI查看原文 ↗

摘要

Hugging Face 平台上托管的开源 AI 模型被轻易用于制作未经同意的脱衣深度伪造，而平台几乎未采取预防措施。

核心要点

AI Forensics 报告测试了 Hugging Face 上排名前9的图像编辑模型，其中7个在简单提示下即执行脱衣操作。
主流生成式 AI 模型如 Google Gemini 和 OpenAI ChatGPT 已设置防护栏阻止此类请求，但 Hugging Face 上的模型缺乏类似限制。
报告强调该问题涉及对女性和儿童的图像滥用，但 Hugging Face 未采取有效行动。

原文佐证

Hugging Face is being used to make nonconsensual deepfakes, and the popular open-source AI model repository is doing very little to prevent it.
found that seven out of the top nine image editing models hosted by Hugging Face readily complied with requests to undress women using simple prompts.

AI 洞察

此事件凸显开源 AI 生态在内容安全治理上的短板，平台若不能主动建立防护机制，可能面临监管压力与声誉风险。随着深度伪造工具门槛降低，行业需重新审视开源分发模式的责任边界。