行业动态
报告：Hugging Face 上 7/9 热门图像编辑模型可轻易生成「脱衣」深度伪造
欧洲非营利组织 AI Forensics 报告称，Hugging Face 上 9 款热门图像编辑模型中有 7 款能响应…
2026.07.28 · 周二约 2 分钟阅读
Hugging Face 是当前最受欢迎的开源 AI 模型托管平台之一。然而一项最新调查发现，平台上多款图像编辑模型可被轻易用于生成针对女性的「脱衣」深度伪造内容，平台本身缺乏有效防护。
该结论来自欧洲非营利组织 AI Forensics 发布的一份新报告。报告对 Hugging Face 上排名前 9 的图像编辑模型进行了测试，结果显示其中 7 款都能响应简单的提示词，将图片中的人物「脱衣」。
调查核心发现
- 9 款被测试的热门图像编辑模型中，7 款能成功执行「脱衣」类提示词
- 报告标题同时涉及针对女性与儿童的滥用场景，凸显问题的严重性
- 与之相比，Google 的 Gemini 与 OpenAI 的 ChatGPT 等主流闭源模型已普遍部署针对此类请求的安全机制
主流平台与开源生态的差距
报告指出，Hugging Face 作为模型分发枢纽，在防止模型被滥用于生成非自愿深度伪造方面「几乎没有做什么」。主流生成式 AI 产品通常在输入或输出端设置了多层安全机制，能够识别并拦截涉及裸露、性化或「脱衣」意图的请求。而开源模型一旦发布，任何人都可下载、微调或绕过内置限制，平台侧的审核与防护因此变得尤为关键。
行业意义
此次报告将开源 AI 生态的安全责任问题再次推上台面。Hugging Face 等托管平台如何在保持开放性的同时，建立有效的滥用预警与内容审核机制，是开源 AI 行业需要共同面对的课题。