旧金山要求苹果谷歌下架 AI「脱衣」应用

旧金山市检察官 David Chiu 已向苹果与谷歌发出正式函件，要求两家公司在 28 天内下架其应用商店中数十款所谓的「nudify」应用——这类程序可利用 AI 对图片进行数字处理，生成他人的裸露图像。函件警告，若不配合，两家公司可能因违反加州相关法律而面临民事处罚。

背景：加州法律与多次警告

加州法律早已将「明知协助」或「鲁莽教唆」制作非自愿深度伪造色情内容的行为定为犯罪；2025 年，加州还进一步通过法律，允许受害者对第三方协助传播此类内容的平台提起民事诉讼。旧金山市检察官办公室指出，尽管这些法规早已公开，苹果与谷歌仍持续托管相关应用并从中获利。

据 TechCrunch 获得的函件内容显示，两家公司「近一年来一直被告知」其在「为非法购买处理支付」中所扮演的角色，却未采取实质性行动。今年 1 月与 4 月，科技透明项目（Tech Transparency Project, TTP）曾两次发布报告并致函苹果与谷歌，指出其应用商店中存在「数十款应用」以付费方式出售非自愿亲密图像（NCII），并批评两家公司主动「引导」用户接触此类应用，称它们是「将真人转化为性化图像的 AI 工具传播的关键参与者」。

涉事应用与指控细节

Chiu 在接受 Wired 采访时表示，两家公司很可能已从这些应用中赚取「数百万美元」的平台费用。本次函件的法律依据指向加州关于非自愿亲密图像传播的相关规定，旧金山市方面强调，苹果与谷歌有责任「主动且持续地」防止性虐待内容的传播，而不仅仅在收到投诉后才被动响应。

苹果与谷歌的回应

苹果发言人在回应 TechCrunch 时表示，App Store 早已禁止 nudify 类应用上架，并指出：「我们已经下架了其中三款应用，并正在终止其开发者的账号。另外还有四款应用正在沟通中，需在期限内整改政策违规问题，否则也将被下架。」

谷歌发言人则表示，Chiu 函件中提及的五款 Play Store 应用「均已被暂停」。发言人补充称：「当我们收到违规报告后会展开调查并迅速采取行动。针对这些应用，我们已暂停数百款违规应用，并对商店中类似『nudify』的相关搜索词进行了限制。」

后续影响

旧金山方面要求苹果与谷歌在收到函件后 28 天内给予答复与整改反馈。尽管两家公司在声明中均强调已采取行动，但此次来自市级检察官的正式法律施压，在 AI 应用治理领域仍具有标志性意义——它意味着 AI 生成内容的滥用问题正从平台自律层面逐步走向行政与司法层面的强制约束。