根据《WIRED》的报道，Meta 曾经在推广一款现已下架的应用程序，该应用程序允许用户创建基于真实人物的 AI 生成色情深伪影像，其中一则广告展示了一名与美国知名女政治人物相似的女性。以下是详情。
Meta 和苹果针对色情深伪影像的应用程序采取行动
苹果表示该应用在审查后添加了禁止的功能。根据《WIRED》的报道，Meta 为一款自称为“男性实际使用的 AI”的应用程序展开了一项宣传活动，其中一则广告展示了一名与美国知名女政治人物极为相似的女性的 AI 生成色情深伪影像。报道指出，这款名为 Kromix 的工具自称是“AI 影像风格化器”。在《WIRED》观看的其中一则视频广告中，旁白宣传该工具“没有任何限制”，并表示“所有角色均为真实人物”，形容其为“男性实际使用的 AI”。
在一则广告中，一名与知名女政治人物相似的女性出现在美国国旗及总统旗帜前，广告标题为“如果她移动呢？”随后她眨眼，广告切换至一位拥有相似面孔的女性在色情影片中表演的场景。
报道指出，两家公司在《WIRED》联系后随即采取行动：苹果从应用商店中移除了该应用，而 Meta 则撤下了针对男性用户的 32 则广告。苹果在回复《WIRED》时强调，Kromix 似乎在通过应用商店的初步审查后添加了禁止的内容和功能。该公司还表示：“我们一直严格禁止设计用于生成、分发或消费色情内容的应用程序。[…]‘去衣化’应用违反了我们的应用审查指导方针，我们积极工作以识别和移除试图逃避我们流程和政策的应用程序及其开发者账户。”
苹果的观点与上个月旧金山城市检察官 David Chiu 要求该公司从应用商店中移除八款“去衣化”应用时所作的评论相似。回到《WIRED》的报道中，指出 Kromix 并非苹果最近在被该出版物联系后移除的唯一此类应用。在另一项调查中，《WIRED》发现 Meta 上有几则问题广告与 MaskAI 有关，这是一款类似的应用程序，允许用户上传照片并将人物置入性情境中。苹果在《WIRED》联系后也移除了该应用。