Facebook和Instagram允许女演员詹娜·奥尔特加(Jenna Ortega)十几岁时的模糊深度假裸照为一款应用做广告,该应用允许用户用人工智能创建任何人的假裸照。
据美国全国广播公司新闻报道,这款名为Perky AI的应用程序已经从苹果应用商店下架,上个月在这两个平台上投放了至少11个广告,其中显示了一张16岁的奥特加似乎袒胸露体的模糊照片。
但是这位“星期三”明星的照片是假的。
这些广告展示了该应用程序的用户如何提供“不穿衣服”之类的提示来制作真人的假裸体。
据该电视台报道,广告为人工智能提示提供的其他建议包括“乳胶服装”和“蝙蝠侠内衣”。
3
Perky AI每周收费7.99美元,12周收费29.99美元。该公司在广告中称,它可以根据用户的要求创建“NSFW”,意思是“不适合工作”的图像。
3
在NBC新闻联系到这两个社交媒体平台的母公司meta后,该公司暂停了Perk应用的页面。
在该账户被封之前,自9月以来,这款人工智能应用在该平台上投放了260多条不同的广告,其中30条此前被meta暂停。
据该电视台报道,其中一则以现年21岁的奥特加为主题的深度模仿广告在被撤下之前,在Instagram上的浏览量超过了2600次。
据NBC新闻报道,另一则Perky广告展示了一张经过处理和模糊的歌手塞布丽娜·卡彭特(Sabrina Carpenter)的照片,并声称使用人工智能来展示她不穿衣服的样子。
这些令人不安的广告是人工智能制造的网上女孩和女性深度假冒产品日益严重的问题的一部分。数码制作的儿童色情作品是最糟糕的案例之一,还有来自伤心的前任的假复仇色情作品。
meta在一份声明中表示,该社交媒体公司“严格禁止儿童裸体、儿童性内容以及提供人工智能生成的未经同意的裸体图像的服务。”
3
meta发言人莱恩·丹尼尔斯告诉《华盛顿邮报》:“虽然这款应用在各个应用商店中仍然可以广泛使用,但我们已经删除了这些广告及其背后的账户。”
奥尔特加的代表没有立即回应置评请求。
苹果公司还从其应用商店中删除了Perky应用程序,因为它违反了“公开的性或色情内容”的政策。