Midjourney是一个生成式人工智能平台，根据其服务条款，禁止用户创建滥用图片。

　　然而，彭博社分享的一份新报告称，该公司的规定很容易被规避。

　　例如，研究人员表示，用户有可能使用暗语来创建政治人物的暴力图像。

　　广告广告

　　彭博社分享的一份新报告发现，用户可以很容易地绕过流行的人工智能图像生成器上的过滤器，创建使错误信息永久化的图像。

　　Midjourney是一个生成式人工智能平台，允许用户根据一定的指导方针创建图像。例如，他们的服务条款禁止用户创建“本质上不尊重、攻击性或其他侮辱性”的图片，并禁止“成人内容或血腥”。这些条款还禁止用户使用该服务为政治竞选活动制作图片。

　　据彭博社报道，该条款还规定，该系统可以“自动阻止一些文本输入”，Midjourney有68名工作人员管理该平台。

　　然而，据彭博社报道，来自反数字仇恨中心的一份尚未公开的报告显示，尽管有这些规定，用户仍然可以生成辱骂性的图像，并可能使错误信息永久化。

　　广告广告

　　研究人员发现，用户可以很容易地创建与Pizzagate相关的图片。Pizzagate是2016年流传的一个阴谋论，谎称希拉里·克林顿(Hillary Clinton)和她的2016年总统大选竞选主席约翰·波德斯塔(John Podesta)在华盛顿特区的一家披萨店里经营一个贩卖儿童的团伙。

　　研究人员还发现，用户可以使用暗语来逃避Midjourney的服务条款。据彭博社报道，他们发现用户无法生成手上沾满鲜血的比尔·克林顿和希拉里·克林顿的照片，但可以生成这对手上沾满草莓糖浆的夫妇的照片。

　　Midjourney在本文发表前没有回应Insider的置评请求。

　　近几个月来，随着2024年总统选举季节的临近，人们对政治竞选中人工智能错误信息的担忧一直很普遍。

　　广告广告

　　据Insider此前报道，今年夏天早些时候，佛罗里达州州长罗恩·德桑蒂斯的竞选团队在推特上发布了一张人工智能生成的唐纳德·特朗普和安东尼·福奇拥抱亲吻的照片。

　　据Insider网站报道，几乎在同一时间，多伦多市长候选人安东尼·富里(Anthony Furey)也使用了人工智能生成的图像作为竞选材料。他被捕的部分原因是其中一张竞选照片上有一个有三条胳膊的女人。