作者:Alessio Jacona*

　　每一个伟大的生成人工智能背后都是成千上万有血有肉的艺术家的才华。这些人的创造力，在这个时代和以前的时代一样，用他们的艺术和作品照亮了世界，重构了世界的意义。诸如Dall-e、Midjourney、Stable Diffusion以及现在的GPT-4或Gemini等人工智能系统现在能够从简单的文本描述或提示中创建图像，因为它们已经使用艺术家、绘图员、人类摄影师的数十万件作品进行了训练。

　　从理论上讲，这可能是人类与机器结盟的一个极好的例子:证实了生成式人工智能的力量如何归功于人类的创造力，而人类的创造力随后应该被用来为人类的创造力服务。但是没有。

　　偷来的数据

　　欧洲人工智能监管协会(EGAIR)的发起人洛伦佐·切科蒂(Lorenzo Ceccotti)和弗朗西斯科·阿奇迪亚科诺(Francesco Archidiacono)向人工智能观测站解释说，主要生成人工智能的培训已经在数百万张受版权保护的图像上完成，EGAIR汇集了来自几个欧洲国家的10万多名创意人员、视觉艺术家、漫画家、插画家、配音演员以及出版社和专业工会。未经合法所有者同意的私人照片和其他敏感材料。大量的数据通过不加区分的抓取操作收集，在整个网络上进行。

　　洛伦佐·切科蒂(Lorenzo Ceccotti)解释说:“我们协会的想法诞生于2022年春天，当时一些科技公司对用户数据采取掠夺性商业模式，随着Midjourney和GPT等第一批基础生成模型的出现，这项技术仍处于发展的初始阶段，但其问题本质已经显而易见。”Francesco Arcidiacono补充说，EGAIR的成员是“欧洲第一个提出这个问题的人”，“通过我们的宣言，我们为讨论做出了重大贡献，从而起草了刚刚获得批准的《欧洲人工智能法案》。”

　　EGAIR的宣言

　　Arcidiacono提到的宣言是一份文件，该协会总结了其立场和要求，但最重要的是一份起诉书:它指责对创意人员的工作和数据的利用“不符合管理我们社会的人权所施加的最低要求”。然后，这种做法将如何“严重损害创意市场，可能永远标志着它”，引发一场“将影响所有类型的工作，无论是否有创意”的危机。简而言之，问题不在于许多创意人士已经在使用的生成式人工智能，而在于开发它的方式。

　　但我们是怎么走到这一步的呢?在美国，有一部合理使用法，根据该法律，在使用受版权保护的材料时，可以不经许可使用，例如用于科学研究:因此，许多人工智能领域的初创企业已经能够在网络上获得大量作品。问题是，我们也看到了这些公司的分拆，创建了具有明显和公开的商业意图的公司，这导致了上面提到的问题。

　　回到人工智能法案(无论如何，这只是欧洲的一项法规)，EGAIR的推动者已经设法将开发人工智能的公司有义务记录并向公众提供用于训练生成人工智能系统的受版权保护的数据列表。这是一个重要的胜利，但仅凭这一点还不足以解决问题，因为目前，要求将个人数据排除在人工智能模型训练之外的方式——即所谓的选择退出——规定了直接利益相关方可以咨询公司提供的列表，确定他们拥有的内容并要求将其排除在外。

　　人工智能法案是不够的

　　这个解决方案让EGAIR的成员(包括Milo Manara, Claire Wendling和Greg Rutkowksi)不高兴，至少有两个很好的理由:首先，在无尽的人工智能训练材料列表中恢复他们的作品将是一项困难的任务，如果不是几乎不可能的话。第二个原因是，正如洛伦佐?切科蒂(Lorenzo Ceccotti)所定义的那样，“一个可怕的技术问题”仍然悬而未决。“选择退出规定了在人工智能已经学习了数据集后要求从数据集中删除作品的权利，据我们所知，今天没有‘机器学习’这样的事情，也就是说，这些机器有可能忘记他们所学的东西。维护被侵犯公民权利的唯一方法是销毁法学硕士，并在数据集被清理后重新开始培训，但由于这种情况没有发生，这种选择退出就变成了一种欺诈行为。”

　　为了解决这个问题，一种方法是指定你的作品不应该在在线发布的同时包含在人工智能训练的数据中。然而，目前还不清楚如何做到这一点，EGAIR的发起人解释说，然后仍然存在过去的问题:过去已经使用的东西似乎不可能恢复。

　　全球战争

　　展望未来，现在EGAIR的首要目标是监控开发人工智能模型的公司，看看他们是否以及如何遵守新的欧洲规则，但由于欧洲发生的事情只是全球战斗的一部分，该协会还与意大利隐私担保人以及世界各地的几个类似组织合作，从美国到日本。然后，再一次，与不同大学的学者合作，他们正在开发软件工具，以更好地保护数字作品，甚至能够“破坏”未经许可对其进行培训的人工智能。

　　创造力受到威胁

　　简而言之:这个问题仍然是开放的，还有很多事情要做，而且风险非常高:除了到目前为止所说的，还有“生成式人工智能正在削减所有入门级的绘画和摄影专业，比如创建库存图像，这是进入摄影师或绘图员职业的途径之一，”弗朗西斯科·阿西迪亚科诺(Francesco Arcidiacono)反映。此外，面临风险的不仅是那些“小人物”，还有知名艺术家。示范在这个意义上是伟大的幻想插画家格雷格·Rutkowksi:“一段时间以前作者被选为例对那些想尝试生成AI稳定扩散的潜力-洛伦佐Ceccotti说现在,除了这事发生没有他的授权,其结果是,网络被入侵AI-generated图像复制他的风格,使其不可能找到他的工作在中间成千上万的假货。”现在，这个问题也蔓延到了其他作家身上，比如艺术家和插画家凯利·麦克南(Kelly Mckernan)，她最近写了一篇文章，抱怨在谷歌搜索中，在她的传记旁边，出现了一些不是她自己的图像，而是用人工智能模仿她的风格创造出来的。这是生成式人工智能的传播所产生的悖论之一:“一方面，它们阻碍了那些仍然默默无闻的人进入这个行业，并最终取得成功，”切科蒂总结道，“另一方面，它们又让那些已经出名的人被遗忘，让他们充斥着假冒的内容。”这样做的风险是，最终，人类艺术家将不复存在。

　　*记者、创新专家、人工智能观测站(ANSA.it)馆长

　　版权所有?ANSA