纽约(美联社)——宾夕法尼亚州一名男子被控斩首其父亲的视频在YouTube上流传了数小时,这段视频再次让人们关注到社交媒体公司在防止恐怖帖子在网络上传播方面的能力差距。
警方周三表示,他们指控32岁的贾斯汀·莫恩(Justin Mohn)犯有一级谋杀罪和虐待尸体罪。莫恩在巴克斯县的家中将父亲迈克尔(Michael)斩首,并在YouTube上发布了一段14分钟的视频,任何人、任何地方都可以看到。
这一事件的消息传出之际,meta、TikTok和其他社交媒体公司的首席执行官们正在联邦议员面前作证,他们认为在儿童网络安全方面缺乏进展,对此感到沮丧。人们将这一事件与近十年前伊斯兰国(Islamic State)武装分子在其鼎盛时期发布在网上的斩首视频进行了比较。谷歌旗下的YouTube没有参加听证会,尽管它是青少年中最受欢迎的平台之一。
这段来自宾夕法尼亚州的令人不安的视频是在近年来社交媒体上播放的其他可怕视频之后播出的,包括肯塔基州路易斯维尔直播的国内大规模枪击事件;田纳西州的孟菲斯。纽约的布法罗,以及在新西兰的克赖斯特彻奇和德国的哈雷市拍摄的大屠杀。
米德尔敦镇警察队长皮特·菲尼(Pete Feeney)说,宾夕法尼亚州的这段视频是在周二晚上10点左右发布的,在网上流传了大约五个小时,这一时间差引发了人们对社交媒体平台是否履行了节制措施的质疑,在加沙和乌克兰的战争以及美国极具争议的总统选举中,这种做法可能比以往任何时候都更需要
“这是这些公司公然未能保护我们的又一个例子,”非营利倡导组织Issue One负责任社交媒体委员会(Council for Responsible Social Media)主任阿历克斯·弗雷泽(Alix Fraser)说。“我们不能相信他们会给自己的作业打分。”
YouTube的一位发言人表示,该公司删除了视频,删除了莫恩的频道,并正在追踪和删除任何可能出现的重新上传。这家视频分享网站表示,他们使用人工智能和人工版主的结合来监控其平台,但没有回答有关视频是如何被捕获的,以及为什么没有早点处理的问题。
大型社交媒体公司在强大的自动化系统的帮助下对内容进行审核,这些系统通常可以在人类之前发现被禁止的内容。但信任和安全技术初创公司Cinder的联合创始人布莱恩·菲什曼(Brian Fishman)说,当视频以一种新的或不寻常的方式呈现暴力和图形时,这种技术有时会出现不足,就像这次一样。
他说,这就是人工审核员“非常、非常关键”的时候。“人工智能正在进步,但还没有到那个地步。”
美国东部时间周三午夜过后大约40分钟,全球互联网反恐论坛(Global Internet Forum to Counter Terrorism)表示,已就这段视频向其成员发出了警告。该论坛是由科技公司成立的一个组织,旨在防止这类视频在网上传播。GIFCT允许拥有原始视频片段的平台提交一个“哈希”——一个与视频相对应的数字指纹——并通知其他20多家成员公司,以便他们可以在自己的平台上限制它。
但到周三早上,这段视频已经传播到X上,莫恩抱着父亲头的视频片段在平台上停留了至少7个小时,获得了2万次观看。这家原名Twitter的公司没有回应置评请求。
研究激进化的专家表示,社交媒体和互联网降低了人们探索极端组织和意识形态的门槛,让任何可能有暴力倾向的人都能找到一个强化这些想法的社区。
在枪击案发生后发布的视频中,莫恩称他的父亲是一名20岁的联邦雇员,支持各种阴谋论,并大声反对政府。
大多数社交平台都有删除暴力和极端主义内容的政策。马里兰大学恐怖主义和应对恐怖主义研究联盟(START)的高级研究员迈克尔·詹森(Michael Jensen)说,但他们无法捕捉到所有的东西,许多更新的、不那么严格监管的网站的出现,让更多的仇恨思想不受限制地恶化。
美国外交关系委员会(Council on Foreign Relations)研究员雅各布·韦尔(Jacob Ware)说,尽管存在障碍,社交媒体公司在监管暴力内容方面需要更加警惕。
“现实情况是,社交媒体已经成为极端主义和恐怖主义的前线,”韦尔说。“这需要更认真、更坚定的努力来反击。”
媒体倡导组织自由新闻(Free Press)的高级法律顾问诺拉·贝纳维德兹(Nora Benavidez)说,她希望看到的科技改革包括,在裁员对哪些员工造成影响方面更加透明,以及在信任和安全工人方面加大投资。
YouTube的母公司谷歌(Google)本月裁掉了数百名硬件、语音辅助和工程团队的员工。去年,该公司表示,已在“Alphabet、产品领域、职能、级别和地区”裁员1.2万人,但没有提供更多细节。