一些人工智能专家表示，我们正迎头走向人类的毁灭。

　　其中一些说法含糊不清，专家们对主要风险究竟是什么意见不一。

　　这些是一些来自先进人工智能的潜在威胁，以及它们发生的可能性。

　　NEW LOOK注册获取今日市场、科技和商业领域最重要新闻的内幕消息——每日提供。阅读预览广告

　　预言人工智能末日的人认为，这项技术与核战争和全球流行病一样危险。

　　这项技术的一些早期创造者表示，我们正迎头走向人类的毁灭，而另一些人则声称，监管是迫切需要的。

　　然而，随着立法者离监管这项技术越来越近，这些关于人工智能存在风险的警告中的一些被业内知名人士视为干扰和谎言而不屑一顾。

　　其中一些说法明显含糊不清，让人们难以理解这些日益夸张的说法。

　　广告

　　剑桥大学人工智能专家兼助理教授大卫·克鲁格告诉Insider网站，虽然人们可能想要具体的场景来说明人工智能的存在风险，但仍然很难给出任何程度的确定性。

　　“我并不担心，因为从某种意义上说，威胁迫在眉睫，我可以确切地看到威胁是什么。但我认为，我们没有太多时间为即将到来的潜在威胁做准备。”

　　考虑到这一点，以下是专家们担心的一些潜在问题。

　　最常被提及的风险之一是人工智能将脱离其创造者的控制。

　　广告

　　通用人工智能(AGI)是指在广泛的任务中与人类一样聪明或比人类更聪明的人工智能。目前的人工智能系统没有感知能力，但它们被设计得像人类一样。阿兰图灵研究所的Janis Wong说，例如，ChatGPT的设计是为了让用户感觉他们在和另一个人聊天。

　　据Insider网站的亚伦·莫克报道，专家们对如何准确定义人工智能存在分歧，但普遍认为，这项潜在的技术对人类构成了危险，需要进行研究和监管。

　　克鲁格说，这些危险最明显的例子是国家之间的军事竞争。他说:“与自主武器的军事竞争——这些系统在设计上具有影响物理世界并造成伤害的能力——似乎更清楚地表明，这些系统最终会杀死很多人。”

　　他补充说:“在未来，当我们拥有比人类更聪明的先进系统时，一场由人工智能驱动的全面战争场景，我认为这些系统很可能会失去控制，最终可能会杀死所有人。”

　　广告

　　越来越多的人认为，人工智能对某些工作构成了威胁。

　　蒙特利尔人工智能伦理研究所(Montreal AI Ethics Institute)创始人阿布舍克?古普塔(Abhishek Gupta)表示，人工智能导致失业的前景是最“现实、直接、或许也是最紧迫的”生存威胁。

　　他告诉内幕网说:“我们需要看到，人们在集体失业后会感到缺乏目标。”“存在主义的部分是人们要做什么，他们从哪里获得目标?”

　　“这并不是说工作就是一切，但它确实是我们生活的一部分，”他补充道。

　　广告

　　首席执行官们开始坦率地谈论他们利用人工智能的计划。例如，IBM首席执行官阿尔温德?克里希纳最近宣布，该公司将放缓招聘可能被人工智能取代的职位。

　　古普塔在谈到IBM时说:“四五年前，没有人会说这样的话，也不会受到重视。”

　　专家告诉Insider，如果人工智能系统被用来帮助做出更广泛的社会决策，系统性偏见可能会成为一种严重的风险。

　　在生成式人工智能系统中已经出现了几个偏见的例子，包括早期版本的ChatGPT。你可以在这里阅读聊天机器人的一些令人震惊的答案。OpenAI增加了更多的护栏，以帮助ChatGPT避免用户向系统询问冒犯性内容时的问题答案。

　　广告

　　根据Insider网站今年早些时候进行的测试，生成式人工智能图像模型可能会产生有害的刻板印象。

　　古普塔说，如果在用于做出现实世界决策的人工智能系统中存在未被发现的偏见，例如批准福利，这可能会产生严重后果。

　　Wong表示，训练数据通常主要基于英语数据，而用不同语言训练其他人工智能模型的资金有限。

　　“所以有很多人被排除在外，或者某些语言的培训不如其他语言好，”她说。