一场构建通用人工智能的竞赛正在进行，这是一种未来的愿景，即机器与人类一样聪明，或者至少可以像人类一样做很多事情。

　　实现这样一个概念——通常被称为AGI——是chatgpt制造商OpenAI的驱动任务，也是科技巨头亚马逊、谷歌、meta和微软的精英研究部门的首要任务。

　　这也引起了世界各国政府的关注。领先的人工智能科学家周四在《科学》杂志上发表了一项研究，警告称，拥有“长期规划”技能的人工智能代理人可能会对人类的生存构成威胁。

　　但AGI到底是什么，我们如何知道它何时被实现?它曾经是计算机科学的边缘，现在是一个流行语，不断被那些试图实现它的人重新定义。

　　什么是AGI?

　　不要与听起来类似的生成式人工智能(generative AI)混淆，后者描述的是“生成”新文档、图像和声音的工具背后的人工智能系统)，通用人工智能是一个更模糊的概念。

　　被称为“人工智能教父”的人工智能先驱科学家杰弗里·辛顿(Geoffrey Hinton)表示，人工智能不是一个技术术语，而是“一个严肃的、尽管定义不清的概念”。

　　欣顿本周通过电子邮件表示:“我认为对这个词的含义没有达成一致。”“我用它的意思是，在人类所做的几乎所有认知事情上，人工智能至少和人类一样好。”

　　Hinton更喜欢一个不同的术语——超级智能——“比人类更好的人工智能”。

　　“AGI”一词的一小部分早期支持者希望唤起20世纪中期计算机科学家对智能机器的设想。那是在人工智能研究进入子领域之前，这些子领域推进了人工智能技术的专业化和商业上可行的版本——从人脸识别到Siri和Alexa等语音识别语音助手。

　　在天普大学(Temple University)教授AGI课程、并帮助组织了2008年首届AGI大会的王培教授表示，主流人工智能研究“偏离了人工智能最初的愿景，而最初的愿景相当雄心勃勃”。

　　在AGI中加上“G”是对那些“仍想做大事”的人发出的信号。我们不想制造工具。我们想要制造一台会思考的机器。”

　　我们到AGI了吗?

　　如果没有明确的定义，很难知道一家公司或一组研究人员何时会实现人工通用智能——或者他们是否已经实现了。

　　欣顿说:“20年前，我想人们会很高兴地认为，具有GPT-4或(谷歌的)Gemini能力的系统已经实现了与人类相当的一般智能。”“能够以一种理智的方式回答或多或少的任何问题，就可以通过考试。但现在人工智能可以做到这一点，人们想要改变测试。”

　　“自回归”人工智能技术(能够预测序列中最可能的下一个单词)的改进，再加上利用海量数据训练这些系统的巨大计算能力，已经产生了令人印象深刻的聊天机器人，但它们仍不完全是许多人想象中的AGI。实现AGI需要的技术在各种各样的任务中表现得和人类一样好，包括推理、规划和从经验中学习的能力。

　　一些研究人员希望就如何衡量它达成共识。这是下个月在奥地利维也纳即将举行的人工智能研讨会的主题之一，这是人工智能主要研究会议的第一次研讨会。

　　研讨会组织者、伊利诺伊大学厄巴纳-香槟分校助理教授尤佳轩表示:“这真的需要整个社区的努力和关注，这样我们才能就AGI的某种分类达成共识。”一个想法是将其划分为不同的等级，就像汽车制造商试图在巡航控制和完全自动驾驶汽车之间建立基准一样。

　　其他人则计划自己解决这个问题。旧金山公司OpenAI已赋予其非营利性董事会——其成员包括美国前财长——决定其人工智能系统何时达到“在最具经济价值的工作上胜过人类”的程度。

　　OpenAI自己对其治理结构的解释是:“董事会决定我们何时达到AGI。”这一成就将剥夺该公司最大的合作伙伴微软(Microsoft)将这一系统商业化的权利，因为他们的协议条款“仅适用于agi出现之前的技术”。

　　AGI危险吗?

　　去年，辛顿离开谷歌(Google)，并对人工智能存在的危险发出警告，成为全球头条新闻。周四发表的一项新的科学研究可能会加强这些担忧。

　　该报告的主要作者是加州大学伯克利分校(University of California, Berkeley)的迈克尔?科恩(Michael Cohen)，他是一名研究人员，研究“一般智能人工智能体的预期行为”，尤其是那些足够有能力“通过规划我们来对我们构成真正威胁”的人工智能体。

　　科恩在周四的一次采访中明确表示，这种长期的人工智能规划代理还不存在。但随着科技公司试图利用一种被称为强化学习的技术，将当今的聊天机器人技术与更深思熟虑的规划技能结合起来，“它们有潜力”变得更先进。

　　这篇论文的合著者包括著名的人工智能科学家约书亚·本吉奥和斯图尔特·罗素，以及法学教授、前OpenAI顾问吉莲·哈德菲尔德。该论文称:“给一个先进的人工智能系统设定最大限度地提高回报的目标，在某种程度上，不给它奖励，会强烈激励人工智能系统在有机会的情况下将人类排除在外。”

　　科恩说:“我希望我们已经说明，政府官员(需要)开始认真考虑，我们到底需要什么样的监管来解决这个问题。”目前，“政府只知道这些公司决定告诉他们什么。”

　　退出AGI太合法了?

　　由于有如此多的资金押在人工智能的发展前景上，人工智能也成为一个企业流行语，有时会吸引类似宗教的狂热，这也就不足为奇了。

　　It’s divided some of the tech world between those who argue it should be developed slowly and carefully and others – including venture capitalists and rapper MC Hammer – who've declared themselves part of an “accelerationist” camp.

　　总部位于伦敦的初创公司DeepMind成立于2010年，现在是谷歌(Google)的一部分，是最早明确表示要开发AGI的公司之一。OpenAI在2015年也做了同样的事情，并做出了以安全为重点的承诺。

　　但现在看来，其他所有人似乎都在赶时髦。最近有人看到谷歌联合创始人谢尔盖·布林(Sergey Brin)在加州一家名为AGI House的场所闲逛。在将Facebook更名为专注于虚拟世界不到三年的时间里，meta平台在1月份透露，AGI也在其议程的首位。

　　meta首席执行官马克·扎克伯格表示，他的公司的长期目标是“建立全面的通用智能”，这需要在推理、规划、编码和其他认知能力方面取得进步。虽然扎克伯格的公司长期以来一直让研究人员专注于这些主题，但他的关注标志着语气的变化。

　　在亚马逊，新信息传递的一个迹象是，语音助手Alexa的首席科学家换了职位，成为了AGI的首席科学家。

　　虽然对华尔街来说，宣传AGI的雄心不像生成式人工智能那么切实，但它可能有助于招募到可以选择工作地点的人工智能人才。

　　伊利诺伊大学的研究员尤说，在选择“老派人工智能研究所”还是“以建立AGI为目标”并拥有足够资源的研究所时，许多人会选择后者。——美联社

　　×