是谁影响了乔·拜登总统关于人工智能的新行政命令?

　　上周末，POLITICO的布兰登·波德隆(Brendan Bordelon)发现了兰德公司(RAND Corporation)的痕迹，该公司与一个由科技资金支持的影响力网络建立了联系。

　　几个月来，布兰登一直在关注影响人工智能监管辩论的资金。

　　其中大部分资金来自“有效利他主义”(effective altruism)的富有支持者，这是硅谷圈子里的一种重要意识形态，非常重视人工智能的生存风险。

　　布兰登的最新报告显示，作为美国历史最悠久、最受尊敬的智库之一，兰德公司正面临着一波内部担忧。一些员工表示担心，在接受了由Facebook联合创始人、高效利他主义者达斯汀·莫斯科维茨(Dustin Moskovitz)创办的基金会Open Philanthropy的资助后，兰德公司已成为将该运动的理念纳入政策的工具。

　　DFD采访了Brendan，深入挖掘了兰德公司的不满情绪，以及围绕人工智能政策未来的派系斗争。为了清晰起见，我们的谈话经过了编辑和浓缩。

　　你报道说，兰德公司的工作人员——其中一些人去年从拜登政府加入了这家智库——制定了拜登行政命令的部分内容。但你也拿到了一段会议的录音兰德公司的其他员工也表达了同感ncerns一关于该组织在人工智能方面的工作。有什么问题吗?智库不应该接近政府并制定政策吗?

　　兰德公司首席执行官杰森·马西尼和高级信息科学家杰夫·阿尔斯托特直接从国家安全委员会和白宫科技政策办公室跳槽到这家智库，我认为这并不罕见，这家智库仍然在很大程度上影响着白宫和联邦政府对待人工智能的方式。

　　更大的问题是这些人与意识形态运动的联系。这一运动与目前推动该领域发展的顶级人工智能公司密切相关。这就是人们开始惊讶的地方。

　　当你看到资金来自像莫斯科维茨的基金会“开放慈善”(Open Philanthropy)这样的团体时，这种感觉就更强烈了。这些团体与有效的利他主义结盟，正在建立一个比兰德公司更广泛的网络。在某些方面，兰德公司只是华盛顿高效利他主义者正在打造的更大机器的一部分。

　　兰德公司的立场是，来自开放慈善的资金并不影响其政策建议的实质内容。如果资助者不主导政策建议，那么这里的问题是什么?

　　“开放慈善”在这个领域投入资金的方式，让人很难拒绝。他们是多产的投资者，我的理解是，除了“这是我们希望你关注的领域”之外，他们通常没有任何附加条件。

　　由于这笔资金，很难让华盛顿的思想家们公开表达他们的担忧，因为他们担心的是明确关注存在风险，而忽略了人工智能领域的许多其他问题。

　　它越来越多地对政策制定者产生了寒蝉效应，他们说:“嘿，听着，我理解你为什么担心人工智能的末日。但我们需要以证据为基础制定政策。如果目前没有真正的证据，除了某种哲学证据之外，我们需要把时间和金钱花在其他地方。”

　　问题是，当你有大量的资金流入，或明或暗地想要研究这些问题时，它就开始有了自己的生命。所有的智库都在说同样的话:“存在的人工智能风险是我们这个时代的关键问题，我们必须把所有的时间和注意力都花在这个问题上。”然后它变成了一个回音室。

　　有效的利他主义是一种由精明的商业大亨支持的理想主义世界观。这些影响力的努力真的是无私的，还是只是典型行业游说努力的新幌子?

　　我问过很多人这个问题。我不认为这是非此即彼的选择。

　　有一种感觉是，有效利他主义者提出的许多问题都是真正需要提出的问题。即使是批评者也认为，当谈到人工智能存在的风险时，这些人中的大多数都是真正的信徒。

　　问题是，目前还没有足够的证据来支持对前沿人工智能系统的一些担忧。

　　因此，如果没有这些证据，为什么人们如此关注这些问题——并且将数千万美元投入研究和政策制定团体，朝着这个方向推动，远离人工智能和生物技术的短期危害?

　　一个简单的解释是——因为这是科技资金，因为是这些顶级人工智能公司的人在推动这一切——这种对文明终结担忧的关注是一种故意的分散注意力。这样政策制定者就不会把注意力集中在隐私、偏见、版权问题、监管等问题上，这些问题可能会在短期内真正影响到这些公司。

　　还有哪些派别对人工智能政策施加影响?

　　You’re starting to see this come up on the internet, actually, and I don’t know how much money is behind it, but “effective accelerationists” are growing in prominence.

　　这群人也相信人工智能技术的变革力量，但他们只是觉得它会很好。

　　最近，你从安德森·霍洛维茨基金(Andreessen Horowitz)和其他硅谷风险投资集团那里看到了很多这样的情况，他们越来越担心，有效的利他主义者正在减缓技术的发展。

　　你可以在有关计算能力访问的问题上看到它，或者潜在的许可制度——以及现在的大事，开源和闭源之争。这些开源模型应该被允许扩散吗?还是政府应该介入并封锁这些地方?

　　那么，又有一批富有的科技投资者只是希望看到对人工智能的监管减少?

　　你可以从很多人工智能研究人员那里听到这样的描述。他们说，人工智能技术不会带来压倒性的变革，无论是在超级积极的意义上，还是在超级消极的意义上。就像任何其他技术一样，它的发展也会断断续续，人们将不得不应付出现的意想不到的挫折。

　　这个论点并没有得到很多钱或关注。这就是一些智库对目前发生的事情感到非常沮丧的地方。

　　一方面，我们有一个由有钱有势的人组成的紧密网络，在某些角落被比作邪教。另一方面，把他们联系在一起的是一套关于技术的非常奇怪的信念。在下一个满月的午夜，我们是更有可能看到利他主义者在表演“大开眼界”式的仪式，还是更有可能看到与埃利泽·尤德科夫斯基(Eliezer Yudkowsky)讨论思想实验?

　　显然是后者。

　　由Andreessen Horowitz、Coinbase和Winklevii支持的一群支持加密货币的超级政治行动委员会正在筹集大笔资金，以影响2024年的大选。

　　POLITICO的贾斯珀·古德曼(Jasper Goodman)今天上午报道了这一消息，迄今为止，该公司已经筹集了7800万美元，用于支持对加密货币友好的候选人。他们的项目恰逢众议院正在通过主要的加密立法，以及加密支持者在FTX丑闻后迫切希望恢复其政治形象。

　　变得“更明显,唯一的方法来抵消大银行和大的游说团体科技是指加密区块链可以是一种力量,也“写Andreessen Horowitz Chris Dixon的X今天的宣布公司的投资pro-crypto Fairshake PAC,说他们的目标是“汇集负责演员web3和加密来帮助促进明确的规则,将支持美国创新而持有坏演员帐户。——德里克·罗伯逊

　　OpenAI正在采用一个框架来跟踪和准备它所认为的人工智能模型带来的潜在“灾难性风险”。

　　“准备框架”在周一的一篇博客文章和27页的文件中公布，并在今天的《国家安全日报》通讯中报道，详细介绍了ChatGPT制造商将如何“安全开发和部署我们的前沿模型”。OpenAI将采取的步骤包括对风险进行评估，搜索“未知类别的灾难性风险”，以及限制被认为风险过高的模型的部署。

　　该公司写道:“对前沿人工智能风险的研究远远没有达到可能的水平，也远远没有达到我们需要达到的水平。”

　　OpenAI在其董事会罢免首席执行官萨姆·奥特曼(Sam Altman)几周后推出了该框架，几天后他又恢复了职务。大多数试图罢免奥特曼的董事会成员都已辞职。

　　美国立法者一直在努力监管人工智能，而欧洲在通过对技术设置护栏的法律方面处于世界领先地位。上周，教皇弗朗西斯呼吁制定一项全球条约来监管人工智能，参议员马克·华纳(弗吉尼亚州民主党人)表示华盛顿还没有做好准备。——马特·伯格

　　与整个团队保持联系:Ben Schreckinger ([email protected]);Derek Robertson ([email protected]);Mohar Chatterjee ([email protected]);Steve Heuser ([email protected]);Nate Robson ([email protected])和Daniella Cheslow ([email protected])。

　　如果你已经收到了这份时事通讯，你可以注册并阅读我们提供的链接。