OpenAI前高管简·莱克(Jan Leike)在出于安全考虑辞职几天后加入了竞争对手Anthropic

   日期:2024-10-29     来源:本站    作者:admin    浏览:122    
核心提示:      OpenAI的一名前高管在出于安全考虑辞职几天后加入了其竞争对手Anthropic。  Jan Leike是OpenAI超级联盟团队的联合

  

  

  OpenAI的一名前高管在出于安全考虑辞职几天后加入了其竞争对手Anthropic。

  Jan Leike是OpenAI超级联盟团队的联合负责人,不到两周前离职。

  OpenAI最近有几名员工辞职。

  本周二,OpenAI前高管简·莱克宣布,他将加入其竞争对手Anthropic。不到两周前,雷克从OpenAI辞职,并在X(前身为Twitter)上宣布离职。他指责这家ChatGPT制造商将“闪亮的产品”置于“安全文化和流程”之上。Leike与联合创始人Ilya Sutskever共同领导OpenAI的Superalignment团队,后者也辞职了。该团队的任务是确保超级智能不会失控,但后来解散了,剩下的员工加入了核心研究团队。除了投奔亚马逊已投资40亿美元的Anthropic外,雷克还呼吁人们加入他的新雇主。在X上的一篇帖子中,莱克说:“我很高兴能加入@AnthropicAI来继续超对齐任务!我的新团队将致力于可伸缩的监督,从弱到强的泛化,以及自动化校准研究。如果你有兴趣加入,我随时欢迎。”

  本文仅对Business Insider订阅者开放。成为业内人士,现在就开始阅读。有账户吗?.

  Anthropic由达里奥·阿莫代伊和丹妮拉·阿莫代伊于2021年创立,这对兄弟姐妹曾在OpenAI工作。亚马逊拥有该公司的少数股权,该公司一直试图将自己定位为比竞争对手更有安全意识的公司。该公司此前表示,将使用亚马逊网络服务(Amazon Web Services)的云服务器和芯片来训练和驱动其大型语言模型。

  莱克没有立即回应《商业内幕》的置评请求。

  除了Leike和Sutskever,最近还有几名员工离开了OpenAI。上周,政策研究员格雷琴·克鲁格(Gretchen Krueger)在X上的一个帖子中宣布,她将于5月14日辞职。她说,她也有其他人表达的一些担忧。OpenAI周二宣布,它已经成立了一个安全委员会,由董事会成员Bret Taylor、Sam Altman、Nicole Seligman和Adam D'Angelo监督。该公司还表示,正在开始测试其“下一个前沿模式”。

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行