OpenAI前安全负责人离职加盟Anthropic,投入竞争对手怀抱

极客网·人工智能5月30日 日前从OpenAI辞职的前首席安全研究员Jan Leike在5月28日宣布,正式加盟AI初创公司Anthropic。后者也被视为是OpenAI的最大竞争对手。

Leike于5月15日宣布了从OpenAI离职的决定。令人惊讶的是,短短几天之后,OpenAI就解散了他共同领导的超级联盟小组。

该研究团队成立于2023年,专注于AI长期风险的探索与研究。而就在Leike离职的前一天,OpenAI的联合创始人Ilya Sutskever也宣布离职。

image001.png

Leike在社交媒体平台X上表示:“我很高兴能够加入Anthropic AI,将继续追求超级对齐的使命。我将带领新的团队致力于可扩展的监督学习、从弱到强的泛化以及自动对齐技术的创新研究和探索。”

Anthropic的发展得到了亚马逊的支持。亚马逊已经承诺为Anthropic的少数股权提供高达40亿美元的资金,帮助该公司在AI领域取得更大的突破。

在离职之后,Leike在一篇帖子中写道:“决定从OpenAI离职是我做出的最艰难的决定之一,因为我们迫切需要了解如何引导和控制比我们聪明得多的AI系统。”

自从OpenAI于2022年底推出ChatGPT以来,AI安全在科技行业的重要性迅速提高,催生了AI产品和投资的热潮。而一些业内人士表示担心,一些科技公司在没有充分考虑潜在的社会危害的情况下,过于急迫地向公众发布强大的AI产品。

OpenAI在5月28日宣布设立了一个全新的安全和保障委员会,该委员会由包括该公司CEO萨姆·奥特曼在内的高层管理团队领导,主要职责是向董事会提供有关“OpenAI项目和运营的安全与保障决策”的建议。

Anthropic由Dario Amodei和Daniela Amodei兄妹以及OpenAI的其他前高管于2021年共同创立。今年3月,Anthropic成功推出了ChatGPT的竞争对手Claude 3,进一步巩固了其在AI领域的地位。

除了获得亚马逊的投资之外,Anthropic还获得了谷歌、Salesforce和Zoom等科技巨头的资金支持。


(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2024-05-30
OpenAI前安全负责人离职加盟Anthropic,投入竞争对手怀抱
极客网·人工智能5月30日日前从OpenAI辞职的前首席安全研究员Jan Leike在5月28日宣布,正式加盟AI初创公司Anthropic。后者也被视为是OpenAI的最大竞争对手。Leike于5月15日宣布了从OpenAI离职的决定。令人惊讶的是,短短几天之后,OpenAI就解散了他共同领导的超级联盟小组。该研究团...

长按扫码 阅读全文