起底OpenAI“地震”中的焦点人物Ilya,他对AI到底有何看法?

极客网·极客观察11月22日 OpenAI CEO山姆·奥特曼(Sam Altman)上周五被解雇,不再领导公司。

投资者对这种安排多有不满,尝试让奥特曼回归,但失败了。OpenAI最大的投资者微软发布消息称,已经聘请奥特曼领导微软新成立的AI研发部门。

为什么会出现人事动荡?我们不得而知,但有一个名字越来越耀眼,他就是新任CEO伊尔亚·苏茨克维(Ilya Sutskever)。

QQ截图20231122080313.jpg

苏茨克维与奥特曼观点素有不合

有消息称,在技术研发和利润方面,奥特曼与董事会其它成员多有不合。苏茨克维是OpenAI的首席科学家和联合创始人,他也是董事会成员。苏茨克维与奥特曼站在对立面。

上周末,奥特曼、微软、OpenAI董事会、苏茨克维和追随他的几名董事开会讨论奥特曼的去留,最终他们于周日晚上签署备忘录,确认驱逐奥特曼,因为这是推动OpenAI发展、保护公司使命的唯一选择。

奇怪的是,没过多久苏茨克维便在Twitter上发消息称:“因为参与董事会的行动,我深感后悔。我无意伤害OpenAI。”奥特曼读到了这条消息,用一连串红心回应。

更古怪的是苏茨克维还联合500多名OpenAI员工在公开信上签字,信件称,如果不让奥特曼复职,他们就离开公司,加入微软,与奥特曼一起共事。他们还要求董事会成员辞职。

苏茨克维成为事件的焦点,那么他到底是何方神圣呢?我们不妨了解一下。

苏茨克维是OpenAI成功的关键 

苏茨克维生于苏联(俄罗斯),在以色列长大,后来到多伦多大学学习,成为Machine Learning Group的学生,师从AI先驱Geoffrey Hinton。2018年Geoffrey Hinton因为深度学习研究成果获得图灵奖,他曾在谷歌工作,但最终离开,据说是因为他担心AI会变得比人类更聪明。

后来苏茨克维到斯坦福大学读博士后,与知名AI科学家吴恩达(Andrew Ng)是同学。再后来苏茨克维创建了名叫AlexNet的神经网络,大约10年前他成为谷歌Brain Team的一员。苏茨克维在谷歌呆了3年,然后成为OpenAI联合创始人。苏茨克维精通俄语、希伯来语和英语。

上个月《麻省理工科技评论》曾采访Y Combinator高管Dalton Caldwell,他谈到苏茨克维时说:“我记得奥特曼曾说苏茨克维是世界上最受尊敬的研究者之一,他认为苏茨克维能吸引更多的顶级AI人才加入,他甚至还提到了另一名顶级AI科学家Yoshua Bengio,他说很难找到比苏茨克维更合适的人来担任OpenAI首席科学家。”

马斯克也曾说,苏茨克维是OpenAI成功的关键。

早在2016年时OpenAI就推出了GPT大语言模型,但直到去年11月才向公众开放。因为免费,OpenAI模型快速流行起来,影响了科技产业。

苏茨克维关注如何控制超级智能

相比奥特曼及其它人,苏茨克维很少在公众场合出现,比较低调,他也很少接受采访。当他接受采访时,经常谈论的是AI的意义,包括好的一面和坏的一面,他还特别喜欢谈论AGI(强人工智能,通用人工智能)。

苏茨克维在《卫报》制作的纪录片中说:“AI很好,它会解决我们今天面临的所有问题,会解决失业、疾病、贫困问题。但它也会创造新问题,比如假新闻会严重无数倍,网络攻击将会变得更极端,人类还会开发出自动化AI武器。”

自ChatGPT发布之后,苏茨克维越来越关注AGI,经常思考OpenAI是否真的坚守造福人类的非盈利性使命。苏茨克维经常会在推特上发表一些言论,比如:“你所需要的是少一点困惑。”“想看得清楚,最大的障碍是相信已经看清的东西。”“自我是成长的敌人。”一般都是深思式的名言。

最近推文的风格突然变了,开始关注如何控制超级智能。苏茨克维似乎深信AI会变得比人聪明,而且聪明很多,他认为人类应该确保AI系统符合人类意图。

最近,OpenAI及一些同行开始用人类反馈信息强化AI学习,进而开发更先进的大语言模型,目的是创造所谓的“人工智能对齐技术”,苏茨克维认为这些模型已经触及“超级智能”。

“AI对齐”是AI控制问题中的一个主要的问题,即要求AI系统的目标要和人类的价值观与利益相对齐(保持一致)。

7月份,苏茨克维与对齐技术大佬 Jan Leike合作,建立所谓的“超级对齐团队”,他们准备用OpenAI约20%的算力来解决此问题,在未来4年内解决。

新团队说:“这是一个无比宏大的目标,我们并不能保证一定取得成功。我们只是很乐观,相信一个更专注、更集中的团队能解决此问题。”(小刀)

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。