头条资讯网_今日热点_娱乐才是你关心的时事

今日热点 时事资讯
娱乐头条才是你关心的新闻
首页 > 头条资讯 > 科技

OpenAI解雇两名Ilya团队成员,与「宫斗」泄密有关?

机器之心报道机器之心编辑部半年来内斗剧情跌宕起伏的企业OpenAI,再次传来人员变动的消息。

TheInformation报道,据知情人士透露,OpenAI已经解雇了两名涉嫌泄露信息的员工。

一位是LeopoldAschenbrenner,是OpenAI超级对齐团队的研究员。

他是OpenAI首席科学家IlyaSutskever的盟友,去年秋天,Ilya参与了逼走OpenAICEOSamAltman的行动,但以失败告终。

另一名被解雇的员工PavelIzmailov在OpenAI从事推理相关的研究,也曾在超级对齐团队工作过一段时间。

二人曾在团队的多项工作中合作,包括这篇被广泛关注的《Weak-to-StrongGeneralization》(https://arxiv.org/abs/2312.09390)。

目前尚不清楚的是,这两名被解雇的员工到底泄露了哪些信息。

两人的离职,是SamAltman今年3月重新担任董事会成员以来首次公开的人事变动。在此之前,OpenAI的非营利性董事会领导了一项调查,为Altman在去年11月被短暂解雇前的行为开脱罪责。

回顾「宫斗」事件的细节,我们或许可以发现一些端倪。在下台之前,OpenAI的员工在公司是否足够安全地开发人工智能的问题上存在分歧。

联合创始人IlyaSutskever是解雇Altman的董事会成员之一,董事会称Altman缺乏坦诚。在Altman重新担任CEO后,Sutskever离开了董事会。自那场风波后,他基本上就没有再出现在OpenAI的舞台上。

但宫斗事件后,SamAltman也没有回避过对Ilya的赞美,表示自己非常尊重并欣赏Ilya,希望未来的工作生涯都能和他合作:「Ilya并没有看到通用人工智能,但Ilya是人类的功臣。关于安全问题Ilya想了很多,也担心了很多。」「有人说Ilya看到了一些东西,可能是AGI,这让他内心不安。所以,Ilya看到了什么?」SamAltman:「Ilya看到的不是AGI,没有人见到过AGI,我们还没有建造过AGI。我确实认为我欣赏Ilya的众多原因之一是他非常认真地对待AGI和安全问题,从广义上讲,这包括AGI将对社会产生的影响。随着OpenAI不断取得重大进展,Ilya是陪伴我时间最久的人之一。在过去的几年里,他总谈起这意味着什么、我们需要做什么来确保我们做的是对的,确保我们成功完成使命。所以Ilya并没有看到通用人工智能,但Ilya是人类的功臣,他想了很多,也担心了很多。」在公司内部,Aschenbrenner也是OpenAI超级对齐团队的负责人之一。该团队由IlyaSutskever去年夏天组建,目的是开发控制和引导高级人工智能(即超级智能)的技术,这些高级人工智能可能会解决核聚变问题或殖民其他星球。

Aschenbrenner19岁时毕业于哥伦比亚大学,此前曾在未来基金(FutureFund)工作,这是FTX前CEOSamBankman-Fried创办的慈善基金,旨在资助「改善人类长期前景」的项目。

显然,Aschenbrenner更倾向于「有效利他主义」(effectivealtruism)的立场,将解决人工智能的危险性置于短期利润或生产力利益之上。就在一年前,Aschenbrenner加入了OpenAI。

当初解雇Altman的几位董事会成员也与有效利他主义有关。例如,TashaMcCauley是FTX资助的慈善机构、有效利他主义中心的母公司EffectiveVentures的董事会成员,HelenToner曾在以有效利他主义为重点的慈善项目工作过。而这两个人,都在Altman11月底重新担任CEO的时候离开了董事会。

至于PavelIzmailov,此前就已经在个人主页披露了未来计划:2025年秋季加入纽约大学任助理教授。

对于这则消息,当事双方和Ilya都没有正式回复。可能大家最关心的是,Ilya会不会随后离开OpenAI?只能说很难预测。

参考链接:https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking

未经允许不得转载:头条资讯网_今日热点_娱乐才是你关心的时事 » OpenAI解雇两名Ilya团队成员,与「宫斗」泄密有关?

分享到:更多 ()
来源:探索未来 编辑:科技

评论

留言/评论 共有条点评
昵称:
验证码:
匿名发表