突发!OpenAl超级对齐团队就地解散!

i黑马  •  扫码分享

突发!OpenAl超级对齐团队就地解散!

今日,最新消息显示,OpenAl超级对齐团队就地解散。 该消息一经发出,立刻引发网友热议。

有网友调侃:这是OpenAI宫斗第二季又开始了?

很快,OpenAl公司证实,该公司不再将所谓的'超级对齐"团队作为一个独立的实体,而是将该团队更深入地整合到其研究工作中,以帮助公司实现其安全目标。

01

对齐团队是做什么的?

据了解, 超级对齐团队成立于2023年7月,其目标是“在 OpenAI 大量计算的支持下,到 2027 年解决(对齐)问题”。

Ilya Sutskever 是该项目的牵头人之一,OpenAI 则表示会将 20% 的算力专门用于该项目的研究。

在一次访谈中, Ilya Sutskever 曾大胆预言,如果模型能够很好地预测下一个词,那么意味着它能够理解导致这个词产生的深刻现实。这意味着,如果 AI 按照现有路径发展下去,也许在不久的将来,一个超越人类的人工智能系统就会诞生。但更加令人担心的是,「超级人工智能」可能会带来一些意想不到的负面后果。

几天前,OpenAI 联合创始人、首席科学家 Ilya Sutskever ,刚宣布离开 OpenAI。至此,结束了与 OpenAI 的八年牵绊。

突发!OpenAl超级对齐团队就地解散!

很多人可能没注意,与 Ilya 同步宣布离开的,还有超级对齐团队的共同领导者 Jan Leike。

突发!OpenAl超级对齐团队就地解散!

Jan Leike正是OpenAl安全主管、“超级智能对齐团队”负责人。

据JanLeike透露, 他与OpenAl高层在公司的核心优先事项上存在长期分歧,双方的分歧严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍,缺乏资源严重影响研究的进度和质量。

02

长期分歧指的是什么?

此前,在 OpenAI 内斗时,有人传言说 Ilya「看到了一些东西」,这些东西足够强大,让他对 AI 的未来产生了担忧,并重新思考 AI 的发展。

此后,包括马斯克在内的美国业界一直很关心“Ilya看到了什么?”

有记录显示, Ilya 此前曾在一段视频中提到, 在 AGI 实现的那一天, AI 未必会仇恨人类,但他们对待人类的方式可能会像人对待动物一样。 人可能无意伤害动物,但如果你想修一条城际高速,你不会征询动物的意见,而是直接去做。当面临这种情况时,AI 可能也会自然而然地做出类似的选择。

或许,这就是Ilya担忧的,也是OpenAl对齐团队与高层的长期分歧。

上周,外界又开始关注“Ilya下一步会去哪里?”

有网友猜测,“如果Ilya和Andrej 创办一家真正开放的人工智能公司,会是什么样的?”

Andrej Karpathy也是OpenAI 创始成员之一,在 Sora 发布前夕刚离职,他们二人如果能联手,或将成为人工智能领域又一个重大事件。

对此,Ilya 在推文中回应,“我很期待接下来的计划——这个项目对我个人来说意义重大,我会在适当的时候分享细节。”

现在,咱们也猜想一下:“Jan Leike会去哪呢?”

如果Ilya和Andrej 真的创办了一家人工智能公司,Jan Leike是否会加入其中?

文章评价
匿名用户
发布
发布

    随意打赏

    提交建议
    微信扫一扫,分享给好友吧。