上个月从OpenAI离职的公司联合创始人、(前)首席科学家,以及2023年在OpenAI董事会投出关键一票将奥尔特曼赶出公司,又反悔将他请回来的深度学习领域权威专家伊尔亚·苏茨克维(Ilya Sutskever),正式宣布单飞后的全新AI创业项目。苏茨克维向外界透露了他的最新动态,宣布创立一家名为“安全超级智能”(Safe SuperIntelligence,简称SSI)的新公司。

杨·莱克在社交平台X上公开解释了他们为什么离职。他写到原因跟对核心优先事项以及团队分配资源的分歧有关,他们更关注安全性、一致性等问题;超级对齐团过去几个月一直在“逆风航行”,在计算上很吃力,完成研究越来越困难。过去几年,安全文化和流程已经让位于更耀眼的产品。

这似乎是OpenAI高管第一次公开表示OpenAI将产品置于安全之上。OpenAI去年7月组建了超级对齐团队,由杨·莱克和伊尔亚·苏茨克维领导,目标是在未来4年内解决控制超级智能AI的核心技术挑战。该团队承诺将获得该公司20%的计算资源,但其实际获得计算资源却受到阻碍。



追加内容

本文作者可以追加内容哦 !