突发！OpenAl超级对齐团队就地解散！
今日，最新消息显示，OpenAl超级对齐团队就地解散。该消息一经发出，立刻引发网友热议。
有网友调侃：这是OpenAI宫斗第二季又开始了？
很快，OpenAl公司证实，该公司不再将所谓的'超级对齐"团队作为一个独立的实体，而是将该团队更深入地整合到其研究工作中，以帮助公司实现其安全目标。
01
对齐团队是做什么的？
据了解，超级对齐团队成立于2023年7月，其目标是“在 OpenAI 大量计算的支持下，到 2027 年解决（对齐）问题”。
Ilya Sutskever 是该项目的牵头人之一，OpenAI 则表示会将 20% 的算力专门用于该项目的研究。
在一次访谈中， Ilya Sutskever 曾大胆预言，如果模型能够很好地预测下一个词，那么意味着它能够理解导致这个词产生的深刻现实。这意味着，如果 AI 按照现有路径发展下去，也许在不久的将来，一个超越人类的人工智能系统就会诞生。但更加令人担心的是，「超级人工智能」可能会带来一些意想不到的负面后果。
几天前，OpenAI 联合创始人、首席科学家 Ilya Sutskever ，刚宣布离开 OpenAI。至此，结束了与 OpenAI 的八年牵绊。
很多人可能没注意，与 Ilya 同步宣布离开的，还有超级对齐团队的共同领导者 Jan Leike。
Jan Leike正是OpenAl安全主管、“超级智能对齐团队”负责人。
据JanLeike透露，他与OpenAl高层在公司的核心优先事项上存在长期分歧，双方的分歧严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍，缺乏资源严重影响研究的进度和质量。
02
长期分歧指的是什么？
此前，在 OpenAI 内斗时，有人传言说 Ilya「看到了一些东西」，这些东西足够强大，让他对 AI 的未来产生了担忧，并重新思考 AI 的发展。
此后，包括马斯克在内的美国业界一直很关心“Ilya看到了什么？”
有记录显示， Ilya 此前曾在一段视频中提到，在 AGI 实现的那一天，AI 未必会仇恨人类，但他们对待人类的方式可能会像人对待动物一样。人可能无意伤害动物，但如果你想修一条城际高速，你不会征询动物的意见，而是直接去做。当面临这种情况时，AI 可能也会自然而然地做出类似的选择。
或许，这就是Ilya担忧的，也是OpenAl对齐团队与高层的长期分歧。
写在最后
上周，外界又开始关注“Ilya下一步会去哪里？”
有网友猜测，“如果Ilya和Andrej 创办一家真正开放的人工智能公司，会是什么样的？”
Andrej Karpathy也是OpenAI 创始成员之一，在 Sora 发布前夕刚离职，他们二人如果能联手，或将成为人工智能领域又一个重大事件。
对此，Ilya 在推文中回应，“我很期待接下来的计划——这个项目对我个人来说意义重大，我会在适当的时候分享细节。”
现在，咱们也猜想一下：“Jan Leike会去哪呢？”
如果Ilya和Andrej 真的创办了一家人工智能公司，Jan Leike是否会加入其中？
近期原创 关注阅读
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明：以上内容为用户推荐收藏至CareerEngine平台，其内容（含文字、图片、视频、音频等）及知识版权均属用户或用户转发自的第三方网站，如涉嫌侵权，请通知[email protected]进行信息删除。如需查看信息来源，请点击“查看原文”。如需洽谈其它事宜，请联系[email protected]。
版权声明：以上内容为用户推荐收藏至CareerEngine平台，其内容（含文字、图片、视频、音频等）及知识版权均属用户或用户转发自的第三方网站，如涉嫌侵权，请通知[email protected]进行信息删除。如需查看信息来源，请点击“查看原文”。如需洽谈其它事宜，请联系[email protected]。