机器之心报道
机器之心编辑部
AGI 做出来了吗？创始协议在哪儿？马斯克起诉 OpenAI 的诉讼文件疑点满满。
在刚刚过去的一天，「沉湎于戏剧性冲突」的马斯克又做了一件新鲜事：他起诉了自己参与创立的 OpenAI。
在诉讼文件中，他指控 OpenAI 不计后果地开发人类级别的人工智能，并将其移交给微软。
马斯克的诉讼针对的是 OpenAI 及其两名高管 —— 首席执行官 Sam Altman 和总裁 Greg Brockman，他们两人与马斯克合作，于 2015 年创立了这家公司。诉讼称，这两人违反了与马斯克最初达成的「创始协议」，该协议承诺公司将公开开发 AGI（通用人工智能），「造福人类」。
诉讼文件：https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf
马斯克在诉讼中称，该公司的营利性部门是在他与 OpenAI 分道扬镳后于 2019 年成立的，它在没有适当透明度的情况下创建了 AGI，并将其授权给微软，而微软向该公司投资了数十亿美元。诉讼补充道。「这是对创始协议赤裸裸的背叛。」

诉讼援引微软 CEO Satya Nadella 最近的一次采访，指控微软与 OpenAI 关系密切。针对去年 OpenAI 发生的「宫斗」事件，Nadella 表示，如果「OpenAI 明天就消失了...... 我们拥有所有的知识产权和能力。我们有人，我们有计算，我们有数据，我们拥有一切。We are below them, above them, around them」。该诉讼将此作为 OpenAI 为微软利益服务的有力证据。
基于此，该诉讼要求强迫 OpenAI 公开发布其技术，并禁止 OpenAI 利用该技术为微软、Altman 或 Brockman 谋取经济利益。
该诉讼还要求法院裁定，GPT-4 等人工智能系统和其他正在开发的先进模型构成通用人工智能，超越了微软与 OpenAI 许可协议的范围。除了强制 OpenAI 执行禁令之外，马斯克还要求法院在发现 OpenAI 现在是为了私人利益而运营时，对其用于资助公益研究的捐款进行核算和可能的归还。
根据法律诉状，马斯克在 2016 年至 2020 年 9 月期间向 OpenAI 捐赠了超过 4400 万美元。诉讼补充道，在最初几年，他是 OpenAI 最大的捐款人。马斯克在 2018 年离开了 OpenAI 的董事会，他早些时候表示，有人向他提供了这家初创公司营利部门的股份，但他出于原则立场拒绝接受。
不过，马斯克想打赢这场官司可能没有那么容易，因为他所给出的诉讼文件涉及一些尚未理清的事实，比如 OpenAI 真的开发出 AGI 了吗？所谓的「创始协议」到底是否存在？这些问题给诉讼带来了不小的难度。
OpenAI 开发出 AGI 了吗？
此案的很大一部分内容都围绕着一个大胆而又令人质疑的技术主张：OpenAI 开发出了所谓的通用人工智能。
诉讼称，「依据所了解的信息和据此形成的推断（on information and belief），GPT-4 是一种 AGI 算法」。诉讼文件引用了一些研究，发现 GPT-4 可以在律师资格统一考试和其他标准测试中获得及格分数，以此证明它已经超越了人类的某些基本能力。「GPT-4 不仅具有推理能力，而且比普通人更善于推理，」该诉讼称。
微软去年 4 月发布的论文 ——「Sparks of Artificial General Intelligence: Early experiments with GPT-4」就在被引用的研究之列。在这篇论文，微软提出了一个断言 ——「鉴于 GPT-4 能力的广度和深度，我们相信它应该被合理视作一个通用人工智能（AGI）系统的早期（但仍不完整）版本。」如今，这句话被马斯克作为证据写进了诉讼文件。
同样被列为证据的还有传闻中提到的 OpenAI 神秘模型 ——Q*（Q star），诉讼文件称，该模型更接近 AGI。
此外，文件还提到，微软只对 OpenAI 某些达到 AGI 之前的技术拥有权利。不过，就微软的许可而言，OpenAI 是否达到 AGI 由 OpenAI 公司的董事会决定，而 OpenAI 现在的董事会没有能力判断 OpenAI 开发的算法是否达到了 AGI。
2023 年 11 月 17 日，OpenAI 公司董事会解雇了 Altman 先生，因为『他没有始终如一地对董事会坦诚相待』，董事会对他继续领导 OpenAI 的能力失去了信心。在接下来几天的一系列令人震惊的事态发展中，Altman 先生和 Brockman 先生与微软联手，利用微软对 OpenAI 公司的巨大影响力，迫使 OpenAI 公司董事会大多数成员辞职，其中包括首席科学家 Ilya Sutskever。
据了解，新的董事会成员是由 Altman 先生亲自挑选的，并得到了微软的支持。新的董事会成员缺乏大量的人工智能专业知识，据了解，他们没有能力独立判断 OpenAI 是否以及何时达到了 AGI，也就无法判断 OpenAI 开发的算法是否超出了微软的许可范围。
对于诉讼中提到的这些信息和推论，人工智能领域的很多专家都表示没有办法认可。
华盛顿大学名誉教授、人工智能专家 Oren Etzioni 说：「GPT-4 是通用的，但它显然不是人们通常所指的 AGI」。
斯坦福大学专门研究人工智能和语言的教授 Christopher Manning 在谈到马斯克诉讼中的 AGI 断言时说：「这将被视为一种夸大的说法」。Manning 说，人工智能界对什么是 AGI 存在不同看法。一些专家可能会降低标准，认为 GPT-4 能够执行多种功能，因此有理由将其称为 AGI，而另一些专家则倾向于将这一术语保留给能够在任何事情上胜过大多数或所有人类的算法。他说：「根据这个定义，我认为我们显然还没有 AGI，而且离它还很远。」
加州大学伯克利分校教授 Michael Jordan 说：「我感觉我们中的大多数研究人员都认为，大型语言模型（如 GPT-4）是一个非常重要的工具，可以让人类做更多的事情，但它们的局限性使得它们远非独立的智能体。」
Jordan 倾向于完全避免使用 AGI 这个词，因为它太模糊了。他说：「我从未发现马斯克有任何关于人工智能的言论是经过校准或基于研究现实的。」
马斯克的诉讼面临的另一个困难是，OpenAI 长期以来一直使用自己对 AGI 的定义，将其描述为「在大多数有经济价值的工作中胜过人类的高度自主系统」。如今看来，GPT-4 与这一标准相去甚远。
有趣的是，就连马斯克自己提出的 AGI 定义都能将 GPT-4 移出 AGI 之列。2022 年 12 月，在他宣布 OpenAI 新推出的 ChatGPT「好得吓人」之后不久，这位企业家提出，算法需要「发明惊人的东西或发现更深层次的物理学」，才能配得上这一称号。马斯克写道：「我还没有看到这种潜力。」
斯坦福大学法学院教授 Mark Lemley 对 AGI 的主张和该诉讼更广泛的法律依据表示怀疑。虽然 OpenAI 看起来确实不那么开放了，而且变得更加以利润为中心，但这给马斯克带来了什么权利还远不清楚。
Lemley 说：「值得注意的是，诉状中并没有包含马斯克与该公司之间的任何合同，也没有包含他执行这些原则或拿回钱的任何权利的文本。」如果存在这些文件，我希望它们能在诉状中占据显著位置。
「创始协议」在哪里？
另一项颇具争议的内容是马斯克在诉状里提到的「创始协议」，而这份协议并没有出现在证据附件里。
The Verge 网站主编 Nilay Patel 认为，马斯克是在指控 OpenAI 违反了一份并不存在的合同。而且违约索赔中也承认，「创始协议」基本上就是大家在一些电子邮件中捕捉到的蛛丝马迹。
诉讼文件中写道，「OpenAI, Inc. 的创始公司章程以及原告与被告之间多年来的多次书面沟通等文件中均有关于该创始协议的记载（memorialize）。」
Nilay Patel 认为，马斯克的律师故意用了「memorialize」一词来替代「written down」，这是因为难懂的内容更容易赚律师费。
接着，它又引用了「公司章程」，但这不是合同，马斯克也没有签署，只是简单地写了以下内容：
该公司的具体目的是为人工智能相关技术的研究、开发和传播提供资金。由此产生的技术将造福于公众，公司将在适用的情况下寻求开源技术，以造福于公众。本公司的成立不为任何人谋取私利。
这里没有任何协议 —— 也许 OpenAI 复杂的公司结构（包括非营利性公司拥有营利性公司）确实颠覆了这份文件中阐述的理想，但马斯克不能因此起诉，因为这不是一份合同。
违约索赔还提到了 Sam Altman 写给 Elon Musk 的一封电子邮件，其中提到 OpenAI 开发的技术将用于「造福世界」，马斯克回复说：「完全同意。」
Nilay Patel 表示，他问了几个律师朋友这些看起来像不像合同，他们大多一脸茫然。这与马斯克对合同运作方式越来越模糊的理解如出一辙。
综合来看，Nilay Patel 认为，马斯克对 OpenAI 的批评是有道理的，但他请的律师让人感觉一言难尽。「他的律师们已经发现，让这位世界首富在无厘头的诉讼中耗费大量的计费时间，比让『事实』符合『法律』或其他普通律师所做的事情更有利可图。」
自 OpenAI 走向闭源以来，马斯克一直在各个平台上抨击这家公司，并表示自己担心 AGI 可能逃离人类控制，采取危害地球的行动。Altman 过去也曾谈到马斯克的一些担忧，他评价马斯克说，「我喜欢这家伙。我认为他完全错了，」「他可以说任何他想说的话，但我为我们正在做的事情感到自豪，我认为我们将为世界做出积极贡献，我试图超越这一切。」
参考链接：
https://www.wired.com/story/wild-claim-at-the-heart-of-elon-musks-openai-lawsuit/
https://www.theverge.com/2024/3/1/24087937/elon-musk-suing-openai-nightmare-1l-contracts-exam
© THE END 
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
继续阅读
阅读原文