编译 | 卷毛 阿虎
编辑 | 松露
“我认为算力将成为未来的货币，它可能会是世界上最宝贵的商品。”
“我预计到未来十年末，甚至可能更早，我们将拥有非常强大的系统，当我们看到它们时会说，哇，这真的很了不起。”
“通往AGI的道路是一场巨大的权力斗争。”
3月19日，知名科技博主Lex Fridman发布了他与OpenAI CEO Sam Altman的访谈视频，时长近2小时。
这是Sam Altman第二次接受他的专访，期间谈论了OpenAI董事会事件、Ilya Sutskever（伊利亚·苏茨克沃尔，OpenAI首席科学家）的现状、Elon Musk（埃隆·马斯克）的诉讼、Sora、GPT-4、记忆与隐私、Q*项目、GPT-5、Google和Gemini等话题。
“头号AI玩家”对此进行了编译，以下是我们整理后的访谈要点。（看完你会发现，Sam的回复滴水不漏，大概OpenAI也不需要公关团队了🙃）

通往AGI的道路是一场巨大的权力斗争

“那绝对是我职业生涯中最痛苦的经历，混乱、羞耻、令人沮丧，还有很多其他负面的事情。但其中也有很棒的时刻。”Sam Altman首先谈到了去年底OpenAI董事会的动荡事件，这段经历虽然艰难，但也让他学会了如何在压力下建立更有韧性的组织结构。
他认为在OpenAI成立和创造AGI之间的某个时候，肯定会发生一些疯狂和爆炸性的事件，可能还会有更多这样的事情发生。在他看来，通往AGI的道路将是一场巨大的权力斗争。
OpenAI董事会的权力过大了吗？在他看来，在大多数公司结构中，董事会通常对股东负责。而非营利组织的董事会拥有相当大的权力，他们实际上只对自己负责。他真正希望的是，OpenAI的董事会能够尽可能地对整个世界负责。
Sam Altman很满意现在新组建的董事会，他认为董事会成员需要拥有不同的专业知识，可以提供多元的观点，并不是每个人都必须是技术专家。

Ilya Sutskever没见过AGI

Ilya Sutskever是OpenAI的联合创始人之一，但许久未公开露面。Sam Altman表示自己非常尊重Ilya Sutskever，希望与他长期合作，但关于Ilya Sutskever的近期计划没有什么可透露的。
此前，被认为是OpenAI“宫斗事件”的始作俑者Ilya 
Sutskever不知去向，消失在了公众视野之中。唯一一次“露面”，还是以署名的形式出现在OpenAI的博客里。
这么长时间的销声匿迹，很难不让人遐想。有个流传的段子说，Ilya Sutskever因为见识到了AGI，他非常担忧AI的安全性问题，所以和Sam Altman产生了分歧。
Altman对此回应称，Ilya从来没有见过AGI。“我们任何人都还没有，我们也还没造出AGI”。
Altman强调Ilya非常重视关于AGI及其对社会影响的安全问题，他们在过去几年中花了很多时间一起讨论AGI的意义，以及如何确保正确地实现这一使命。
至于为什么Ilya最近较为沉默，Altman认为他是一个深思熟虑的人，可能一直在以积极的方式进行灵魂深处的探索。

马斯克的诉讼令人难过

近期Elon Musk起诉了OpenAI，指控Sam Altman和OpenAI违背了公司成立时达成的一项协议，即开发技术以造福人类而不是利润。
“我们在每一步都做出了合理的决策。”Altman认为这场诉讼是不合适的，这不符合一个AI创业者的行为，因为他知道马斯克也有过类似被攻击的经历，所以他对这场诉讼感到更加难过。尽管如此，他还是希望未来能和马斯克恢复友好关系。
此外，他提到，如果能重来，他可能会给OpenAI选一个不同的名字。OpenAI正在做的众多事情中，他认为最重要的就是实现AI普惠，让先进的AI技术为公共利益服务。
至于是否开源，他说：“我们应该开源部分技术，而其他的则不必。这件事往往会变成一种信仰之争，很难保持中立，但我相信寻找平衡点才是正确的做法。”
他相信开源模型一定有立足之地，尤其是对于较小的模型，人们可以在本地运行，这方面确实存在巨大的需求。

Sora对世界的理解更胜一筹

今年2月以来，OpenAI推出的AI视频模型Sora引起业内热议。Sam Altman提到第一次看Sora视频时的情景——
“你会看到有人走过来，挡住画面几秒钟后又走开，而被遮挡的东西依旧在那儿。我当时就想，这效果挺不错的。或者，有时候，你能看到它展现出一系列动作中物理规律的那种精准（程度），真的让人印象深刻。”
相比GPT-4，Sora在理解世界的能力上会更胜一筹吗？Sam Altman认为所有这些模型对世界的理解比大多数人想象的要多，但现在仍然存在许多问题。他相信这些模型会越来越强大，就像DALL·E从第一个版本迭代到现在，这种进步还会继续。
在发布Sora之前，OpenAI必须确保它的效率达到人们的期望，在这方面还有大量的工作需要完成。
Sam Altman认为未来很多视频，比如YouTube上的视频，可能大多数在制作过程中都会运用到AI工具，但核心仍然是由人来思考、构思、负责部分执行，并指导整个项目的运作。
现在OpenAI还在研究生成面部图像的技术，虽然进展顺利，但要在视频中生成特定人物而非通用面孔，这个过程还是挺棘手的。

GPT-4挺糟糕的

Q：“你认为GPT-4和GPT-4 Turbo最令人印象深刻的能力有哪些？”
A：“我觉得这挺糟糕的。”
Sam Altman提到GPT-3刚面世那会儿，大家觉得它很了不起，但GPT-4出现后，回头看GPT-3就觉得它糟透了，与未来的模型相比，现在的GPT-4同样显得逊色。他预计“GPT-5和GPT-4之间的差距将和GPT-4与GPT-3的差距一样大”。
最近Sam Altman习惯把GPT-4当作头脑风暴的搭档，他希望将来能看到更多这样的使用场景。现在GPT-4 Turbo的上下文窗口从8K token增加到128K，大部分情况下，我们不会用到这个上下文窗口的极限，但未来我们可能会找到新的应用方式。
同时他还强调，用GPT处理知识性任务时，通常需要事后去核实事实，比如检查它有没有编造一些假消息。随着即将推出的新版本，这种产生错误信息的情况会有很大的改善，但今年他们还暂时无法解决这些问题。

ChatGPT拥有记忆，但只是个开始

ChatGPT现在拥有记忆功能，用户可以选择让AI记住或忘记某些信息。
Sam Altman表示他们刚刚开始这方面的探索，他觉得人们想要的，是一个能够逐渐认识我并且随着时间的推移越来越有帮助的模型。这还仅仅是个起点。
“想象一下，如果我们回溯并且假设有数万亿的上下文长度可供利用，我能把我这一生中与任何人的每一次对话都放进去，把所有的邮件往来都输进去，每当我提出问题时都能调用这些信息，那将是非常酷的一件事。”
对于隐私与实用性的平衡问题，他觉得解决方法很直接，就是要给用户选择的权利。

神秘的Q*项目

关于传闻中神秘的Q*项目，Sam Altman没有透露什么具体细节。他强调增强这些系统的推理能力是一个重要的发展方向，是OpenAI想要深入探索的，但到目前为止他们还没彻底攻克这个难题。
OpenAI在模型研发中采用了迭代部署方式，从GPT-1到4都选择了公开发布，这是为了确保世界能够关注AI的进展，并在AGI真正到来之前，有时间思考和建立所需的系统、结构和治理。
但他认为这种发布策略在某种程度上没能达成目标，“也许我们应该考虑换个方式来发布GPT-5或类似的产品”。

GPT-5不确定何时发布

被问到GPT-5什么时候会发布时，Sam Altman回答说不知道，但他提到OpenAI“今年会推出一个非常棒的新模型，现在还不确定它叫什么名字”。
在接下来的几个月里，OpenAI将推出许多不同的东西，在谈论类似GPT-5的模型之外，有一系列其他的重要产品需要优先发布。
OpenAI是怎么取得关键突破的？Sam Altman表示这是一种分布式的、持续不断的创新过程，需要团队成员有的能纵观全局来思考。过去他对科技行业的大多数前沿领域都有一个清晰的地图，而现在他已经不太拥有这样的全局视角了。
Lex Fridman接着说：“你已经不是以前的那个Sam了。”

否认7万亿美金的募资

此前，Sam Altman被曝出正从中东地区筹集总计高达美元7万亿的资金，以支持OpenAI的一项半导体计划。对话中，他否认自己说过诸如“我们要募集7万亿美元”之类的话。
他认为算力将会成为未来的“货币”，它可能会变成世界上最宝贵的资源，我们应该大规模地投资以生产更多的算力。而在这个过程中，有许多难点。能源问题是最为棘手的，建造数据中心、供应链问题、制造足够的芯片也都不容忽视。
谈到OpenAI与谷歌、Meta、xAI等科技公司的竞争，奥特曼表示，科技竞争带来的好处是加速产品的研发和创新，但也可能导致一场军备竞赛。
他觉得，人们可以把AGI的开始时间想象成一个四象限坐标图，包括慢启动和快启动，以及长期和短期的时间线。他认为短期、慢启动是最安全的象限，也是他最希望所处的象限，实现人工智能的慢启动。

世界不需要Google的翻版

相比取代谷歌的地位，做一个更出色的搜索产品，Sam Altman认为，世界并不需要一个谷歌的翻版，或许存在一种全新的、更好的方法，来协助人们寻找、利用并整合信息。事实上，对于某些场景而言，ChatGPT已经做到了这一点。
对于商业模式，在互联网早期，广告是必要的，但现在世界更富有，人们愿意为没有广告的产品付费。他相信会有适合大模型（LLMs）的广告模式，也相信存在一种不带偏见地参与交易流的方式。
针对最近Gemini在生成图像中出现的偏见问题，他说团队在努力避免出现这类问题，会把模型应有的行为标准写出来并公开发布，接受大家的反馈。

期待GPT-5变得更聪明

Sam Altman对于GPT-5感到期待的是“它会变得更聪明”，不仅仅是在某些特定领域，而是各个方面整体的提升。也许在未来，更多人会用自然语言的方式进行编程。
另外，Altman强调了实体化人工智能（具身智能）的重要性。他希望在过渡阶段能看到在现实世界操作的人形机器人。他认为，如果通用人工智能只能通过人类来完成现实世界的任务，那将是令人沮丧的。OpenAI将在某个时间以某种方式重新投入到机器人研究中。

任何人都不能控制AGI的发展

Sam Altman认为AGI的定义因人而异，更倾向于讨论具体的能力而非一个模糊的里程碑。他表示，在2030年之前，我们可能会拥有非常强大的系统，但这个不会被视为AGI的终点，而是一个起点。
尽管像GPT 3.5这样的模型不会立刻改变世界，但它们已经改变了人们对未来的期望。AGI的发展应该是经济增长和技术进步的一部分，而不是一个奇点的转变。
Altman认为，不应该由任何个人完全控制AGI或OpenAI，而是需要一个健全的治理体系。他提到了自己在OpenAI董事会被罢免的经历，并表示即使在经历了一系列事件后，他从未想要拥有对OpenAI的超级控制权，并不认为任何个人应该控制AGI的发展。
谈及“如果能和AGI交流，会问些什么”，Sam Altman说：“请给我解释一下物理学的万物理论，我很想知道答案。”
原视频链接：
https://www.youtube.com/watch?v=jvqFAi7vkBc
转录翻译：https://mp.weixin.qq.com/s/Bgu8zxtz7EmZEbMk9kFamQ
「头号AI玩家交流群」进群方式：添加微信“banggebangmei”并备注姓名+职业/公司+进群，欢迎玩家们来群里交流，一起探索见证AI的进化。
欢迎分享、点赞、在看
 一起研究AI
继续阅读
阅读原文