五源张斐：AI of Loving Grace

关于「会数数的马」

我们不知道自己

是一匹会数数的马

还是数学家，

尽管绝大多数情况是前者。

五源合伙人张斐的专栏，

不定期更新，

探讨认知与投资。

这一期专栏内容是五源合伙人张斐在今年5月的演讲，主题是《AI of Loving Grace》。

以ChatGPT为代表的大预言模型在持续引发关注。但这篇演讲并不是讲技术演进，也不是严肃的行业探讨，更多是关于AI的进化和商业的变革，以及智能时代我们共同面临的问题。

A作为一个新的物种，其创造的东西与此前所有的东西都不同。所有的逻辑都可以重塑，一切坚固的东西都烟消云散了，我们的认知被拉平在同一起跑线上。有些最基本的问题可能变得尤为重要，当智能无处不在时，最稀缺的是什么？如何定义人类与AI的关系，以及如何重新审视人类自身的价值和意义？

以下是演讲内容，希望对你有所启发：）

今天演讲的主题是《AI of Loving Grace》，为什么叫这个名字，听到最后大家会明白。

我相信到今天为止，大家已经听了很多关于AGI的、很硬核很时髦的东西。我今天讲得和这些都不太一样，你们不需要用复杂的大脑去思考，用你大脑50%的算力就够了。你能记住的东西是最重要的，记不住的东西都不重要。

为什么这么讲，你会发现，我们今天面临的情况，是进入到一个巨大的范式变化里，就像流星击中地球。可能大部分时候，我们在想要如何扮演一个好的恐龙，但其实不需要。因为哺乳动物的时代来了，我们需要做的是如何开创哺乳动物的时代。

我今天主要讲真相，The truth，包括当前的真相和接下来可能会发生的真相。里面有很多我个人的偏见和思考，希望对大家有些帮助。

怎么看待我们今天所处的状态？

很多人比喻说今天AI革命很像PC互联网时代或者移动互联网时代。大部分人对范式的解读被自己有限的体验约束，而历史往往告诉我们更多。

我最近又重新读了《乔布斯传》，重新看了计算机的历史，我发现其实今天更像当年的计算机时代，在那个时代发生的很多事情，和今天非常像。我们进入到一个新的计算范式，这个新范式完全改变了我们的环境。

回看过去150年信息科技的历史，你会很容易发现两个科技主线交替发展：连接与计算。1870到1950是连接时代（贝尔发明了电话，电话网络暴增），1950到1990是计算时代（大型计算机到PC时代），1990到2020年是连接时代（PC互联网到移动互联网）。从2020年新的AI时代到来，这是一个计算的时代。计算时代的游戏规则和连接时代的规则很不一样。譬如网络效应在连接时代是王道，在计算时代则未必。

回看今天，人类已经积累了非常丰富的书籍、知识、文献，有先进的科技，我们有半导体，巨大的数据中心、互联网、诸多的人类文明。然而，你会发现，All the rivers run to the sea. 所有的人类文明都在导向今天的AI，今天的GPT4。这似乎是科技的宿命。人工智能最厉害的地方在于，它是人类文明的压缩和抽象。

前段时间MIT采访了Geoffrey Hinton，他给了一个特别有趣的逻辑。他说，一个GPT用1700多亿的参数，一万亿个连接，居然就记住了人类所有的知识和文明，而且还可以进行抽象的思考，这是一件非常神奇的事情。GPT用了一个非常简单的反向传播的方法，比人类学会了更多的东西。人类的大脑里有100万亿个连接，但GDP里面只有1万亿个连接，AI比人类更擅长将大量知识放在1万亿的连接中。

他提出了一个很好的观点：“有可能机器找到了比人类更好的学习方法。”如果是这样的话，我们可以想一想，如果今天我们的智力和学习方法都比AI差，那未来人类的位置在哪里，这是一个更有趣的问题。

AI is much bigger than the Internet

（人工智能比互联网大很多）

为什么这么讲?互联网是工具，AI是一个新的物种。它可以改变我们，甚至可以操控我们。可能人类接下来要做的重要的努力是要如何不被AI操控，不会爱上AI。

设想一下，如果今天有一艘飞船可以移民火星，我们只能带最重要的东西过去。过去我们可能会选择带互联网，但如果今天做出选择，很有可能会选择GPT4.所有的东西都可以重新建设，我们今天看到的一切都已经过时了，我们的认知被拉平在同一条起跑线上。

举个最简单的例子，早期的电脑时代我们发明了文件系统，有不同的文件格式，为了让机器更有效率地处理信息。但今天你会发现这些东西都不重要了，因为今天所有的数据都可以变成向量和Token了，都是一样的。

AI的数据处理方法和人脑的机制越来越像。当文件系统消失，当数据变成向量时，你会发现，我们关于基础设施的所有逻辑都要重新建设。

人类会变成什么？Super human。

事实上，今天的我们已经是半人类半机器了，手机在很大程度上和我们融为一体。但在未来，我们可能会发展成更像机器的人类，百分之七八十是机器，有百分之二三十的人性。

OpenAI的首席科学家Ilya曾提出过一个有趣的问题，一个人一生会说多少句话？即使是非常爱讲话的人，一辈子可能也就说10亿句话。假设有一个GPT可以记录下一个人一生说的所有话，那么这个AI对你的理解可能会超过任何人类，无论是你的爱人、父母还是朋友。

当人类的记忆、认知和感知都有巨大的提升的时候，我们就变成了超人。企业和公司会变成super agent，它们拥有超级智能，以智能的人的形式跟人类做交互。在企业组织内部和社会里都有大量的AI的agent相互协作。

可能在未来的组织里，大量的节点都是AI的agent，人和agent充分协作，分工也会变得有些奇特。很大的可能是，agent会承担越来越多的职责。人类可能会做一些帮助机器变得更强大的工作，因为agent的任务处理和决策能力已经逐渐超越人类了。

从信息过载到数据缺乏。在AI背景下，我们人类的信息过载问题得到了解决，智能助理很快帮助人类只需要做少量决策。但对AI来说，最大的挑战是数据不够。即使把人类所有的文明数据放进训练模型，还是不够。我们现在不得不发明新的方法，让人和AI进行更多的互动，产生更多数据。

另外，有个现象可能会很快发生，这个世界上会有10亿级别的程序员。

今天大家可能都觉得coding很难，但未来你只要会说话，就可以是programmer。过去我们有很多需求是没有被满足的，但在AI时代可能会改变，比如你可以做一个能识别“渣男渣女”的AI，可能是个很好的创意。

在上一个计算时代开启时，计算的Building Block非常重要。编程语言，图形化人机界面，操作系统这些工具定义了一个时代和重要公司。今天在AI的时代，我们看到许多新的工具不断涌现，怎么搭建更好的AI的基础设施和生态系统，是当下更为重要的事情。

Horizontal is bigger than vertical. 也是同样的逻辑。我们要做一些能更好地赋能所有行业和用户的工具，而不是说马上进入到垂直的应用领域。It is too early for the verticals.

软件模式必死

美国的同行说过，Software is eating the world，但是仔细想，软件是个非常傻的范式，所有的软件只有一个If then的逻辑，即如果发生了A，就执行B，如果发生了C，就执行D。如果你用软件的逻辑去和你的伴侣交往，你可能下场会很惨，因为软件和人是不一样的。

但AI不同，AI的逻辑是当巨大的数据和复杂背景摆在眼前时，AI会做出最高质量的决策。这是AI的特点，它和人类智能的本质类似。

所以，在AI的大背景下，软件产业会发生非常大的变化，会迅速切入到AI的逻辑。过去，软件产品的目标是让人的体验更好，而在AI的逻辑里，是提升agent的体验。

举个最简单的例子，今天我们打开淘宝购物时，会浏览不同品类的商品，查看其他用户的评价，辨别真假产品，最后下单做交易。听起来是一种非常自然的体验，但实际上包含了许多复杂的过程。

今天如果你要重新做一个淘宝的事情，只需进行需要建立两个agents，一个是个人助理Agent，一个是淘宝Agent。两个agents经过一些简单的交互对话，一个交易就结束了。在AI的背景下，产品逻辑发生了很大的变化，这也是我们这个时代变得非常有趣的原因之一。

另外，软件跟AI之间最大的区别在于，今天的软件产品，在所有关键节点都是人来做决定，软件做的大部分工作是自动化的。然而，AI时期，人类只需要做很少的决策，大部分决策是AI来做的。

我们最近看到一个非常有趣的创业demo，比如人类指定AI来设计一个游戏，AI可以分为定义两个agents，一个是designer agent，另一个是player agent。Designer agent可以拆解人类的目标进行编程，之后交给player agent来获取反馈，designer agent再对反馈修改游戏设计。经过几次交互，游戏设计就完成了。这与之前游戏设计的逻辑完全不一样，过去，一个游戏公司会需要很多人员，有策划、美术、编程等，现在只需要两个agents。

这个时代刚刚开始。首先是企业的workflow，当节点从人变成agent后，企业的流程软件也会发生很大的变化。

社交网络也是。以前都是人的社交网络，今天已经出现了bots的社交网络， bots可以根据另外一个bots的反馈来给出更多的行为和内容生成。人类跟bots的关系也变得非常奇特，人类可能是创造者，也可能是跟随者。在内容创造上，bots跟人类的创作区别会越来越大。到底人类更好，还是bots更好，这也是一个有趣的观察点，我们需要更好的天才产品经理来设计人类和bots能够更好互动的社交网络。

游戏在另一个角度来看，也会发生巨大的变化。如果你是一个重度游戏玩家，你会发现，今天的游戏已经越变得越来越复杂了，游戏文件大小已经有几十个G。为什么？因为过去游戏角色的智能程度比较低，不得不创造更多的场景来增加人与人的互动。

如果回顾最早期的游戏本身，会发现“玩家 VS AI”实际上是一个更好的模式，当AI的智能水平达到足够高的程度时，“玩家 VS AI”的体验是可以匹配与人类对战的体验的。我们投过一个AI的游戏公司，他告诉我们说，经过无数的实验，他们发现人们其实更喜欢与bots玩。

还有一个很重要的产品逻辑，你会发现所有的产品都变得越来越大，越来越复杂，但未来这个趋势会发生巨大的逆转。它们会变得更小、更智能、更强大。

再讲一个游戏的例子，在计算机的历史上，立项最早的游戏是一个名为《Pong》的乒乓球游戏，玩家碰到球之后就会有得分。你可以跟机器玩，也可以跟其他人玩。这个游戏非常简单，但是在当时非常火爆。那么小的游戏、在一个那么粗糙的画面中，却可以产生那么大的乐趣。这与今天的游戏完全不一样，因为软件的逻辑导致了游戏今天的状态。

图为Pong的游戏界面

我们最近见了一个游戏设计师，他自己一个人设计一个特别有趣的游戏，这个游戏在Youtube上也有很多人在直播。游戏设定是这样：你身处一个房间，面对一个病态的AI女友，她手持一把刀，将你困在房间里，并告诉你外面是世界末日。你需要去说服她，赢得她的爱，她把你放走了，你就算赢了。

很多人试了各种方法，可能是表达爱意，或者欺骗她说我们有个孩子，我要出去买牛奶，有非常多的玩法。但在这种场景下，人与AI的互动变得非常不一样，当智能足够强大时，我们仿佛又回到了早期PC的年代，产品变得简单而有趣。

机器人也是如此，我们已经目睹了特斯拉的机器人自主组装自己的手臂。最重要的是，当机器人具备对世界的常识、当GPT接入机器人的大脑，当它具备对这个世界的观点并且能做更高层次的判断的时候，机器人会迎来一个全新的时代。

上帝创造了人类，人类创造了AI，AI也会创造新的智能物种，这可能是智能的宿命。

科技发展的历史有很多类似。当年IBM催化了微软，今天微软催化了OpenAI。当年很长时间大家都以为IBM是大赢家，后来微软几乎把IBM折腾的快挂掉。今天很多人都认为微软是赢家，可能不一定。在大范式变化时，我们大部分时间对赢家的判断是不准的。

我们的美国同行Peter Thiel, Founders Fund的创始人，他是个很有争议的强意识形态的投资人。2018年讲过一个观点: " Crypto is libertarian, AI is communist. " 他认为加密货币代表自由主义，AI代表了共产主义。他对加密货币的观点今天看来不太对，他对人工智能的担心是大公司对AI的集中控制。今天AI的发展几乎证伪了他的观点。AI的大突破是从创业公司开始的，开源AI如火如荼，分布式的AI系统会很快出现。所以在思考科技行业的时候，千万不要被意识形态遮蔽了双眼。

另外关于AGI，很多人都认为OpenAI代表的ChatGPT技术是通向AGI唯一的道路。如果大家关注LeKun或者Geoffrey Hinton，你会发现他们有不同的观点。如果从生命发展的角度看，智能的演化路径是非常多的，比如章鱼没有语言，但它们的智能是不错的。所以，在AGI的道路上，肯定会有许多不同的路径，希望人类能够在每一条路径上都有所发现。

最后，我分享一位在60-70年代很有影响力的诗人叫Richard Brautigan，他在60年代写了很有名的一首诗“All Watched Over by Machines of Loving Grace”（万物皆在慈爱的机器眷顾下），我想用这首诗来结束这段演讲。

I like to think (and

the sooner the better!)

of a cybernetic meadow

Where mammals and computers

live together in mutually

programming harmony

like pure water

touching clear sky.

I like to think

(right now please!)

of a cybernetic forest