马斯克发公开信呼吁暂停ChatGPT，四个天问发人警醒

‍

马斯克等发公开信紧急叫停ChatGPT

文/河岸

ChatGPT来势凶猛，我已经写了5、6篇文章讨论这个话题了，但是今天必须要说一下这个最新动向，就是以图灵奖得主和马斯克为首的一千多名大佬联名发公开信呼吁”所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统，为时至少6个月。” 这是近年来又一次来自精英阶层的呼吁。2019年3月14日，《自然》杂志刊登来自基因编辑领域的多国科学家联名公开信，呼吁全面暂停可遗传基因编辑的应用，建立一套国际通用的监管框架。

这次公开信原文发在“Future of Life Institute“。目前签名的除了马斯克，还有图灵奖得主Yoshua Bengio、苹果联合创始人Steve Wozniak、《人类简史》作者Yuval Noah Harari、纽约大学AI教授马库斯、加州大学伯克利分校智能系统中心创始人Stuart Russell等等。文章内容总结一下就是：人工智能系统可能对人类社会构成深刻风险，先进的人工智能可能代表着地球生命史上的一场深刻变革，应该以相应的关心和资源进行规划和管理。而现在，人工智能实验室已经陷入了一场失控的竞赛，没有人能够理解、预测或控制这个出自人类之手且远远比人类强大的硅基物种，所以要按下暂停键。这封信发出了四个天问，令人警醒：

应该让机器用宣传和谎言淹没我们的信息渠道吗？

应该自动化了所有的工作吗，包括令人满意的工作吗？

应该让我们开发出非人类的思想，最终可能会在数量上超过我们，比我们聪明，被淘汰，甚至取代我们？

应该让我们会冒着失去文明控制的风险吗？

公开信呼吁大幅加快人工智能治理系统的开发，对AI研究做出监管，并说“我们的社会已经暂停了对自身有潜在灾难性影响的其他技术。我们在AI领域也可以这样做。让我们享受一个漫长的人工智能之夏，而不是在毫无准备的情况下冲进秋天。“

其实AI早在2017年Alpha Go打败围棋冠军的时候也热过一段，但那时候技术还不够成熟，这一次，进步之大之快，出乎很多人意料。盖茨提到他要求ChatGPT去做AP biology的题目，然后决定是否投资OpenAI，他原本以为至少要两三年，哪想到他们只花了几个月的时间就能让机器人在AP Bio的考试中得5分（满分5分），这下让他大跌眼镜，很快就同意投资OpenAI。

一开始，很多人对ChatGPT引领的AI技术非常兴奋，但现在，越来越多人意识到AI高度快速发展背后的经济、社会、伦理和法律问题。也对这个庞然大物开始感到恐惧。360周鸿祎在和苹果CEO库克的对谈中说：“超级人工智能的时代已经开始，人的进化程度远远赶不上机器，人工智能会产生意识，变成新的物种，当GPT能修改自己的代码，自我升级自我迭代，这种进化速度超过指数级。留给人类的时间不多了。而硅基生物和碳基生物如何共处，已经超越传统安全问题了，需要有人从现在开始考虑如何应对安全挑战。”

机器对于人类的威胁我觉得这几点是非常真切，且令人忧惧的。

第一，就是替代人工，这个其实已经是进行时而且近在身边。比如AI语音合成。我有个朋友，平常上班，业余念一些文章，发在喜马拉雅，前几年还不错，很多人看，还有不少打赏，但现在根本不行了。机器读的虽然比人差一点质感，但已经非常流畅自然了。尤其是读读新闻之类的，完全没有问题。如果越来越多人失业，会成为社会安定的一大隐患。即便你侥幸成为最后一批被淘汰的人，你周围的大环境也一定会让你不安。再说，产业链都是牵一发而动三军，多米诺骨牌一样，那么到时候，整个社会的教育，制造业，电影制造等各种产业都会受到影响，你再能干再聪明，手里的工作也难保。

第二，就是我在这篇文章里《ChatGPT不会对王安忆和余华构成威胁，但会剥夺普通人乐趣》提到的，机器会降维打击人类的文学艺术创作的信心，带走许多诸如琴棋书画之类的替代活动，让人类无法实现“设定目标，努力，实现目标”这个权力过程，无法得到满足感，让人类找不到存在的意义，再加上第一类说到的失业，心理会受到很大的创伤。社会心理问题日趋严重。

第三，就是如天才数学家卡斯辛基在这篇文章《ChatGPT正在应验这位数学天才三十年前的预言》里说的：“”机器变得越来越聪明，人们会让机器替他们做更多的决策。最后，维持体系运行所必需的决策已变得如此之复杂。以至于人类已无能力明智地进行决策。人们已不能把机器关上，因为我们已如此地依赖于机器，关上它们就等于是自杀。"而最后的结果就是每一个人都成为困在人工智能和算法里的一个齿轮，沦为被机器豢养的家畜。

我在之前的文章提到过，现在对于超级人工智能有三个态度：一类人对科技非常有信心，坚信人工智能会给人类社会带来更大的效益和进步，还有一类人认为人工智能还没有那么强大，根本没有办法替代人类，还有一类就是类似卡斯辛基那样的反科技派。

面对强大的科技，卡斯辛基本人是什么建议呢？

他认为“唯一的出路是摒弃整个工业-技术休系。这意味着革命，不一定是武装起义，但肯定是激烈而根本的社会性质变化”。而且这场革命要全球同步进行，不能一个国家一个国家来，也就是大家一起提出减慢技术进步或经济增长的速度，慢慢摒弃现代技术，人类重新回归自然，“自然成为了与技术抗衡的完美理想。将自然作为与技术抗衡的理想的另一个优点是，在许多人心目中自然都会唤起某种和宗教相类似的神圣情感。” 这个目标听起来是有一些天真，也不太现实的。甚至连他自己也承认很多人不会为了拯救自由而牺牲技术带来的好处，而且人类向非技术社会的过渡将会十分痛苦，充满了冲突和灾难。

无论如何，卡斯辛基对于技术的态度影响了很多人，他的反科技的思想在美国受众很广。那时候，被他寄过邮包炸弹的生物基因工程的教授就联名呼吁停止对遗传基因工程的研究。这一次，这么多科学家挺身而出呼吁立即暂停训练GPT，可见，还是有很多远见之士深受卡斯辛基或者是类似卡斯辛基思想的观念影响，意识到超级AI对人类社会潜在的危害。

我得说马斯克这次干得不错，也表明了他做为一个实业寡头和科技精英对社会的责任和担当。在一众欢呼声中，这样不同的声音弥足珍贵，也特别醒目。

这一千位领头大哥的公开信能起到多少实际作用还有待考察--毕竟这样的公开信没有法律效用，但至少这是一个很大的动作，能够足以给那些技术亢奋者提个醒，表明态度，同时也让我们这样的普通人看到科技的另一面，而这一面，我相信绝大多数人还没有意识到有多严重。

但我对于是否能刹得住车，是悲观的。有人认为这是人类的好奇心决定的，卡斯辛基则说，科学家的动机既不是好奇也不是造福人类，而是完成权力过程的需要。与人类对自由的渴望相比，技术是更为强大的社会力量。总之，资本强大的力量和这些技术精英的好胜心和对既定目标的追求注定超大智能机器的研究会继续，只有等到这帮人把超级强大的机器人真正开发出来以后，人类才会开始商议停止使用，只是，等到未来的那一天，人和机器的博弈，人类一定能胜出吗？想想足以毁灭地球几十次的核武器，不就是如此吗？各国都铆足了劲，开发出自己的核导弹，然后去签署核弹销毁协议。人类从来都是不长记性的，历史的悲剧也因此一次又一次重演。

~the end~

点击阅读作者更多文章：

马云回归是提振信心？仇富的穷人和财富的蛋糕

ChatGPT不会对王安忆和余华构成威胁，但会剥夺普通人乐趣

默多克再婚，王石田朴珺十周年，婚姻制度需要改革吗？

河岸：马原的城堡不是童话的城堡，而是他自我的城堡

河岸：与其怪罪孔乙己一样的年轻人，不如反省一下大环境

河岸：ChatGPT正在应验这位数学天才三十年前的预言

作者简介

河岸：以后我主要在六维发文，欢迎关注我的精神咖啡馆，记录一点现象和思索。个人公号“河岸的左岸”。

平台原创文章均为作者授权微信首发，文章仅代表作者观点，与本平台无关。

更多空间精粹