当地时间3月28日，在GPT-4发布两周之后，知名科技企业家埃隆·马斯克和包括苹果公司联合创始人、图灵奖得主等上千名科技界、商业界人士联名，发了一封石破天惊的公开信。
这封公开信呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练至少6个月。
并且要在这六个月中来制订和 AI 相关的安全协议，其中就包括如何监管 AI 输出的内容，还有如何把 AI 创造出的内容和真实的内容区分开来。
在上面留下名字的，个个都是行业里的顶尖大牛。比如，图灵奖得主约书亚 · 本吉奥、苹果联合创始人史蒂夫 · 沃兹尼亚克、《 人类简史 》的作者尤瓦尔 · 赫拉利、以及什么地方都会刷一脚存在感的埃隆马斯克。
在信中，生命未来研究所提了四个问题：
  • 我们一定要让机器用宣传和谎言充斥我们的信息渠道吗？
  • 我们一定要把所有工作都自动化吗？包括哪些人工完全可以做得令人满意的工作吗 ?
  • 我们一定要发展最终可能超过我们、超越我们、并取代我们的非人类思维吗？
  • 我们一定要冒险失去对我们文明的控制吗？
前几天，有人在网上发布了一组图片，记录了 2001 年发生在美国西部小镇卡斯卡迪亚上的了一场 9.1 级的地震之后的景象。
略带模糊的镜头记录下了当时哭喊的民众
被摧毁的建筑和房屋
甚至还有当时的美国总统小布什访问灾区的合影。
无论是破损的城市，街道上大家的穿着，都在告诉观众这是一组来自 2001 年的照片。
但问题是，根本没有这场大地震，卡斯卡迪亚上一次有记录的灾难，是在 1700 年。
原来，这组照片是用 Midjounrney 来生成的。
前几天流行的 “ 川普被捕 ” 或者是 “ 教皇穿羽绒服 ” ，都是出于 Midjourney 的手笔。
和前些年流行过的 DeepFake 换脸不同，如今的 AI 作图不需要特别好的显卡，更不需要很长的时间去调试，对 Midjourney 来说，只要坐在浏览器前敲敲键盘就行。
当 AI 让图像造假的成本足够低廉之后，咱又要花多少时间去分辨一张图是不是 AI 画的？
比如川普返乡
可能生成一张假的图片需要 10 秒，但咱们想要看出来是这张图是不是 AI 画的，可能少说得要花个半分钟。
过去几十年来人类习以为常的秘密，已经悄悄被 AI 解构成了一堆的线性矩阵。在排列组合中，瞒天过海了人类。
而图片生成还只是 AIGC （ 人工智能技术来生成内容 ）中的一部分。
前段时间还生成了一段杭州取消限行的文案，骗过了不少人。
实际上，这类大语言模型并不是没有监管，从它们出生的那刻开始，监管就如影随形了。
上个月 OpenAI 在发布 GPT-4 的时候就提到，他们早在 22 年 8 月就完成了 GPT-4 的开发。
但是之后花了六个月来搞安全问题，为的就是不让AI  “ 乱说话 ” 。
GPT-4 经过拷打之后胡言乱语的水平大幅度下降：
但问题是，现在的 AI 不像过去那些一步步执行编译的程序，要是出了问题，程序员还可以进去打断点，一个环节一个环节的调试 Bug 来把问题给搞清楚，哪一个环节有问题，针对性的改一下就好了。
但现在以 Chatgpt 为首的大模型 AI 就好像一个黑色的纸箱子，你只知道给它喂苹果，它能还你一个橘子，而中间发生了什么事情一概不知。
那万一这箱子要是出了问题，那咋办嘛？只能重新买一个黑箱子了。
李彦宏也提到： “ 生成式 AI 每次给出的答案不一定一样，会带来不确定性 ” 。
亚马逊早年引入了一个人工智能，来给求职者的简历打分。结果过了几年回头一看，在程序制定者啥也没做的情况下，性别歧视就很顺滑的出现了，男性简历的通过率比女性高了不少。
甚至就算简历上面没有明确写出性别，程序还会通过一些细枝末节的地方来确定：比如是否毕业于女子大学，是否是 “ 女子 XX 社 ” 社团社长。
这自然不是亚马逊在招聘时希望看到的，也绝对不是它们在设计 AI 时给它下的命令。
不光早些年的人工智能，最新的 ChatGPT 也依旧会有这些问题。
比如宁可让百万人失去生命也不愿意说一句种族歧视的话语。
再比如不愿意写一首诗歌歌颂川普，但是可以赞扬拜登。。。
这些都是很明显的政治倾向，我愿意相信不是有意为之， 但一不留神， AI 可能就偷偷的跑偏。
这既是训练数据集的问题，也是模型架构的问题，也是训练方式的问题，还涉及到使用的问题——比如诱导 AI 犯错的攻击式使用。  

现在的 AI 能做的还有限，捅出了篓子，可能还在我们能控制的范围里。
但如果在这样狂飙下去，那可就说不定了，就像那个知名的 “ 曲别针假说 ” 。说不定未来哪一天， AI 会认为人类都是阻挠它生产曲别针的阻碍，把大家都给噶了？
人类有和自然相处成百上千年下来的道德约束，我们知道什么能做，什么不能做。而目前，人工智能学不会这些。
或许，这才是这次数千 AI 大佬发出联名信的原因。
所以马斯克们最后问的那个问题其实很好：“我们应该冒着失去对我们文明控制的风险吗？”——可能不是想不想的问题，而是已经在失控了。
结尾我想向大家推荐一本凯文·凯利（KK）写的书，叫《科技想要什么》，凯文·凯利在这本书里换了一个视角去审视整个人类的技术史，他认为，作为一个整体，科技不是由线路和金属构成的一团乱麻，而是有生命力的自然形成的系统，这个系统也再像所有生命一样，在演化、发育，最终将破茧而出。而人类、乃至整个地球生命演化历程，这样看来，其实只是帮助技术完成其发育的那个“茧房”，起初在技术弱小的时候，我们错以为是我们在使用科技、开发科技，但当科技跨越某个节点，它的自我生命力将开始“胎动”，以一种不可遏制的趋势，脱离我们的控制。
这个过程在我们看来是“失控”，但实则是一场必然。
类似的话，我记得马斯克自己也说过，他说“人类文明很可能只是人工智能的一个开机程序”。
那么现在，问题就来了，当“上帝之手”已经按了开机键之后，开机程序们有没有彼此商量一下，发个公开信，然后自己把机器关了？
继续阅读
阅读原文
关键词
GPT-4
技术
人类
人工智能
系统