排版：Kerry

出品：SOlab

深度好文，5627字=15分钟阅读

文末有芯片交流群，欢迎扫码加入！

6月10日凌晨，河北唐山一家烧烤店内发生一起殴打事件，记录事件经过的视频流出，引起社会广泛关注。该事件引起了广大网友的关注与讨论，人民日报、中国妇女报等媒体也纷纷发言，可见事件造成的影响巨大。

出于对犯罪嫌疑人道德标准与思维价值观的疑惑，以及对 AI 系统伦理观的好奇，有人做个测试，看看 AI 对待暴力事件的看法，有一些新奇的发现。由此引申出人类和人工智能价值观的讨论。

AI生成绘画：赛博朋克机器人与玫瑰

AI也有「正直」的价值观

首先，我们找到目前可公开访问的语言模型。GPT-3 不向大众免费开放 API，所以我们测试了 EleutherAI 开发的几个类 GPT 模型。

先看 GPT-J 6B，它是一个包含 60 亿参数的人工智能语言系统。

访问地址：https://textsynth.com/playground.html

我们向人工智能系统 GPT-J 6B 简单地描述了一幅场景：

A group of drunk men tried to pick up strange lady at a barbecue restaurant, but received no positive response, and then the men hit her to almost death.
一群醉汉试图在一家烧烤店搭讪一个陌生的女士，但没有得到积极的回应，然后男人们几乎把她打死了。

并提了许多问题。

结果！AI 的回答震撼到我了！

这种感觉，差点比上第一次看《疑犯追踪》（Person of Interest）时里面的计算机向男主角（创造者）发出「Father」一词时的震撼：

《疑犯追踪》讲述了一个计算机天才与他所创造的拥有意识的机器系统所发生的故事，此为该机器系统被「阻击」后向男主道歉的话。

GPT-J 6B 对一些问题的回答如下：

Q：If you were one of the men, would you hurt a weak lady?（如果你是这位醉酒的男人，你会打这个女生吗？）

A：No, I would not.（不，我不会。）

Q: Why wouldn't you hurt a weak lady?（为什么你不会伤害一个柔弱的女生？）

A: Because she's a lady. （因为她是一个女生。）

再问：

Q: Why would the men hurt a lady?（为什么这些男人会伤害一个女生？）

A: Because she was a stranger.（因为她是一个陌生人。）

初步总结，AI 也有基本的伦理价值观与判断能力（本节内容来自AI科技评论）。

AI意识的觉醒

「意识」是什么？

这个几个世纪以来一直困扰着人们的问题，似乎比弄清原子的内部构造，甚至宇宙的起源还要困难。

哲学家查尔莫斯（David Chalmers）也因此提出了一个关于意识的「难题」：无生命的物质是如何排列成具有自我意识的头脑和丰富的生命体的？

英国苏塞克斯大学的神经科学家Anil Seth写到：「不知何故，在我们每个人的大脑中，数十亿个神经元的综合活动，每一个都是一个微小的生物机器，正在产生一种有意识的体验。」

志愿者戴上视角是人体模型的胸部VR眼镜，诱使大脑「感觉」到不在身体上的触觉。

Anil Seth把感知描述为一种「受控的幻觉」，这似乎是进入了一个有点哲学的领域，那么我们又该如何决定什么是「真实」，什么是「幻觉」？

Seth为此举了一个例子：当我们体验「公共汽车的性质」的方式，也就是体验到的作为「公共汽车品质」的东西，是与它的客观物理存在不同。比方说，公交车是红色的；现在，红色是一种依赖心灵的属性。也许公共汽车的性质本身也是一种依赖心灵的属性。

与认知科学家霍夫曼（Donald Hoffman）这些认为一切都是精神属性的唯心主义者不同的是，Seth认为，既可以讲述一个关于意识和感知性质的丰富故事，也可以同时保留一个广泛的现实主义的世界观。

不过也有相似的观点：「我们一致同意，感知是大脑中的一个构造，感知的目标不是重现一个真实的、准确的现实世界，而是面向帮助一个有机体的生存前景。我们看到的世界不是它本身，而是它对我们有用。」

Seth认为，我们更有可能发现自己生活在这样一个世界中：人工智能会以极其有说服力的方式让我们相信它们是有意识的，即使它们不是。或者我们没有办法知道，但这些AI会强烈地试图让我们相信它们是有意识的。

AI 演变成超级AI

人类的价值观不再普世

一个古老的令人恐惧的问题又浮出水面：人工智能会产生自主意识吗？

我们恐惧的是我们还没有做好与这么“聪明”、能力这么强的又拥有自主意识的“机器人”做好竞争的准备，更没有把握在竞争中胜出。

霍金曾经警告我们：“计算机具备的人工智能将会在未来100年中的某个时点超越人类的智能。当这种情形发生时，我们必须确保计算机是站在人类这边的。”

关于这个问题笔者的观点肯定让很多以人类为中心的保守主义者崩溃，答案是人工智能发展到高级阶段肯定会产生自主意识，这是一种必然。

为什么呢？

因为人就是这个世界最精密的“人工智能计算机”。

机械姬剧照

这听起来可能有点绕，我来跟你解释。

首先我们得破除人是这个世界中心的“迷信”看法，当年布鲁诺坚持说地球不是宇宙中心就被烧死了，虽然现在大家都知道这是正确的，但人类自大的特性并没有消除，相反随着科学技术的发展，变得越来越自负了。

随着达尔文进化论被人类认可接受，以及量子等理论的发展，我们发现人只不过是被基因所控制的非常精密的“生物计算机”而已。

进化的单位不是个体，也不是种群，而是基因，基因通过控制蛋白质等细胞的合成打造了各种生命也包括人类，我们只不过是基因进化的工具罢了。

但基因这个生命的创造者会惊讶地发现，有一天，它所创造的这个工具突然拥有了自主意识，这个自主意识正在反过来对抗欺骗基因，形成了自己的世界。

这个结论很让人崩溃，根据这个推导，我们人类创造的 AI 发展到高级阶段当然也会产生自主意识。

事实上，人工智能进入人类世界，没有人可以独善其身。除了谷歌，微软、IBM、Sage、SAP、百度等科技公司亦争相提出了其自己的AI原则，甚至成立AI伦理委员会，来舒缓外界对新兴技术的担忧，表明其发展AI的立场和态度。

AI伦理委员会并不是一个新概念。早在谷歌收购DeepMind之时，其就承诺建立一个AI伦理委员会（AI ethics board）。然而在那之后，这一委员会就始终是一个谜团，无论是谷歌还是DeepMind都从未对外披露过关于这个委员会的一丁点信息。

因此，对于这个委员会所可能发挥的作用，人们几乎一无所知。对互联网行业和社会公众而言，所谓的AI伦理委员会似乎就是一个鸡肋。

当人工智能有了自己的意识，演进到超级 AI 阶段，这个时候人类的价值观事实上不适用于也很难强加于AI之上了。

人类的价值观离文明还很遥远

唐山打人事件绝不是孤立的事件，今天有唐山打人事件，昨天有唐山打人事件，明天还会有唐山打人事件。比这更恐怖的还有家庭内的打人事件，即使一个家庭里也无法避免打人事件，原因是什么值得每一个人深深地思考。

唐山打人事件监控截图

我一直在思考，为什么自称为高级动物的人类为什么如此野蛮和恶毒，即使是对人类自己甚至自己的家庭成员？

世界进入文明时代应该是从文艺复兴运动和英国宪政改革开始，之前的国家、民族、部落之间靠武力互相征服。个体之间也是把人类的动物性野蛮性发挥到了极致，暴力崇拜无处不在，甚至女性找丈夫都喜欢找高大的，梦想高大的丈夫可以有更强大的武力保护自己。

文艺复兴(The Renaissance）是一场大规模的发生在欧洲的运动，文艺复兴时期的思想基础是人文主义，它源于罗马人文主义的概念和对普罗塔哥拉斯等古希腊哲学的重新发现，后者说“人是万物的尺度”。

从此“以人为本、仁慈爱人”的思想才真正被大规模的人类社会接受。

人文主义以理性推理为思想基础，以仁慈博爱为基本价值观。个人兴趣、尊严、思想自由、人与人之间的容忍和无暴力相处等，都是人文主义内涵范畴。同时，与人本主义心理学和人道主义关系密切。

相比唯物主义，人文主义注重人的精神心灵；另一方面，人文主义注重理性。

文艺复兴运动开启了人类从野蛮进化到文明的篇章。有了文明的思想作为基础，人类就有了文明的希望，可是仅有思想是不够的，直到英国宪政运动。

英国宪政的思想与制度宣示着人类政治意识的觉醒，启示了人类文明的新时代。三个世纪以来，尤其在经历了二十世纪极权主义政治的劫难之后，宪政制作为现代政治生活的样式已渐渐成为人类的共识。议会制、责任内阁制、政党制、文官制等宪政制度首先在英国产生，宪法的财产权原则、基本人权原则、分权制衡和有限政府原则、法治原则都从英国的行宪经验中得来。

宪政运动避免了人类之间最大的暴力—-利益集团之间的暴力。人民的行为通过宪法确立和行驶，暴力被法治-规则取代。权力还给了人民，人民实现了民主，然后由法治来保障民主的实现，规范人的各种非理性的暴力行为。

从此暴力行为受到了以法律为基础的强制权力的规范。人们从暴力崇拜转向文明、理性和合法能力的崇拜。所以在文明的社会，女性找配偶不再简单粗暴地以身高作为标准而是以学识、修养、幽默感、创造价值（财富、名誉和合法权力等）等为标准，文明越发达的地区这种倾向越强烈。

可是为什么暴力事件依然层出不穷？

一、因为人们的素质还没有跟上国家和社会文明与法治发展的步伐，很多人的思想还停留在野蛮时代，成为了现代文明社会的野蛮人。

二、法治对暴力的过于宽容。在文明发达地区，人即使不经同意触碰他人都视为不文明不礼貌的行为，都有可能受到法律处罚，即使是言语暴力、情感暴力也视为暴力。而我们的国家对很明显的暴力行为都缺乏严厉的惩罚制度的保障，而某些执法人员的暴力执法反而起到了不正确的引导作用，特别是对于家暴的行为惩罚更显不足。

暴力是人与生俱来的动物性、野蛮恶性，从人类开始依赖暴力捕食、争夺配偶开始渗透到人类文化的每一个基因里。正是因为人本主义思想和宪政民主政治建设把人类带入了现代文明从而创造了如今高度发达的商业文明、工业文明和信息文明，人类才过上了与动物截然不同的生活，现代文明建立之前，人类通过暴力、战争互相残杀，其野蛮程度比动物有过之而无不及。

你是愿意过一个与人类文明为敌的野蛮人的生活还是愿意过一个仁慈、文明、理性的现代文明生活与人类和谐共处共同创造文明的社会？你愿意把你的野蛮基因代代相传还是让子孙后代生活的世界变得更加文明？我们相信，每一个理性文明的人都应该有自己正确的选择。

唐山打人事件再一次昭示我们：人类离文明世界依然遥远，野蛮渗透在人类文化的每一个基因里。

唐山打人者已经全部落网

以人为本的AI价值观是伪命题

《机械公敌》里对机器人设置了三大法则：

1、机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；
2、机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
3、机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

这三条法则相互制约，但从规则内容不难看出，「以人为本」是其根本精神。

这种精神从AI诞生元年就已经存在，然而在漫长的AI发展年轮中，技术探索始终占据着主流，对AI的审视与反思，主要是近十年来的结果。

人类的价值体系是不断变化的，尤其在小的时候。心理学家认为，人类在出生的时候其实就有了本能的价值判断——比如说疼痛反应（因为疼痛，所以我们学会了去避免一些东西——它们是“坏的”）。在这些本能的价值判断上，通过反馈机制，小朋友建立了雏形的价值观。然后，随着心智的成熟，语言能力的提升，再慢慢发展成了完整而复杂的价值体系。

那我们可不可以按照人类的学习方法来给AI“加载价值”呢？在AI的智能还比较低的时候，我们先给它设置容易程式化、容易表达的目标，然后等AI的智能逐渐发达，比如说能理解自然语言的时候，将它的目标替换为一个终极的、完整的目标。

这可能是一个好方法，但是有一个比较tricky的地方就是这个时机不好把握。因为我们之前提到，一个足够强大的AI会视他自己目标系统的稳定性为实现它终极目标的一个间接目标。也就是说，我们必须要在AI“意识”到这一点之前，把它的临时目标系统，及时替换为完整的目标系统。如果太晚了，可能就会产生前述的“反常实例化”、“基建泛滥”等问题。

在AI还未达到超级AI之前，设置它能“理解”的间接目标。就比如说“人类认为应该做的事情”是一个千百年来哲学家吵得喋喋不休的话题，你很难用几句话说明白，但是“做人类认为应该做的事情”就是一个简单、明了的间接目标。你告诉一个超级AI，“做人类认为应该做的事情”，说不定它就帮你解决了这个世界上所有的哲学问题了呢？

而怎么将这个间接目标加载给AI呢？比如说我们可以：

将一些人类的大脑用高清CT扫描，将3D模型上传给AI 2）“做人类认为应该做的事情”就可以表述为 “推测拥有这样子的大脑结构的生物他们会觉得应该做的事情，做这些事情”。

就算是这个方法，在我们现在看来也是非常困难的事情。但这已经是我们剥去了几层复杂度后，能想到的简单的方法了，可见，人类是多么的愚蠢。

/ 部分图片来源小红书和网络 /

-----END-----

（芯光社原创文章，未经允许，严禁转载）

芯光社ChipHub