今年年底，人工智能巨头OpenAI 管理层和董事会的权力争夺之战，再次将人工智能与人类的关系问题摆上了台面：人工智能的发展，是否安全可控？能否在符合人类利益的情况下进行？所谓人类的利益，究竟是哪些人的利益？谁将影响人工智能的发展走向？人工智能的道德，将由谁来塑造？面对”日行千里“的人工智能，人类又将何去何从？ 鞠强｜撰文
在当今这个时代，人工智能（AI）堪称最热门的科技词汇，《柯林斯词典》就把AI选为2023年度词汇。但很多人也许和我一样，对人工智能的最初印象来自两场时隔近20年的对弈：1997年，IBM的超级电脑“深蓝”（Deep Blue）击败国际象棋特级大师加里·卡斯帕罗夫（Garry Kasparov）；2016年，DeepMind的“阿尔法狗”（AlphaGo）击败了围棋世界冠军李世石（Lee Sedol）。
不过，大多数人此时在震惊于人工智能深厚的棋力或者说是强大的算力之余，可能并未意识到人工智能与我们的生活有什么关系。直到2023年，ChatGPT的异军突起又掀起一阵人工智能的热潮，让人们惊呼技术改变生活。但人们在亲眼见证甚至亲自体验人工智能的力量的同时，也在目睹学术界和产业界领军人物对人工智能的潜在风险发出警告：本应和人类相向而行的人工智能，却很有可能和人类背道而驰。
能拔掉插头吗？时间回到2016年，《连线》主编斯科特·达迪奇（Scott Dadich）问时任美国总统奥巴马（Barack Obama）是否认为人工智能值得关注时，奥巴马说：“必须有人站在电源线旁边，伙计，一旦发现不对劲，就马上拔电线。”而早在1951年，人工智能的先驱艾伦·图灵（Alan Turing）也曾说过“在关键时刻切断电源”。然而，无论是图灵还是奥巴马，虽然都认识到人工智能可能存在风险，却恐怕都不能如愿以偿，因为他们忘了人工智能可能比人还聪明。史蒂芬·霍金（Stephen Hawking）在遗作《十问：霍金沉思录》也曾谈及人类希望用拔掉插头的方式应对人工智能的威胁，他这样评论：“人们问一台电脑，‘存在上帝吗？’电脑说‘现在有了。’并焊住插头。”霍金的话提醒我们，人工智能的风险可能被严重低估。2015年，他就和埃隆·马斯克（Elon Musk）等人签署了一份关于人工智能的公开信，呼吁认真研究其对社会的影响。2023年，包括三家全球顶尖人工智能公司（OpenAI、谷歌DeepMind和美国Anthropic公司）CEO在内的科学家和企业高管也发布了一封联名公开信，表达了他们对一些高级人工智能所带来的严重风险的担忧。我们愈发认识到，即便我们现在有像科幻作家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三定律”一样的约束人工智能的规则，聪明的人工智能也未必会遵守。而如果我们想避免发生人工智能挑战人类的事情，当务之急是解决“对齐问题”（the alignmentproblem）。那么，什么是对齐问题呢？
美国计算机科学畅销书作家布莱恩·克里斯汀（Brian Christian）在他的作品《人机对齐：如何让人工智能学习人类价值观》（The Alignment Problem: Machine Learning and Human Values，以下简称《人机对齐》）中，给出了关于对齐问题的精彩介绍。
从这本书的正副标题我们就能猜到，对齐问题涉及两个方面：人工智能和人类价值观。克里斯汀在这本书的“导言”里解释了什么是对齐问题：它指的是如何确保机器学习的模型捕捉到我们的规范和价值观，理解我们的意思和意图，并以我们想要的方式行事。他认为这个问题已经成为计算机科学领域内最核心、最紧迫的问题之一。
克里斯汀为创作这本书，在4年时间里，行程数万千米，对相关领域内的科学家进行了近100次正式采访，还同他们进行了数百次非正式的谈话，获得了大量第一手素材。特别值得一提的是，这些科学家中有很多就是各自领域的奠基人和开拓者，他们亲历了人工智能十多年来的飞速发展，同时也被日益凸显的各种问题所深深困扰，所以他们讲述的内容自然就更加鲜活而立体。得益于作者的持续跟踪，《人机对齐》虽然不乏对机器学习和人工智能数十年发展历史的回顾以及对未来的展望，但主要篇幅呈现的还是最前沿的进展和最具挑战性的难题。
在经历两次黯然退潮的浪潮后，人工智能已经进入第三次浪潮，并且取得了丰硕的成果，我们在书中能够看到这样一段进步的历史。但是，人工智能的发展也面临着很多棘手的难题，对齐问题就是一个代表。我们曾经想当然地认为我们制造的机器或者开发的系统应该按照“我们的意愿”行事，直到对齐问题出现，我们才发现：“我们”是个模糊的概念，因为人们的想法会彼此不同甚至相互抵牾；而“意愿”也充满不确定性，很多时候其实我们并不清楚自己想要的究竟是什么。克里斯汀在书中指出，“人类、社会和公众难题正在变得技术化，而技术难题正在变得人性化、社会化和公众化”。因此，人工智能曾经只是一项纯粹的技术，现在却开始与人类社会和人的价值观交织在一起。所以，虽然书中交代了很多技术内容，但对外行读者来说，却不存在明显的阅读障碍，因为这些内容最终指向我们同样关注的社会和价值观问题。《人机对齐》提示我们，对齐问题有技术层面的因素，但更多的是技术之外的因素，比如我们在心理学、神经科学、动物行为学、社会学等学科内仍然感到困惑的那些问题。克里斯汀在书中也提到，“随着机器学习开始与其他学科交融，还有无数悖论等着我们，这些学科本身长期以来就存在各种问题”。这些问题有些很明显，但有些却隐藏在我们不加辨别的预设中。因此，在尝试解决对齐问题时，我们也开始审视自身根深蒂固的偏见和不曾触及的盲区。在《人机对齐》中，克里斯汀就列举了一些已被注意到的问题。比如说，谷歌的照片应用程序在2015年把黑人的照片分组加上了“大猩猩”的标签，虽然媒体提出了“种族主义算法”的问题，但实际上，算法没有偏见，而是用来训练算法的数据存在“偏见”，这就是黑人代表性不足的问题；一些人脸识别系统同样因为代表性不足的问题而在识别女性或者某个特定群体时表现不佳。再比如说，风险评估工具在刑事司法系统中得到日益广泛的应用，一个名为COMPAS的系统就在美国的很多州被用来帮助进行假释裁决，但这个系统却被指出对黑人被告和白人被告进行差别对待。在诸如此类的例子中，我们希望借助人工智能和算法实现“便捷”“公平”等目标，结果却事与愿违。如果说人工智能在努力做到“有样学样”的话，那么就是人类的示范出了问题。计算机科学家需要同其他领域内的专家进行跨界合作，才能解决这些问题。在论述书中的多个主题时，克里斯汀都举了动物研究的例子。例如，在第4章“强化”的开篇，出现了爱德华·桑代克（Edward Thorndike）用“迷箱”研究小鸡和其他动物的故事；在第5章“塑造”中，开篇就是心理学家斯金纳（B.F.Skinner）用“斯金纳盒子”研究鸽子行为的例子；而在第7章“模仿”的开篇，一个叫唐纳德的小婴儿和一只名叫谷阿的小黑猩猩的互动，引出了对人类模仿行为的探讨。这些引子并非只是有趣的故事那么简单，而是展示出人类、动物与人工智能之间潜在的微妙联系。最近几十年来，动物行为学研究的成果向我们揭示了一个远超此前想象的复杂的动物世界，如灵长类动物学家弗朗斯·德瓦尔（Frans de Waal）就在《最后的拥抱》《万物有灵》等作品中介绍了动物在智力、情绪等方面与人类的相似之处。在人工智能时代，这些研究不仅帮助人类以一个独特的视角认识自己，更启发我们去探究“智能”的深刻含义。同动物行为学研究一样，人工智能研究的经验反过来又促进我们加深对进化和人类动机的理解，并对商业和育儿都有启发。一个动物幼崽、一个婴儿和一个有待训练的系统之间，存在很多相似之处。普林斯顿大学认知科学家汤姆·格里菲斯（Tom Griffiths）就认为，子女养育也蕴含着对齐问题：人类文明故事的一条主线就是关于如何向奇怪的、陌生的、人类水平的智慧生物灌输价值观，这些将从我们手中接管社会的智慧生物也就是我们的孩子。除了用于战争的发明外，人类发明的大部分技术都旨在创造更好的生活（和平利用核能也同样可以造福人类）。但当技术有失控的风险时，我们就不得不及时采取措施。在一定程度上，人工智能可能具有比核能更大的风险，毕竟发射核武器还需要人类来按下按钮，而人工智能可能自己“焊住插头”。《人机对齐》提到了一位苏联军官没有盲目相信预警卫星发出的警报、依靠自己的判断阻止了一场核战争的真实故事。如果发射按钮不是掌控在人手中，人工智能与核武器的结合可能会带来灾难性的结果。值得庆幸的是，正如《人机对齐》展示的那样，已经有越来越多的人认识到对齐问题的重要性。在很短的时间里，人工智能安全问题就从计算机科学的边缘一跃成为计算机科学家讨论的焦点。而且，由于学术界和产业界不断发声，各国政府也变得更加关注这个问题。2023年11月1日-2日，首届全球人工智能安全峰会在英国召开，这样的峰会为各国提供了人工智能安全与国际治理议题的重要对话平台与交流合作机会。不过，从这样一场峰会我们也能看到解决对齐问题的迫切性，因为即便中国、印度两个发展中大国代表参会，与会国家基本上还是美国和欧洲这样的发达国家和地区，发展中国家的代表性和发言权并未得到有效保障。这样一来，从人脸识别到自动驾驶，在人工智能技术发展的浪潮中，发展中国家的人们的诉求常常会被曲解或者忽略。解决对齐问题同应对气候变化或者防控大规模传染病一样，需要更多的国际合作。在《人机对齐》中，我们可以读到控制论的创始人诺伯特·维纳（Norbert Wiener）以超越时代的眼光预示了对齐问题：“我们最好确定，机器的目的是我们真正渴望的目的。”人工智能的发展不断超越我们的想象，我们真正了解自己的目的、人工智能的目的以及确认二者是否一致也具有前所未有的重要意义。我们可以说，在大部分时间里，人工智能都在和人类相向而行，造福人类生活，但我们也要时刻保持专注，毕竟人工智能已经不可逆转地嵌入人类的生活，对齐问题事关人类的今天，也将决定人类的未来。 作者介绍：鞠强，科普作家，中国科普作家协会科学阅读推广大使。
《人机对齐》
【美】布莱恩·克里斯汀 著
唐璐 译
湖南科学技术出版社
2023年6月出版
本书已在赛先生书店上架，欢迎点击图片购买
畅销书作家布莱恩·克里斯汀（Brian Christian）用生动的笔调，清晰阐释了AI与我们息息相关的问题。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。
阅读原文 
