当人类和AI组队时，谁会是猪队友？

海归学者发起的公益学术平台

分享信息，整合资源

交流学术，偶尔风月

2016-2017年，谷歌公司的人工智能AlphaGo连续击败了韩国九段李世石和中国九段柯洁。加上之前网络对弈的60连败，围棋选手们不得不承认，在这个领域，人类已经不是AI的对手了。但是围棋毕竟是单人项目，如果是需要团队合作的游戏，AI是否也能有出色的表现呢？

柯洁0:3不敌AlphaGo

在一项新的研究中，麻省理工学院林肯实验室的研究人员尝试让AI和人类一起玩一种纸牌游戏Hanabi。这是一种日式纸牌游戏，类似于多人接龙的形式。玩家共同合作，按顺序堆叠相同花色的牌。相较于围棋这类信息充分的棋类游戏，它最大的特点是信息不充分，玩家数量可以是2-5名，每个玩家可以看到对方的牌，但无法看到自己的牌，玩家需要向其他人提供有关他们的牌的提示，并决定是否丢弃或打出某些牌。研究人员准备了两种队友：一种是高级货，经过大数据训练的AI，而另一种则是基于游戏规则以预定义模式出牌的“机器人”。

测试的结果令研究人员感到惊讶。不仅AI队友的得分并不比机器人更高，而且人类普遍都很讨厌这个AI队友。他们认为它是不可预测、不可靠和无法信任的，即使团队得分很高，他们也会感到不开心。

以Hanabi游戏作为团队协作基准而开发的AI种类很多，在这项研究中林肯实验室使用的软件并非由他们开发，而是使用了这一领域中目前表现最好的两种软件。在与人类组队之前，研究团队让两种不同的AI合作取得了有史以来最高的Hanabi游戏得分。

研究人员之一的 Allen 认为，如果这些从未谋面的AI能够一起合作并打得非常好，那么让AI和人类合作应该也会取得好成绩，毕竟测试证明AI的水平已经很高，而人们应该喜欢高水平的队友。

然而测试的结果是，AI和基于规则的机器人获得的分数没有统计上的显著差异。更加出乎意料的是，所有29名人类选手在问卷中都明确表示更喜欢基于规则的机器人——测试中他们并不知道这局的队友是AI还是机器人。

论文作者 Jaime Pena说："一位参与者表示，他们对AI的糟糕表现感到非常紧张，甚至让他们头疼。另一位则说，他们认为机器人虽然有点笨，但却是能合作的，而AI的表现证明它理解规则，但它的选择对团队未必有利。因为很多时候它给出了不好的暗示，做出了让人误解的选择。"

在游戏中人类选手经常搞不懂AI在干什么。

图源: Bryan Mastergeorge

人类选手认为AI常出 "昏招"的看法是问题的关键所在。

2016年，当AlphaGo首次击败围棋世界冠军李世石的过程中，最著名的一手是第二局的第37步棋，这步棋是如此的不同寻常，以人类棋手的眼光来看都认为这是一个错误。后来的复盘显示，这步棋实际上是经过精心计算的，后来被称为 "神之一手"。

AI作出这种人类无法理解但是事后证明是超出人类智慧的选择时，大家都觉得这说明AI变得更厉害了。但在团队合作的条件下，这种举动可能就有问题了。林肯实验室的研究人员发现，在需要队友紧密合作的游戏中，奇怪或看似不合逻辑的选择会破坏人类对AI队友的信任——“我去，你在干什么？！”这种不按常理出牌的方式让人类选手感到无所适从：无法理解队友行动的意图，即便那可能是“神奇的”一招，但是我不懂啊，那又该如何配合呢？

需要指出的是，参与测试的玩家都是公认水平较高的专家级玩家，但是他们普遍反映不喜欢AI队友。研究人员认为这个现象对AI开发者来说很重要，因为这种被称为“团队智能”的方向是人工智能领域的另一个研究前沿。这种AI更关注使用者的主观感觉而不仅仅是让AI在预定模式中拿到更高的分数。团队AI预想的使用场景包括导弹防御系统或复杂的外科手术，在这些环境中AI的角色应该是一个“眼疾手快”的助手而不是喜欢个人英雄主义的单干户。

确实，现在大部分AI的思考方式对开发者来说也是一个“黑箱”：AI完成了任务，但是它究竟是如何完成的，在过程中经历了哪些选择和思考，很多时候并不清楚。研究人员认为，如果AI能解释其行动的原因可能会让情况有所改善，这将是他们未来一年的工作重点。就像人类团队在赛后复盘时进行交流一样，如果AI可以回答诸如“你为什么要做那个动作？”、“那个时候你在哪？”之类的问题，那么它和人类之间就有可能产生某种信任，毕竟人类的适应能力是很强的，只要能够大致理解AI清奇的脑回路，那么下一次的结果就可能不同。

研究员Siu调侃道：“大多数人工智能团队没人愿意去考虑人类的愚蠢和缓慢，更不用说还得让自己的AI去适应这种笨笨的队友，但是这是必须面对的问题”。