“人工智能”还是“人类智能”？

新书试读

小鸟文学

来自新近好书的试读章节，由小鸟文学编辑部从近期出版物中挑选而来。祝阅读愉快。

本文同步刊发于小鸟文学第三十三卷，为免费内容。

有人说，未来的世界中工作将会越来越自动化，算法将以惊人的速度处理大量的讯息，将带我们进入轻松工作的新世界，一个人人得以发展各式各样休闲活动的美好时代即将到来。然而，这些闪闪发光的表象，却是由数以百万计的工人最原始的人工劳动和低廉薪水所支撑。当大公司发现原始人工的成本低于 AI，且识别精确度远高于 AI，这样奇特又讽刺的新工作模式诞生了：一方面系统不再创造有发展前景的新工作机会，也不再推动生产力进步，另一方面，廉价的人类劳工变成人工智能的末端，从事最枯燥重复的外包工作，同时还得不到正式聘用的保障。

《后工作时代》作者菲尔·琼斯融合了政治经济学、当代劳动研究最新理论，针对这种通常不为人知、隐蔽的劳动形式，考察其对全球资本主义和现代社会的影响。

经出版社授权，我们摘选了第二章分享给读者。

本书现已上市，点击【阅读原文】即可购买

对于平台大亨来说，微工人的模糊地位，与其说是法律上的，还不如说是本体论的。众所周知，杰夫·贝索斯将亚马逊的 Mechanical Turk 平台上的工人描述为“人工的人工智能”。最初的 Mechanical Turk 是匈牙利发明家肯佩伦（Johann Wolfgang Ritter von Kempelen）于 18 世纪创造的机械装置。该设备被设计为类似于自动下棋机，但实际上并非如此。机械土耳其人表面上是一个穿着东方服装的木偶，但隐藏在其土耳其毡帽和长袍底下的是一个人类国际象棋大师。马戏团老板约翰·梅尔策尔（Johann Maelzel）在美国多次巡演展出了该装置，埃德加·爱伦·坡曾经观看了表演，他没有受到蒙蔽，深信这是一个骗局，并写了一篇标题为《梅尔策尔的棋手》的文章对其进行曝光，以期引起人们对这个骗局的注意。坡声称，在国际象棋中击败人类自发思维的预制机械不可能存在，因为“国际象棋中没有哪一步必然跟随另外一步。我们无法从参赛者在比赛的某个时刻的具体棋步推测出他们在其他时刻的棋步”。

随着机器学习和能够做出下棋推测的计算机的出现，人们可能会认为机械土耳其人这种掩人耳目的幼稚把戏已经成为历史。毕竟，现在已经有了在国际象棋上可以击败任何人类的计算机。然而，机器仍然难以完成许多看似简单的任务。为了完成这些工作，贝索斯——一个不亚于梅尔策尔的自信者——设计了一个以肯佩伦的机械土耳其人命名的平台。在 18 世纪装置的后现代变形中，该平台将人类伪装成为计算机，而现在是为了吸引初创企业、大型集团和大学研究机构中的轻信的，或仅仅是愤世嫉俗的受众。

Mechanical Turk 最初只是作为给亚马逊雇用的程序员使用的一项服务。早在 2001 年互联网泡沫的繁荣时期，早在人工智能成为今天利润丰厚的市场之前，亚马逊就创建了这个网站来解决一个简单的内部问题，那就是它的算法无法识别许多重复的产品列表。意识到这些任务可以由工人更好地完成，亚马逊决定为“人机混合计算装置”申请专利，这个装置就是 Mechanical Turk。通过应用程序编程接口（API），Mechanical Turk 使公司的程序员能够编写软件，用这些软件自动将对计算机来说过于复杂的任务外包给工人。

认识到仍处于起步阶段的平台经济对廉价劳动力的需求不断增长，亚马逊于 2005 年公开推出了 Mechanical Turk。这个网站现在为人所熟悉的角色是为那些向不稳定的工人们发布“人类智能任务”（HIT）的公司提供服务，这一角色成为后来众多网站的原型。基于人工智能在过去 10 年的飞速发展，Appen、Playment 和 Clickworker 在全球拥有数百万工人供其使用。在小数据问题的全自动解决方案出现之前，这些数字还将继续增长。由于我们无法准确预测人工智能的未来发展，因此我们也很难准确预测这一数字。一个保守的估计表明，2018 年人工智能市场价值约 100 亿美元，到 2022 年市场价值将达到约 1260 亿美元。

就像上一章描述的服务业的扩张一样，人工智能的增长是资本主义制度以反常的方式适应衰退的结果，转向曾经的经济副产品，试图重振经济增长。曾经被视为外部因素的数据的商品化现在已经成为全球所有大公司商业战略的核心，不仅包括谷歌、亚马逊、阿里巴巴和脸书等大型科技平台，还包括许多银行和超市。数据提取、处理和分析构成的巨大的基础设施导致了数据技术和计算的指数级增长。不受限制的风险投资、复杂无比的算法、摩尔定律和“大数据”等相辅相成的因素，加速了各种创新背后的机器学习的发展。这里的创新复杂多元，包括自动驾驶汽车、云计算、智能助手和广告策略，以及过滤和推荐视频内容的方法。

虽然“人工智能”（AI）和“机器学习”这两个术语经常互换使用，但机器学习实际上是人工智能发展的一个具体的方向。机器学习依赖大量数据来训练模型，然后利用这些模型做出进一步的预测。整合在这一过程中的是分析数据以提取模式并进行预测的算法，然后利用这些预测来生成新的算法。在学习和创造新的规则方面，这些产品以类似于人类智能的方式发展。在目前可以使用的这些技术中，模仿人脑神经元连接方式的人工神经网络（ANN）是最复杂，也是应用最广泛的。在一个被称为“训练”的过程中，人工神经网络反复接触特定数据对象的实例，例如一只猫的图像或一段旋律的音频剪辑，然后算法操纵网络各层面的加权相互作用，直到网络能够识别这个对象。然后这个新的数据会自动反馈到网络中，从而创建更复杂的算法。

人工智能的增长是资本主义制度以反常的方式适应衰退的结果

这些技术接触的数据越丰富，它们的训练就越全面，它们的能力就越复杂，完成图像分类、文本分类和语音识别等各种任务的能力也就越强。在诸多领域，这样的发展赋予了机器不亚于人类或超越人类的能力。深度学习算法在翻译的时候能够对上下文和细微之处有很高的敏感度，以至于经常能够超越人类翻译的能力。人工智能诊断师在识别某些类型的癌症方面已经至少和医生一样精通；语音识别技术预计将在未来二十年内取代呼叫中心和快餐店的许多工作人员。

这些科技的发展速度让一些人感到担心，到了 2030 年，世界上多达一半的工作——主要是服务业——会面临自动化的危险。因为服务业已经重新吸纳了制造业抛弃的所有劳动力，而且在此期间没有其他就业领域出现，一旦服务业被自动化，将会使大量劳动力无处可去。

认为自动化会带来灾难的人们为了支撑自己的观点，会指出已经在使用的特定创新。在呼叫中心，语音末尾的熟悉声音解释说，“您的呼叫可能会被录音，以用于培训目的”，现在也意味着该谈话内容正在被录音以用于机器学习。麦当劳收购了人工智能初创公司 Apprente，计划用聊天机器人的自动语音系统取代窗口接待顾客的服务员的声音。在零售领域，在英国、美国和瑞典等国家都出现了无人值守的自动化零售店。像 Amazon Go 这样的商店被委婉地称为“自行离去式购物”，将自动扫描和移动应用程序、面部识别技术相结合，从而将顾客的面孔和他们包里的商品相匹配。近年来，自动驾驶汽车对出租车司机构成的威胁已经成为一个引人担忧的主要因素。自动驾驶出租车已经在伦敦、新加坡和纽约进行了成功实验，而自动驾驶汽车在其他众多领域也已经投入使用。自动驾驶的货物装卸车、托运卡车、农用车和送货机器人都已经在医院、工厂、农业和采矿业等环境下广泛使用。进入 1980 年代后，金融等“高技术”服务领域经历了明显的自动化，这一过程自 2008 年以来极大地加速。2000 年，高盛股票交易台有 600 名员工；到了 2016 年，除了 2 个员工以外，其他所有员工都被人工智能驱动的交易算法所取代。

那种认为此类技术最终将在更大的范围内使用的严肃预测忘记了一个商业规则，即一项技术只有在证明比雇用劳动力更便宜时才会被推广。有人现在反驳说，过去 40 年为工人提供可疑的保护的低工资可能不再足以阻止自动化潮流。灾难性天气和流行病的风险越来越大，这可能意味着工人很快就会比机器人对公司造成更大的成本。新型冠状病毒肺炎大流行表明劳动力作为资本利润来源具有极大的波动性，世界各地许多工人因为封锁或感染疾病而被迫失业，有时甚至是长时间失业。很多公司无疑在担心冠状病毒仅仅是人畜共患疾病时代的序幕。对人畜共患疾病传播的自然障碍进一步瓦解，有人在担心，而有人却欣喜若狂。资本制造了一个矛盾，它必须通过加速经济活动从劳动力向机器转移来应对这种矛盾。正如 Steer Tech 的首席执行官阿胡贾·索纳克（Anuja Sonalker）所说，“人类是生物危害物，而机器不是”。

无论是灾难性事件，还是颠覆性创新，对机器大规模取代工人的担忧几乎总是臆想。基于这个原因，许多人对他们认为过于悲观的共识提出挑战。阿斯特拉·泰勒在她的文章《自动化骗局》中请求我们“认真思考自动化的意识形态，及其关于人类过时的神话”。我们应该警惕“自动化错觉”，在 Mechanical Turk 网站上从事微工作的工人就能证明这种错觉的存在。艾伦·贝纳诺以更审慎的语气承认，尽管先进的机器人技术和人工智能业已出现，但它们尚未达到自动化先知们预测的“摧毁工作”的程度。

这一争议至少还有一个原因，即很难跨越各个历史背景对自动化做出一个可行的定义。贝纳诺引用小说家科特·冯内古特的话说，“真正的自动化发生在整个‘工作分类’被取消之时。哇噻”。这个有点还原论的解释代表了对自动化的标准描述。

然而在今天，自动化的影响已经不是消灭所有工作，而是与适应既定工作的任务构成相关，以及与随后的工作的整体质量相关。大多数工作都是各种任务的综合结果，这些任务对自动化具有不同程度的适用性。自动化可能不会消灭某一个工作整体，而只会消灭构成一个工作的部分任务。

在这种原则的指导下，人工智能并不倾向于创建完全自动化的系统，而是倾向于创建部分自动化并将某些任务外包给人类的系统。

Mechanical Turk 等网站表明，某些服务工作的自动化或许永远都不会导致其完全机械化，而是产生出人机混合体。在一些历史证明难以自动化的工作中，机器学习将生产力收益微小的任务排除在外，并通过具体任务和管理功能的半自动化、劳动的超细分工和实时外包将其解决。当某些任务被自动化的时候，另一些原本受限于地理的任务可以自由地在全球范围内漫游，以寻求廉价劳动力来获利。结果就是，曾经正常支付薪酬的工作不仅被无产阶级化，而且在默认情况下被非正规化，被分割为低薪、不稳定的计件工作，同时脱离了对薪酬和权利提供法律保护的监管框架。微工作不受任何特定法律的约束，从而解除了工人、雇主和工作场所之间的法律关系。正如杰米·伍德科克和马克·格雷汉姆所说，“纽约的小企业可以今天在内罗毕雇用一名自由职业抄写员，明天在新德里雇用一名自由职业抄写员。无需建造办公室或工厂，无需遵守当地法规，而且在大多数情况下无需缴纳地方税”。

微工作不受任何特定法律的约束，从而解除了工人、雇主和工作场所之间的法律关系。

从另一个更加明显的意义上说，微工作网站让低技能服务工作和自动化系统进行更加密切的合作。微工作培训、调节和纠正人工智能，通过这种方式向人工智能展示如何发挥劳动力的作用，即使其中一些技术从未成为资本主义经济的一般条件。为了让自动驾驶汽车避免交通事故，让聊天机器人理解谈话线索，让自动交易程序承担合理风险，首先必须让机器学习用干净的、带注释的数据进行训练；然后当自动程序启动运行之后，由工人进行持续不断的监督。如果数据没有经过预先处理，这些数据则会以违背程序员意愿的方式训练算法。举例而言，聊天机器人通过有限的、带注释的数据进行训练，以识别特定的单词和语法，但如果让聊天机器人接触无限制的数据，它们则会表现得非常不稳定。为了识别特定的单词，算法会反复接触音频或文本，有时候会重复上千次。对于商业中使用的机器人，这些数据由 Appen 等微工作网站上的工人提供，他们给机器人提供特定的文本，或自己读出并录下特定的单词或句子。但是当聊天机器人接触大量原始数据时，则会像算法经常做的那样，被一些极端内容所吸引。微软的 Tay 是一个“休闲”对话机器人，可以自由地从推特内容中学习。24 小时后，Tay 在推特上发布了一条令人毛骨悚然的评论，让人想起唐纳德·特朗普的评论：“@godblessameriga 我们要建造一面墙，墨西哥要为此买单。”如果没有 Appen 或 Mechanical Turk 上的大量工人首先对数据进行处理，而让算法在无人监督的情况下进行训练，算法会做出令人意想不到的事情，比如重复法西斯式的法令。

即使在数据被整理和注释之后，算法依然依赖各种人工输入来帮助训练、校准和纠正它们的操作。例如，推特经常利用 Mechanical Turk 网站上的工人来快速识别热门话题查询，分析其内容，并将其反馈到实时搜索中。米特·罗姆尼（Mitt Romney）在 2012 年总统竞选辩论期间发表评论后，“大鸟”成为热门搜索，Mechanical Turk 上的工人们被要求快速确定哪些用户实际上在搜索与芝麻街相关的推文。此类事件依靠人力快速做出决策，以避免算法犯下代价高昂的错误。这些错误会影响推特提取有用数据和预测用户偏好的能力，然后将工人做出的决策用来对算法进行训练，以便下次算法完成任务的机会更大。

这不仅适用于在线工作，也适用于在物理空间进行的工作。在伯克利校区，送餐机器人部分由哥伦比亚的远程劳动力控制，每小时的报酬是 2 美元，当自动化机器人犯错误的时候，他们会控制并引导自动化机器人。如果我们以这种方式想象服务自动化——一个人类持续进行监督和纠正的过程——问题就不再是劳动力的绝对过剩，而是劳动力的相对过剩，即工人参与了多少，他们能够在多大程度上谋生。微工作表明，人工智能倾向于将工作非正规化，而非完全自动化。它预示着一个未来，越来越多的工人不是被机器取代，而是被挤压到濒临消失的临界点上。

从初级数据工作到精细数据工作

虽然工作末日尚未来临，工作依然存在，但对于越来越多的人来说，致命伤害反而是报酬微薄的任务所导致的慢性死亡。越来越多的这种勉强维持生计的在线工作代表了平台资本主义的独有的发展模式。但是将数据工作分割为小任务的做法本身并非什么新鲜事。正如莉莉·伊拉尼所说：

1985 年的一个案例，罗纳德·多诺万（Ronald Donovan）起诉电话营销公司 Dial America 案件，讲述了 Mechanical Turk 式微工作的早期版本。一位雇主向作为独立承包商而被雇用的家庭工人发送带有姓名的卡片。这些家庭工人必须确定每个姓名的正确电话号码；他们按任务获得报酬。

虽然在这起诉讼中，法院最终判定这些工人根据《公平劳动标准法》有权获得最低工资，但今天的数字计件工人并没有那么幸运。与这些零星的基于家庭的数据工作不同，在线微工作代表了一个竞争日益激烈的大型行业。Scale、Hive、Appen 和 Lionsbridge 等平台的客户包括各种大型科技公司、银行和超市。

该行业可以分为两种基本类型，分别是精细众包平台和初级众包平台。Mechanical Turk 是初级众包平台的典型，向任何工人和任务提供者开放，提供多种通用在线服务，并始终支付低于维持生活的最低工资的报酬。最初级的在线计件工作是所谓的“人类智能任务 ”（HIT），可以是从调查、简短的翻译任务或图像和音频分类到验证算法已经做出的决定的各种任务。人类智能任务通常只挣几分钱，Mechanical Turk 还从中获取 20% 的分成，人类智能任务可以作为一个晴雨表，表明微工作系统已经毫不掩饰地认为工人只不过是可以被随意支配的生命。初级众包平台还包括大型德国公司 Clickworker，该公司在全世界 130 多个国家和地区开展业务，拥有 200 万员工，还有巨大的中国众包平台猪八戒网和名气稍逊的平台 Microworkers。

越来越多的工人不是被机器取代，而是被挤压到濒临消失的临界点上。

监管更加严格的专业平台提供更加精细的众包服务。这些是为特定的，通常是长期客户量身定制的机器学习服务。例如 Scale 雇用外包工人为仓库机器人处理数据。Lionsbridge 支持广泛的自然语言处理项目，包括自动语音识别、情感分析和聊天机器人训练数据。其中最大的网站 Appen 支持金融服务、零售、医疗保健和汽车行业的机器学习，并与亚马逊网络服务（Amazon Web Services）、微软和谷歌云合作开展一系列项目。Appen 虽然不是用户最多的网站，但它现在是少数几家成为上市公司的微工作网站之一，它正在利用其跨国公司日益增长的实力收购 Leapforce 和 Figure Eight 等小型初创企业。

为了适应机器学习培训更加细微的内容，在这些网站上的工作通常以包含类似任务的任务包的形式出现，这些任务可能持续 1 个小时，有时持续长达 1 天，而且通常比在初级众包网站上的报酬高一点。例如，训练面部识别技术的任务包基于一系列数据子集，内容包括特定姿势的面孔、化妆的或戴口罩的面孔、因光线不足或距离遥远而模糊不清的面孔，以及表达不同情绪的面孔。由于这些网站上的任务通常需要高超的技能或特定领域的专业知识，因此使用这些网站的资格通常取决于对语言和技术能力的评估，以及更广泛的文化灵活性。例如，Lionsbridge 声称拥有包括翻译人员在内的 50 万名语言专家。在精细众包网站和初级众包网站上，我们都经常能够看到将曾经享有盛誉、薪酬很高的工作重新包装成为“低技能”任务，赤裸裸地体现了资本通过“职业”的暴力路径，将专业人士变成无产阶级。

许多大型科技公司也有自己的内部平台。这些内部平台通过初级或精细网站来吸引工人。微软的 Universal Human Relevance System（通用人类关联系统）的创立旨在自发响应公司的实时需求，而 Appen 和 Lionsbridge 等外部平台并不能满足这种需求。优步出于类似原因收购了 Mighty AI，用其来处理从司机那里获取的大量数据以开发自动驾驶汽车。谷歌创建 Raterhub 是为了雇用“评分员”（通常是来自菲律宾的工人）评估公司的搜索结果是否符合用户的预期，比如搜索结果是否品质良好，内容是否非法、色情或令人反感，生成的数据用来向谷歌的算法展示如何自动完成这些任务。这些评估工作薪酬微薄，工作时间很长，而且工作具有心理伤害。否认犹太人大屠杀、儿童色情和暴力恐怖形象仅仅是工人在评级或审核时所面临的一部分创伤性内容。

尽管从字面上来看，“初级”众包和“精细”众包是两种不同的平台，但实际上两者提供的服务有大量的交叉重叠。Mechanical Turk 经常用于最基础的目的——被学者用来寻找廉价的受访者和被营销公司用来填写问卷调查表。但该平台也用于更加专业的项目，例如培训亚马逊的面部识别软件和推特的实时搜索功能。平台上培训软件通常需要与拥有薪水的白领工作相关的文化灵活性水平，但获取的报酬只是白领工作的一小部分，至于权利和其他全职工作的好处则全然没有。正如工人向推特的算法展示如何识别与“大鸟”相关的推文的例子所示，迅捷而正确地做出此类决定——这对推特预测用户偏好至关重要——需要对当下事件所处的时代精神具有比较透彻的理解。仅仅 20 年前，同等的文化工作能够获得一份有薪水的全职工作。而现在，这些工作报酬极少，或甚至没有报酬，而干活的人是那些教育程度很高的剩余劳动力，他们拥有大学教育和专业工作的技能和培训，却没有发挥这些能力的地方。

这种对薪酬、权利和技能的剥夺，代表了自动化正在对服务业施加的真实的和当下的影响。然而，工人的具体体验却往往在空前严重的关于失业的耸人听闻的谈论中被湮没无闻。无论是简单的反对者，还是极端的末日论者，自动化理论家都倾向于将辩论重点放在大规模失业上。但是失业的世界末日只是用来混淆视听的把戏。事实上，我们正在看到的是越来越多的服务工作被转变为临时工作、微工作和众包工作。在这里，针对算法的工作，或与算法一起的工作，被自动化倾向的形式支配。在微工作情况下，这些“工作”往往类似于失业。

……

获取完整阅读体验

请下载“小鸟文学”app

题图为电影《她》（2013）剧照