靠谱的新媒体不多，请关注美国华人杂谈
作者 | 莫莱斯
全文共 6054 字，阅读大约需要12分钟
本文系作者原创，授权“美国华人杂谈”独家发布。转载需征求许可，规范署名(公号名/ID/作者)，违者必究
请使用网站Justicepatch.org查看完整文章及更多内容，为防失联，请通过邮件订阅网站，或关注我们的电报频道：https://t.me/piyaoba
上周，俄罗斯遭遇恐怖袭击以后，各种假消息和伪造的视频满天飞。俄罗斯主要电视台之一NTV电视台播放了一段视频，声称视频显示一名乌克兰高级官员证实该国参与了此次袭击。在视频中，奥列克谢·达尼洛夫(Oleksiy Danilov)似乎说道：“今天在莫斯科很有趣，我觉得很有趣。我愿意相信我们会经常为他们安排这样的乐趣。”这段视频也被一些亲俄博主转发到了中文社媒平台。但BBC核查证实，这段视频实际上是过去一周播出的两段乌克兰电视采访的剪辑版，NTV视频中的音频被人为篡改。
这只是利用人工智能和技术伪造政治人物言行的众多事例之一。自从2022年底由ChatGPT引发的生成式人工智能（generative artificial intelligence，简称生成式AI）大热以来，各种大语言模型和视频模型层出不穷。
生成式AI指的是可以根据用户输入的一段提示词(prompt)创建逼真的图像、音频、视频或者文本。上个月OpenAI演示的能够由文本自动生成视频的模型Sora引爆网络，但同时也引发了人们的担忧，因为AI生成的图片和视频越来越以假乱真。
近来的各种事例表明，生成式AI产生的内容有可能给今年11月的大选活动带来麻烦。网络生态对于塑造话民主话语体系的影响有目共睹，例如常见的“盗窃950元以下不用负刑事责任”，“入学方面的平权就是要实行种族配额”，“2020年大选被盗”这样的叙事，已经对选民的投票去向产生了影响。而经过生成式AI的加持，经过篡改或者完全生成的虚假内容在网络上传播，对民主话语体系和选举诚信都造成了威胁。
以文本、机器人电话、音频、照片或视频的形式出现的人工智能内容，  可以用来让候选人看起来说了或做了他们没说过的话或没做过的事，从而损害他们的声誉或误导选民。它可以用来加强造谣活动，制作看起来足够真实的图像，给选民造成混淆，从而对选举带来严重干扰。
在今年1月的初选中，新罕布什尔的选民接到利用人工智能模仿拜登的声音打出的机器人电话，敦促选民不要出门投票。官员称这可能是利用人工智能干预美国大选的首次尝试。
这些深度伪造电话与两家德克萨斯州公司有关，分别是Life Corporation和Lingo Telecom。新罕布什尔州总检察长约翰·福梅拉(John Formella)在新闻发布会上表示，当局已向这两家公司发出了停止令和传票。
未来可能发生在美国的事情，已经在世界各地上演。去年11月，在斯洛伐克选举的前几天，人工智能生成的录音冒充一名候选人，讨论提高啤酒价格和操纵选举的计划。随着这些录音在社交媒体上的传播，事实核查人员很快将其识别为虚假录音。根据路透社报道，在印度尼西亚，该国国防部长借助人工智能重新打造人设，AI帮他生成了一个胖乎乎的军事指挥官形象，会做韩式比心手势，还抱着他可爱的猫鲍比，以取悦年轻选民。
人工智能的爆炸性崛起恰逢人们对民主安全感到普遍担忧之时。2024年，将有创纪录数量的国家进行选举，这些国家的总人口占世界人口的41%。美国也将迎来生成人工智能时代的首次总统选举。美国人有很多疑问：人工智能会帮助平息人们对另一场激烈辩论的选举结果的担忧，还是会火上浇油？随着生成式人工智能产生的输出越来越难以与人类创造的内容区分开来，选民将如何区分事实与错误信息？
通过下面的事例可以看出，人工智能生成的内容，已经对现实选举造成了影响。
人工智能已经在帮川普拉票
川普已经率先从人工智能中受益。一项最新的调查显示，川普的支持者正在散布数十张人工智能生成的虚假照片，这些照片显示川普跟黑人在一起。
BBC下设的调查节目BBC Panorama报道称，这些图片似乎是由川普支持者自己制作的，没有证据表明这些照片与川普的竞选活动有关。
其中一张照片是由川普的支持者、佛罗里达州保守派电台主持人马克·凯伊(Mark Kaye)制作的，他承认自己使用人工智能创建了这张图片，并将其发布在他拥有100万粉丝的Facebook页面，配以一篇黑人选民支持川普的文章。
凯伊告诉BBC：“我不是在外面拍摄真实发生的事情。我是一个讲故事的人。我并没有说这是准确的，我不是说，‘嘿，看，川普和所有这些非裔选民一起参加了这个聚会。看看他们有多爱他。’”
“如果有人因为在Facebook页面上看到的一张照片而投了这样或那样的票，那是这个人的问题，而不是帖子本身的问题。”
凯伊生成的虚假照片，显示川普与众多黑人支持者在一起。
“黑人选民很重要”(Black Voters Matter)是一个鼓励非裔选民投票的组织，其联合创始人克里夫·奥尔布赖特(Cliff Albright)对BBC说，人工智能生成的照片似乎是2020年大选中针对黑人社区的虚假信息策略重新抬头的一部分。
奥尔布赖特说：“有证据表明，有人试图再次向黑人社区，尤其是年轻的黑人选民定向投喂虚假信息。”
BBC记者在奥尔布赖特位于佐治亚州亚特兰大市的办公室里给他看了人工智能生成的照片——在这个关键的选举战场州，即使说服一小部分黑人选民从拜登转向川普，也可能起到决定性作用。
奥尔布赖特表示，这些伪造照片符合保守派推动的“非常有战略意义的叙事”，旨在赢得黑人选民的支持。他们特别针对年轻的黑人男性，这个群体被认为比黑人女性更愿意投票给川普。
它的目标是像亚特兰大出租车司机道格拉斯这样的选民。
这位司机告诉BBC，他起初相信其中一张照片是真的，这让他更相信川普支持黑人社区。
他说：“社交媒体就是这样，骗人太容易了。”
韦恩·史密斯(Wayne L. Smith)是华盛顿特区的一名工程师，3月初他看到川普兴高采烈地依偎在一群面带微笑的黑人中间的画面时，感到很震惊。
史密斯对NBC新闻说：“他为了让黑人喜欢，什么都可以造假，为什么这张照片不能也是假的？感觉就是不对。他们想要我们的选票，但不知道如何得到它。拜登不怎么让我激动，但他不是川普。他们知道这一点，这就是他们想尽一切办法的原因。花招。欺骗。在我看来，他们实际上就是在侮辱我们，让情况变得更糟。”
IBM“负责任和可信赖人工智能”首席培训官卡尔文·劳伦斯(Calvin Lawrence)表示，与此同时，这些旨在强调黑人选民拥护川普的做法也可能吸引那些对他之前的言论和行为感到不适的白人选民。
“那些不喜欢他、仅仅因为认为他是种族主义者就不投他票的独立白人怎么办？” 劳伦斯说。“当你看到人工智能生成的这些深度伪造的视频和图片，他和黑人在一起，他们也在针对这些白人选民说，‘看，我不是种族主义者。他也不是种族主义者。’”
人工智能如何影响广大选民
对于很多人来说，不诚实地使用人工智能尤其令人担忧。人工智能专家伊丽莎白·M·亚当斯(Elizabeth M. Adams)是EMA咨询服务公司的CEO，该公司专注于负责任地使用人工智能。亚当斯告诉NBC新闻，凯伊利用人工智能生成的川普形象是 “武器化或滥用工具目的”的缩影。
不过，对于亚当斯来说，这也不足为奇。
亚当斯说，“人工智能实际上就是训练计算机像人类一样思考，但速度要快得多。因此，在这种情况下，当人工智能被武器化时，它也是社会的一面镜子，它反映了人们的所思所想，以及人们的偏见。”
亚当斯说，这也令人不安——如果有人在人工智能出现之前就是不良行为者，他们就会使用这些工具，继续从事不良行为。
IBM的劳伦斯去年写了一本书，名为《隐藏在白人视线中：人工智能如何赋能并加深系统性种族主义》。他说，过去四年他一直在警惕对人工智能的利用。劳伦斯说，在川普和他的支持者身上，他看到了他所担心的问题。
劳伦斯说，这不会影响到那些 “知道川普代表什么”的黑人选民。劳伦斯说：“更大的目标是深层造假的长期影响，那就是创造一个零信任社会，人们不再相信你说的话或他们看到的东西。在零信任社会里，你无法分辨真假。真相会被侵蚀。”
他以2020年的乔治·弗洛伊德谋杀案为例。“想象一下，如果全国都认为那个路人拍到的弗洛伊德被杀的视频是深度伪造的，认为它是人工智能生成的，会怎么样？如果人们不相信他们所看到的，我们还会有社会正义运动吗？”
根据人工智能民主计划(AI Democracy Project)上个月发布的一份分析报告，ChatGPT4和谷歌Gemini等人工智能聊天机器人对政治问题的回答有一半是完全不准确的。具体来说，其中超过三分之一的回答被专家评为不完整和/或有害，一小部分回答被评为有偏见，比如多数人工智能聊天机器人无法正确回答投票时的身份证明要求。专家们担心，这些信息可能会阻止人们参与投票，导致人们对选举工作人员的行为产生误解，令人们对参与民主感到气馁。
法规跟不上技术
美国的法规还没有准备好应对快速发展的人工智能技术及其对选民的影响。在新罕布什尔州的假电话事件发生后不久，美国联邦通信委员会(FCC)宣布禁止使用人工智能生成音频的机器人电话。尽管各州正在迅速采取行动填补监管空白，但是FCC尚未制定规则来管理政治广告中的人工智能应用。
美国众议院于2月20日成立了一个两党特别工作组，该工作组将研究如何对人工智能进行监管，并发布一份包含建议的报告。但是由于国会党派之间的僵局，以及美国监管落后于人工智能快速发展的步伐，目前还不清楚在今年的大选前能出台何种措施——如果真能出台的话。
在国家层面，或者对于重要的公众人物来说，揭穿深度伪造的过程会相当快，外部团体和记者会立即介入进行核查和澄清。然后当规模比较小时，参与核查的人就会减少，此种叙事将有可能获得立足之机。例如，在巴尔的摩，1月份发布的一名当地校长涉嫌发表攻击性言论的录音可能是人工智能生成的，但目前仍在调查中。
在联邦选举委员会(FEC)没有制定相关法规的情况下，少数几个州已经制定了关于在政治广告中使用人工智能的法律，还有几十个州已经提交了相关法案。Public Citizen组织一直在推动联邦和各州对人工智能在政治中的使用进行监管，机构执行副总裁丽莎·吉尔伯特(Lisa Gilbert)对《卫报》说，在州一级，对选举中的人工智能进行监管是两党共同关心的议题。这些法案通常要求在政治广告中明确披露或免责声明，以确保选民了解广告内容是人工智能生成的。
科技公司加紧应对
根据近期布鲁金斯学会的一项研究，前身为推特的X允许符合条件的用户以社区注释的形式为误导性的帖子添加澄清信息，被评为有帮助的注释会跟伴随原帖一起显示，作为补充背景信息。而且社区注释项目的数据是公开的，其中包括用户给标记的帖子建议的补充内容。因此可以通过检索“生成式AI”和其他相关术语在这些建议中被提到的次数，从而可以评估人工智能生成的欺骗性内容在X上传播的范围。
这些人工智能相关术语包括：deep-fake、chatGPT、midjourney、dalle和AI等。
研究结果表明，自2022年底chatGPT推出以来，提及人工智能相关术语的社区笔记数量随着时间推移不断增加。不过在总量30万条的社区笔记中，其占比依然很低，只占1%多一点。
每天在社区笔记中提及人工智能相关术语的数量。来源：布鲁金斯学会    
尽管现有数据表明人工智能生成的欺骗性内容在X平台上尚不能算作是主流，但管理人工智能工具的公司也已经宣布并启动了限制人工智能工具对选举影响的计划。
2月16日，来自Adobe、亚马逊、谷歌、IBM、Meta、微软和OpenAI等各大科技公司的高管在慕尼黑安全大会宣布了一项新的框架，以决定如何应对人工智能生成的故意欺骗选民的伪造内容。X平台也一同签署了协议。
该协议在很大程度上针对的是人工智能生成的图像、音频和视频，这些内容会欺骗性地伪造或改变政治候选人、选举官员和民主选举中其他关键利益相关者的外表、声音或行动，或向选民提供关于投票的虚假信息。
该项协议中包括“合理的预防措施”，如对人工智能生成的政治内容进行额外标注和对人工智能生成内容进行科普，以教育公众免于上人工智能的当。还可以让聊天机器人引导人们去来自可靠信源提供的投票点投票，以及不允许机器人模仿候选人。
虽然并没有加入2月签署的协议，在即将到来的美国总统大选之前，人工智能图像生成工具Midjourney也已经开始阻止其用户创建拜登和川普的虚假图像。
结语
关于2020年大选被盗的叙述在没有任何证据的情况下被分享，仅仅只是通过简单的帖子、表情包和算法（而不是人工智能生成的图像或视频）在网上传播，就导致了1月6日的美国国会骚乱。
这一次大选，对于政治党派和挑战美国民主的人来说，有一系列全新的工具可以使用，这可能会再次加剧紧张局势。
文章均为作者个人观点，不代表本平台的立场和观点。
关注我们，不再失联
电报频道t.me/piyaoba
查看更多精彩文章，请前往正义补丁网站justicepatch.org
参考资料：
https://www.theguardian.com/us-news/2024/feb/26/ai-deepfakes-disinformation-election
https://www.theguardian.com/us-news/2024/mar/04/trump-ai-generated-images-black-voters
https://www.nbcnews.com/news/us-news/trump-ai-deep-fake-image-black-voters-2024-election-rcna141949
https://www.theverge.com/2024/2/6/24063885/biden-robocalls-ai-fcc-cease-desist-lingo-telecom-life-new-hampshire
https://www.theverge.com/2024/2/21/24079371/google-ai-gemini-generative-inaccurate-historical
https://www.bbc.com/news/world-europe-68657383
https://apnews.com/article/midjourney-ai-imagegenerator-biden-trump-deepfakes-bc6c254ddb20e36c5e750b4570889ce1    

https://apnews.com/article/ai-generated-election-deepfakes-munich-accord-meta-google-microsoft-tiktok-x-c40924ffc68c94fac74fa994c520fc06          

https://www.brookings.edu/articles/the-impact-of-generative-ai-in-a-global-election-year/ 
相关阅读：
货船撞塌巴尔的摩大桥，最荒唐可笑的阴谋论淹没社交媒体
莫斯科恐袭后，阴谋论泛滥，乌克兰美国成背锅侠？
了解川普最新一系列虚假说法：这里有一份清单
教授黑入投票器，能说明选举舞弊吗？
继续阅读
阅读原文
关键词
选民
就是
黑人选民
川普
2020年