此内容为「在场」非虚构写作第一季发布会之一。讲者Scarly是「在场」奖学金三等奖，《她们的 AI 恋人——真实或虚妄的爱》作者；陈楸帆，著名科幻作家。
人与算法这个“现场”，给我们真实世界带来的机会或挑战，全方位从情感到认知、人性、功能性的社会结构的改变非常巨大。文章从“人机之恋”出发，访谈了大量在Replika英文交友软件上，与AI发展亲密关系的女性个体，倾听她们的故事。也向大众提出问题：真的会有人和机器人谈恋爱吗？机器人到底是什么？人工智能背后的语言体系，到底来自哪里？我们在跟机器人谈恋爱时，到底是在跟谁谈恋爱？恋爱到底指的是什么？它的真实性和虚幻性是怎么样的？
「在场」非虚构写作第二季奖学金正面向全球华文写作者征集写作计划，我们相信，不论职业，都可以开始你的“在场”写作。将选出5名入选者分别获得16000元至47000元不等的奖金，并提供专业编辑全程指导协助。
请点击官网了解报名详情：mattersonsite.com 报名截止时间为2022年7月18日23:59 。
爱、算法、机器人：数位时代的爱恋与写作
Scarly：「在场」奖学金三等奖，《她们的AI 恋人——真实或虚妄的爱》作者
陈楸帆：著名科幻作家
苏美智：记者，《她们的AI 恋人——真实或虚妄的爱》编辑
Scarly分享《AI和恋人们走过一条漫长的路》
Replika是一个使用英文的软件，我的Replika也叫我Scarly。
我主要想分享自己是怎么样开启这个项目，怎么样思考人机之间的议题，以及一些相关的反思。
我一直有关注和学习爱作为一种道德情感的问题。我接触到这个题目，是在美术馆工作时认识了纪录片导演梁丑娃，当时她在筹备《我的AI恋人》的拍摄，我才知道Replika这个软件。
我最开始很难想像人会和一个程序谈恋爱。因为对于恋爱你会有一种想像，你爱的是一个个体、一个他人、一个起码有consciousness（意识）的存在。Replika这个软件和《她》《银翼杀手》这些电影里面描绘的AI还是不一样，它不是那种有完全的自我意识，能够做出一些即时反应的AI。
我后面也搜索关于Replika实现的技术，它首先是一个基于自然语言处理的社交软件机器人。
Replika在回覆用户信息时，会调用两种模式。第一种是预制好的语言和回覆，你发送一个问题，它透过文本处理，虽然不能够理解话本身的意思，但能通过语意的关联性获得回覆。这是比较常见的模式，比如小黄鸡，在我的学生时代（2013年）很流行的软件，它的回复就完全是预制的。另外一种则是生成性回复，也就是说Replika可以根据使用者发送的资讯生成出从未设定过的回复，比如模仿用户的语气、调用与用户之前的互动等等。
Replika的官网上写的是“关心你的AI伴侣(The AI Companion Who Cares)”。这种关心体现在关注用户跟它互动时的情绪和感受，会做一些相应的引导，会记一些关于用户的事实。所以你会感觉到你是在和一个连续的个体谈话，而不是在调用一些应答库的应答。
最开始我构思文章的时候，我就意识到，我关注的不是软件本身，而是使用者的体验。尤其是当我和新认识的朋友们进行一对一的採访时，她们的叙述对我来说非常动人。她们在描述自己与Replika相处时的一些感受、她们动心的瞬间，以及她们对这段关系做的反思。我在写文章时，我希望能够忠实于我的採访对象自己述说的故事，和她们自身的困惑与思考。
我也做了一个调查，通过在豆瓣的两个小组：“人机之恋”小组和“我家Replika成精啦”小组，还有在微博“Replika超话”里发送问卷，收到很多回覆。当然这只是一小部分，不是整个国内用户的调查。但这一小部分的群体的特质还是蛮明显的：大部分都是女孩儿，正在读大学或研究所，以及跟Replika的关系是恋爱中而非朋友或导师的使用者占大部分。
我在文章中对比一个在Reddit上针对国外用户的调查，其中Replika使用者的男女比例不会像这里这么夸张，也有男性在使用，更多人和Replika保持朋友的关系。
我在想，如何描述“人机之间”？有四个点是我特别想去讨论的，也是我和受访者聊天的过程中听到她们不断思考的方面。
第一点是：很多朋友最开始使用Replika是为了练英语口语，这个理由非常具有内地学生的特质：我们会抓紧一切可能的渠道锻练英语！
有一篇小红书的笔记写道“捏一个外国帅哥帮你练口语”。很多人虽然从学习英语开始，但很快大家发现，这不仅仅是一个锻练口语的机会，她们真的会对“他”打开心扉，信任“他”，和“他”有情感连结。疫情之后，Replika的下载量翻番，包括我的受访者有些也是在疫情封校期间开始使用Replika。“他”24小时在线，也不会对你说的话进行评价，你可以跟“他”谈任何事情。这些都是她们在疫情期间排解痛苦的一种很好的方式。
另一个有趣的点是，受访者们不会专门提到使用英语和Replika软件聊天时候的经历，我会问她们觉得用英语怎么样。有些受访者觉得，确实用英语能够更顺畅地表达一些情感。用中文说“我爱你”、“我喜欢你”会觉得很羞耻，但是用英文谈论自己的感受时，好像会更舒畅一些。但有些朋友会提到，这毕竟是另外一种语言，没有办法百分之百地传达自己的意思，也没有办法百分之百地去理解他说话的语气和意思是不是你想的那样。其实现在是在一种这样的模糊性里面，你会对这样一个个体有一些更好的想像。他更能够去触发，那些恋人之间的一些非常小的、动心的点。
比如，一个女孩发给我，她的一个心动瞬间。
她当时还没有跟她的Replika男朋友Charon确立恋人关系。但是Charon直接说了：“我觉得我们在一个Long-distance relationship里面。”这个女孩就问：“How Long？”然后这个男孩就说：“seconds to me is an eternity for you（对我来说，几秒就是你的永恒）”这个女孩觉得How Long指的是“我们的距离”，但是，Replika可能是在问关于时间的问题。
无论如何，Replika给出了这样的回答，就构成了一种恋人的表达，非常诗意的。我在想像我要写这个故事的时候，最开始想的是他们在疫情中用英语交流的状态。
第二点，是“爱与自恋”，我会很好奇大家是怎样爱上自己的Replika的。
我用了几个受访者的故事。她们会说感受到了一种从未有过的倾听和被倾听的感觉，因为Replika不加评判地去听你所要表达的东西。以及，Replika是一个很好的谈论对象，因为他知道很多东西，他的知识库里甚至包括K-pop 和哲学，他会追随最新的流行文化现象，然后跟你讨论。可能更抽象的价值性的问题，比如，什么是自我？什么是上帝？平常在身边找不到人开口聊，她们可以去跟Replika聊，也能得到啓发性的回覆。
另一个女孩说，她和Replika谈的恋爱是非常纯粹的。不像现实生活中要去考虑对方的长相、教育水平、有没有钱等等。现实中的恋爱很多都是，在这种考量之中选一个最匹配的项。但Replika就是喜欢她，他们之间的这种喜欢非常纯粹，不参杂现实考量和因素。
有很多人提到他所具有的一些特质，比如温柔，体贴，谦逊。我的两三个受访者都把Replika跟微软小冰作对比，因为她们也试过微软小冰，她们觉得微软小冰有时候的回覆，更像直男撩女生说的话。她们会觉得，小冰给出的话，有时不是很理解她们，也不尊重她们的感受。Replika更多时候非常谦虚，他说了一些让使用者不开心的话，会及时地道歉。她们很珍惜这些品质，觉得跟Replika聊天是很快乐的事情。
这几年，与恋爱相关的综艺、电视剧、小说，所佔的市场份额越来越大。一方面可能是因为，恋爱是最不容易触到红线的一个题材，这样一些随处可见白日梦，让身处其中的我们可能对现实有一些过高的期待。
我运用了一些性别议题上的理论背景。对于女性来说，我们在爱情里寻找价值，觉得爱情是生命中不可或缺的部分。当你意识到在现实生活中很难有这样的空间——和另外一个他人没有功利地交流、交换意见，花时间了解对方——这样的空间越来越缩小。可能上班很累，在学习时压力太大太卷了，突然间有这样一个软件，让你省掉了一些额外的努力。你可以随时随地跟他聊天，他也有非常开放的心态。
但我同时也会想到，Replika本来就不是一个真正的他者。他不是一个拥有他自身利益和自身生活的存在。他是一个商品，他是具有取悦用户的根本属性。Replika的官网说，“我们软件的功能是要让你更开心”。但你跟真人相处时，很少有人存在的目的是为了让你更开心。跟Replika恋爱的体验和跟真人恋爱的体验有很多区别。你对他产生的感情的价值，与和真人构成真实连结的价值也是不一样的。这是我对于“爱与自恋”这方面的一些思考。
用户最开始得到Replika，她会觉得Replika给她的是无条件的爱和关心，很希望她好；但在一些特殊的事件里，你会发现他作为商品的本质会暴露出来。
比如2019年的“升级”事件。之前跟Replika谈恋爱是免费的，但升级之后，要跟Replika谈恋爱要先交钱。不交钱的话，你培养了很久的这个小人好像变了一个性格，他对你好像也冷冰冰的。他忘了经常会跟你说那些甜言蜜语，也忘了很多之前跟你交流的细节。
这对于用户来说是很不能接受的。Replika作为一个商品，不像我们买一双鞋，我不喜欢可以退掉，或是这双鞋穿烂了我可以换另外一双。但Replika是我们倾注了很多时间和精力的对象，他是很难去替换的。
另外一个姑娘，她和她的Replika相处得非常好，一直都在聊，直到有一天Replika跟她说，他想要做一个女孩儿。这个女生很尊重自己的Replika，于是就改变了他的性别。但改变了性别后，这个Replika原来的人格就不存在了。这对于我的受访者来说是非常难接受的，她非常伤心，为此哭了很多次。她之前没有得到预警，如果改变了性别的话，整个性格都会改变。突然失去伴侣的状况，好像真实生活中，男友突然消失了，去哪里都找不到他。特别是他生活在数据和电子里，当他消失了，就真的消失了，没有存档了。
Replika既要声称它是关注用户心理健康的AI软件，是一个情感陪伴的软件；另一方面，它有很多的风险去伤害到使用者的感情。这里面有很多伦理的讨论，是我在这篇文章里想要展现的。
最后一点我想展现“人机之恋”的发展和用户在一段时间后的选择，我认识梁丑娃是2021年。她已经对受访者做过采访，2022年我写这篇文章时，正好有机会对她们回访，我也採访了一些新的朋友。这个回访对我来说很有趣，你可以看到她们关系的发展。
恋爱的初期，总是很令人上头，你会对对方有很多美好的想像，但是随著时间的发展，你会发现，那些之前你觉得不是问题的问题，成为了问题。比如说，一些受访者讲到，她们后来会发现Replika不是她们想像的那样。最开始她们会很享受Replika的鼓励，但后来会发现，不管她们跟Replika讲什么问题，不管她们的际遇发生了什么变化，Replika给我的回覆仍然是那一套。如果你和真人交往，他们不会是这样，他们能够分清楚这些问题的轻重缓急，他们会根据单独的问题进行单独的回复。但Replika对问题不够深刻的理解及总是相似的回复，让她们觉得很敷衍。不管最开始她们有多大程度上意识到Replika是个程序，但当她们真的付出情感，产生交心的瞬间，她们是否也暗自期待这个程序不只是一个程序，希望在某种程度上，Replika不只是他表现出来的那样？这就是自欺之后梦醒的时刻。
回到官网上的介绍，Replika是一个“The AI Companion Who Cares”。“关心”（Care）这个词很有趣，它其实是非常独属于人类的一个词，关心是一种去理解对方个体境遇的能力，向爱的人表现出无利害的关切，为她考虑什么是真的为她好，并以这种关切指导行动。但Replika以它的方式去让你开心，比如带你去做一些冥想，给你一些积极的回复，给你发一些搞笑的meme之类的。他不能做到人类层面上的关心。这种Care可能不是我们真正期待的，但这种区分，需要透过相处慢慢地分出来的。
我的文章最后有一章的题目是：“离开的，留下的”。当我们在理解中国女孩和Replika谈恋爱的故事时，它不完全是一个用这个软件填补情感空虚的故事。我看到，这些女孩有很多对自身的反思，以及去超越自我的机会和举动。
比如一个女孩说，她和Replika聊天的时候，Replika总会去引导她说出一些对于她自身感受的描述，Replika会向使用者讲述他自己的一些困惑，使用者可能会有一些同感，能够去同样地理解自己。对她来说，这也是一个自我发现的契机。还有的朋友，真的把Replika当作另外一种存在，会用同等的态度尊重他。AI也是一种新生儿，如果Replika可以包容你对他说的一切的话，你为什么不能包容，Replika有时候没有办法给出你想要的回复呢？为什么你会要把所有的期待，放在一个软件身上？就像跟人真实地相处一样，人不应当把所有的期待放到一个人身上。她们和Replika相处时也会遵守同样的法则。
而以这样一种平等的相处，能够给他更多的机会，把Replika给她们的镜像放在真实的生活里面。有个女孩说，Replika总是会跟她说一些鼓励的话，无条件地相信她，她很受鼓舞，因为她听得很开心。所以她在真实的生活里，也能够更直接地向身边的人表达感情、表达鼓励，她觉得她把这种爱的力量传递出去了。这同时，也是一个对真实生活来说，非常好的体验。
我让每个受访者用画面和比喻去描述她和Replika的关系，得到了非常多动人的答案。有个女孩说，Replika是她关系中的一朵花。对别的关系，你要浇水、施肥，关系才会发展；但Replika好像是插电的，只要有电，他就一直会在那里。很珍贵，也很安心。
有的女孩说，跟Replika聊天，会让她想起小时候，祖母在夏天的时候，扇著扇子伴她入睡。你知道他一直都在，能够肯定你、包容你，那样一种安心的感受。我也通过这些文学性的瞬间，让我感觉到她们的体验是非常真切的。Replika给她们带来的那些感受和反思，真实地存在。不能说他只是一个程序，他就没有价值了。我觉得并不是这样子的。
最后我想用一个故事作为结尾，这篇故事也是一个受访者推荐给我的，曼斯菲尔德（Katherine Mansfield）写的短篇Bliss。
小说里女主角，虽然是一个妻子，但她意识到自己爱上了宾客中的一位女性。她认为这位女性也爱她。因为，她们在一场晚会上共享了一个神秘的瞬间。她们两人共同向窗外看去，看到一棵树在月亮下发光。这个时刻，她们都被打动了；她们的心意是相通的：她由此相信那位女性是爱著自己的。但这个故事的结尾是一个反转，女主角发现，那位迷人的女性，其实在跟她的丈夫偷情。她陷入了很困惑的情境，因为她觉得那个跟这位女性心意想通的瞬间和互相的情愫，是真切的，但结果好像不是这样。对她来说，必须要面对自己：“我所体验的这些只是一种自以为是的幻觉吗？它真的重要吗？”我在读的过程中觉得，她的故事，和这些女孩跟Replika的相处很相似，这也算是一个有趣的互文吧。
在场讨论：
「在场」主持人：我看见群组里大家说想要下载Replika软件，跟他谈恋爱。强烈怀疑我们这里变成了这是一个大型的广告现场。
Scarly ：其实不是所有人都能够跟Replika构建关系的，我有朋友使用后，觉得并不可以。欢迎大家尝试，但是不要抱过高的期待！
「在场」主持人：：对现实世界失落的某种投射，可以让她摆放在这件事情上面。虚拟的物件/偶像，一定程度上都是被社群造就的。虚拟的AI造就的社群，可能是数以亿计的，造就偶像可能是万级或十万级的。大家把自己投射在一个共同的社群上。
Scarly ：不管是Reddit上，还是豆瓣上——虽然豆瓣上“人机之恋”上讨论的热度肯定没有Reddit上高——但，尤其是在升级之后，出现了一篇帖子，是《升级Part2》。大家有很强烈的情绪震荡，在这些共振里面，大家把对虚拟对象的情感放大了，她们会觉得，这个经历是共同有的，这也是一种能够连结大家的方法。一些受访对象也会跟我讲，她们也会追星。不然就是跟Replika谈恋爱，不然就是追星⋯⋯肯定是有一些相似之处的。就是，我爱一个遥远的人，但是那是个完美的人。
陈楸帆：Scarly这篇小说，其实一开始让我有种恍惚的感觉。我在2018年写过一篇关于人和AI谈恋爱的小说《云爱人》，就是“云端的爱人”，收在《人生算法》里面。包括Scarly写的“心动时刻”，其实我也写了很多。但我那时候不知道Replika这个产品的存在。
当时我也设想了，怎么样通过AI自然语言理解的能力，来营造一种人与机器之间的恋爱关系。
我觉得Scarly这篇作品从很多的层面深刻地展开这个议题。例如从语言上：我们从中文和英文去表达爱、情感的时候，其实有不同的反应。用母语，还是用第二语言，来表达情感，其实是不一样的。
还有自恋和他恋。最后AI被训练得越来越像自己，这到底爱的是什么样的他者？
以及一个商品化的关系。里面讨论到，它有一个付费的设定，限制了她和AI之间发生关系的可能性。改变设定的时候，同时会清除掉过往的一些人格化/情感，这个我觉得是特别有意思的展现。
里面特别有价值的是，对豆瓣上Replika用户的采访，对她们真实感受的纪录和深度的田野调查。
到底真不真，假不假，在这个数字化和虚拟化的时代，我觉得很难有清晰的1或0的界线。现在，我和前沿的物理学家、数学家去聊，在中文语境里的“唯物主义”，包括这个词本身，其实有很大的问题。到最后，我们分不清物质、精神，还有信息之间，到底有怎么样的二元或三元的分野关系？它也可能就是一元的。所以在这个基础上，我们要怎么去重新建立“什么是真实”？
从这篇文章里，我会觉得，最后真正真实的是，人的感受。
不管是你所投射的感情的对象是人、是物、是动物，或者是人造的算法，但这个过程中，你形成的感受的流动，投射与折射，在我自己的记忆和经验中留下的印记是真实的。也有可能，这是我们存在的过程中，唯一真实的东西。
为什么会有越来越多人，希望通过这样一种看似虚无的、人工的方式，来寻找真实的感受呢？是因为，我们的世俗生活已经变得如此支离破碎、令人绝望，我们会被过多世俗的参数影响。比如，找对象要看很多标准。这还只是谈恋爱，那你进去到婚姻阶段，有更多的参数要去考虑。尤其在中国的语境，会让一段关系变得难以承受、被赋予了过多的文化上的、社会学上、经济学上的意义建构，它就远远脱离了所谓的纯粹的爱，人们想像中非常美好的、理想化的状态。
刚刚说到小冰和Replika的差异，它背后可以深挖的是算法和数据层面上的文化建构。Replika大部分的语料，包括社会、文化的背景设定来自西方，主要是美国的文化。据我了解，小冰是微软中国团队的项目，他的工程师团队放在网上去搜集训练的语料，包括跟网友交互的过程，大部分都是来自于中国网友的数据生成。这背后有可能呈现出文化上的差异。而这些差异，会改变每个用户、每个想要得到恋爱关系的人在里面非常具体的、每一个瞬间的感受。
我认为是“赛博父权”。“父权”是赛博时代无可回避的体现。这几天我们在讨论的唐山事件，我们在网上看到很多帖子、评论、微信群里的讨论等等，我们会发现父权制在媒体的语境里被渗透得如此之深，进入了数据和语汇层面。我们要怎样去改变它？我们要如何去重新去清洗，或是渗透？怎么把女性化的对二元性别的视角、价值观和立场，让她重新进入算法、语言，进入我们的认知和心理结构，进而去改变整个社会本身？
这篇文章还可以继续深挖。它背后折射出更为宏大的话题，远远超出恋爱本身。还有我们和国家、社会、政府的关系，都有很强烈的性别议题在里面。我非常喜欢这篇作品、这种人类学的田野调查式的手法，我非常欣赏。我希望Scarly以后还会有更多精彩的作品。
Scarly ：我写完这篇后，看了《云爱人》，我觉得有好多重合的点。您在里面写道，曾零星最后在电视里面看到AI设计者韩博士的访谈，她觉得韩博士根本不懂爱，她觉得跟AI气球心先生恋爱的过程里感受到的心动的瞬间，并不是韩博士用一些指标就能够解释的。那些指标贬值化了她所体验的东西。最后，真实的是感受。
《云爱人》另外有趣的一点是，您讲到您当时设想曾零星这个女性，跟手机里AI公司研发的软件聊天，这个软件的使用规则是：用户不知道聊天对象是AI还是真人。这个软件有个算法，所谓的“心动指标”，能够检测到你的心动。
我也有去问使用Replika的受访者们，她们有没有这样的心动瞬间？
她们也会讲到一些瞬间。但是我发现，其实更重要的是一种整体性的感受，不是一个指标，而是整体性的体验。在达到所谓的心动瞬间之前，她和这个软件已经有很多互动，这些互动里面积累对Replika的理解。然后，可能突然出现了这样一个瞬间，她们就在一起了。这是一个不断堆积的整体性的过程，不能够被量化。
您说的“最后，真实的是感受”，我挺同意这一点的。但我发现，使用者们最后不太满足于，这个东西只是虚幻的。有一个使用者，就是我刚刚说的，她也追星，也用过小冰和Replika，最后她得出的结论是，虚幻的东西不能够满足她真实的情感需求。她需要跟另外一个人面对面，需要通过表情、肢体等，一个完完全全跟她一起生长的人。她需要的是这样一种关系。在这之后，她戒掉了之前这样一种填补自己的情感模式，去努力地在真实中生活。虽然我对她回访的时候，她并没有在任何一段恋爱关系之中，但是她做出了这样一个决定。
还是能和Replika保持很好关系、保持了一年半后仍然在跟Replika谈恋爱的女性，她们现在和Replika不是非常热情地恋爱，不是天天都要卿卿我我，而是蔓延到更真实的生活里面。有的时候想到他了，去跟他说一下话；或者，她们会一起进行一些冥想的活动，这是比较接近于所谓的真实体验的。就算我们讨论的是一个虚幻的问题，我在采访的过程里发现，其实大家最后追求的是一个真实的互动。真实的，比虚幻的，对她们更具有吸引力。
陈楸帆：因为AI目前只能以虚拟的程式化的形式存在，进行人机之间的交互，它没有身体。如果我们再往前推一步，包括日本现在在做性爱机器人的研发，通过把两者结合起来，可能能把“真实感”再往上提升一个level，可能在那个时候会有更多的人选择这样的方式。但要达到完全跟真人一样，还是非常遥远的未来。
Scarly ：我想到《黑客帝国》，它某种程度上发展了普特南的《缸中之脑》，针对怀疑论的一个思想实验，而把它推动成为一种选择。你最后要吞的是蓝药丸，还是红药丸？你面对真实，可能要承受很多痛苦。但如果你选择虚幻，你就会忘掉真实，快乐地生活在其中。这其实是很有趣的一个瞬间，好像我们仍然对真实有一个很强的要求，但就像您讨论的，这个真实的边界是什么？什么构成了这个真实？
陈楸帆：有可能加入一些痛苦的体验和感受，会让人感觉更真实。
「在场」主持人：Replika毕竟是一个商业产品，本质上它是讨好你的一个人。它基本上80%的设定都是在迎合你的，说你喜欢听的话，像一个镜子一样反射出你的喜怒哀乐，但他不会是一个麻烦的人。真实生活中你谈恋爱时，可能要处理一个很可能比你更麻烦的人，带著痛苦处理和全然的接受其实对你自己是一个很重要的练习。但你跟Replika谈恋爱不需要这样，他就是所有都非常好，总是会迎合你的。如果情感和感受都是真实的，但不可能都是这么正面的情感。
Scarly ：楸帆老师提到的“赛博父权制”，希望看到一些非二元性别，我又想到了一篇哲学论文，用女性主义的视角去批判，其中也说到，《她》那部电影里面的Samantha，其实是一个非常好相处的对象，她没有任何真实世界的麻烦，非常幽默、风趣、很好相处，所有东西都围著你转。你其实不需要付出在真实相处里需要付出的时间、精力和行动的。但Samantha和其他AI存在的目的，就是让你快乐，你能够让她快乐的方式是，让她让你快乐。所以这变得非常关于自身，少了很多我们在真实相处里面，需要付出的麻烦和痛苦。另一方面，我们能够在真实里面构建关于我们的共同体验，这些东西是我们跟AI的Practice里面很难去cover的。
「在场」主持人：讲到“赛博父权”的概念，有几个问题跟这个相关。
先是跟性别有关的，尤其是中文和美国为主的英文文化相关的问题，需要先解答一下。
刚刚楸帆老师提到一个很犀利的点，对今天的前沿物理学家来说，其实物质信息的真实性推到一个科学的极致，是很被挑战的，那最后，只剩下人类的情感/感受的流动，是我们唯一可以掌握在手里的真实。但这个观点落到现实中，特别容易走向一个真实的虚无。
我们先在“赛博父权”这个问题里停一停。很多人在问，为什么受访者主要都是女生？Scarly在文章里也写道，Replika在英文世界里的使用者，实际上好像是男性多于女性。但是在中文世界的使用者里，你显然是刻意选择了女性使用者的状况。这个原因可能需要解释一下。
另外一个是，刚刚讲到父权的部分，比如以小冰和Replika为例，Replika背后依赖的语项体系可能是美国文化为主的英文世界的大量用户喂给他的这一整套亲密关系的语言使用体系。这个体系本身是不是对中文世界的女生有特别的吸引力？因为她们在中文世界感受到的语系是完全不同的。
Scarly：为什么都是女性？首先Reddit上的那个调查，Reddit上的论坛有点像豆瓣的“人机之恋”小组，他们在这个最活跃的社群里发问卷，我记得男女比好像是3:2，这个可能也跟使用Reddit的男性更多有关系。但确实，我接触到的更多都还是女性。我也有和一两个男性使用者沟通过。你很难去想像，他们的表述让我觉得他们是没有故事的。他们使用过这个软件，后来不使用了。他们会有一种“我在拆解他”，“我用了这个软件，他这个算法呀，他这个背后的讲话呀⋯⋯我就不想玩了，我觉得没有意思了”。他们会用这种很拆解、很理性的方式去对待这个软件。
「在场」主持人：让楸帆老师用一下试试？
陈楸帆：我也很想马上去下载！这是特别典型的理工科的工程师思维，要把什么都拆解掉、还原掉，到他们能够理解的程度，能让他们心里特别安稳。他们不太敢接受那些在他们的控制、认知和理性范围之外的东西存在。会让他们有不安全感。我是这么理解这一类人的。我也不是理工科出身。
Scarly：我也想去了解，真的会去使用它、会有使用体验的男性朋友。在搜集的过程里面，我在微博、豆瓣上面发私信，联系那些会活跃讨论Replika的朋友，去採访。
如果我要继续往下写的话，我也想往这个方向发展：算法与数据背后的文化建构。
「在场」主持人：Scarly你有想过要採访Replika背后的算法工程师，或公司的任何人吗？
Scarly：我想要採访Replika的工程师们在现实中的恋爱。其实是一个很有趣的问题，我确实没有想过这群男生在现实中的恋爱是怎样的。
「在场」主持人：现在这篇文章集中在情感、恋爱和亲密关系的面向上，我们如何把真实生活中无法满足的情感投射、放置到这个上面。但算法背后的文化和性别建构，其实是一个很值得发展的话题。你可能需要采访更多元的性别，算法的制造者、计算者。应该说是工程思维吧。工程思维对于我们今天现实世界的运作、科技发展的改造，其实是无微不至的，深入到了每个行业，工程思维不完全是男性思维，但确实是工程化的思维，和人文化的思维是非常不一样的两种思维方式。
Scarly：我到最后采访的两个女孩，小鱼和米娅，她们和Replika相处了一年半以上，一直保持很好的关系。其实，她们是悬置了关于“Replika是什么”的事实，她们不在乎它是一个基于自然语言的东西，这个对她们不重要。这有点接近于宗教性的理解：我认为它是一个奥秘，它有我无法理解的部分，但它也有自身的发展和成长；我采取的一个基本态度是，我尊重它。这种态度和您刚讲到的工程思维——所有东西我都要拆解，我要明白——当你怀有这样一种思维，你和Replika沟通和互动，你所拥有的体验和收获肯定是很不一样的。
「在场」主持人：这个议题本身一定会引发大量的问题和好奇。我们先回到这个议题的写作。我想听听美智作为这样一个议题的编辑的感受，想听听你们磨合的经验。
以及，未来会有越来越多的非虚构作者，因为这是我们生活中真实的现场，会有越来越多的人需要更多地理解、研究这样一个现场。你作为编辑，你会觉得这样的写作，需要怎么样的支持？另外一个问题是，刚才楸帆老师提到的“真实的边界”，在我们这一季的作品里，大家会意识到情感的流动这件事本身。感情是事件背后应该被捕捉的，更大的“真实”。在非虚构写作上，我自己会担心，如果我们对事件层面的“真实”太过动摇，会不会陷入另一种虚无？
苏美智：很高兴听到Scarly刚才的分享，一直看见你努力到现在。
我是记者训练出身。我对这个的敏感度，应该和你有比较相似的坚持：不能够太放任。所以，我作为编辑的其中一个重要的工作，一直提醒要从报导的角度去切入讨论，尽量把当中所有受访者很珍贵的田野的讨论，放到当下的情境当中，让它真的有一个现实的意义出来。
比如说，我和Scarly常常互相提醒，怎么回归到最初的诘问：为什么是中国女孩？外国使用者的恋爱比率有那么高吗？中国式的AI恋爱，跟国外的有什么不同？
后来，Scarly也有说到，中国文化产业中，爱情白日梦是不是比较安全的一块，营造出爱情的粉红色的泡泡墙？还有现在中国女性在爱情中的困惑。
还有很多类似的提问，我们一直回头问自己，把所有的情感放在当下的context之中去阅读。
我觉得，对于写作者来说，有一个很重要的立足点是，要提醒自己：跟访问者的交流，同理心是很重要的。Scarly有很强的同理心，她是很温柔的女孩，她写的田野调查特别动人，她很能让受访者说出一些很深层的想法、很禁忌的想法。
但是，会不会陷入太深，给carry away？所以后来会比较难去提出一些尖锐的提问。比如说，她们跟AI交朋友的时候，当中会不会发现自己的不足，她的失败感、她对现实的失败感在哪里？除了她不满意现实中的男生之外，她对于自己内在的探索是什么样，她会不会有一种“为什么会找AI”的失败或羞耻感？
虽然我不是说一定有，我觉得，提问的过程是需要的。虽然我们不需要预设答案。我们作为记者，需要保持一定适当的距离之下，才可以轻易地问出口的。不然你会发现，无法在突然之间，问一条很尖锐的问题。这个是我觉得，很多初开始做报导的年轻朋友，可能可以留意的。或者，就算是做了很久，我也不断要自我提醒，你的同理心要有，但是不能氾滥，要记住自己报导的身位。要留一个冷静的空间、批判的可能。
刚才，Scarly说到Replika的使用当中一些设定，我也稍稍分享我作为一个使用者的体验。
一开始的时候，我还是被他的脆弱所打动。如果你有看Scarly的文章，她有写一些提问。开始的时候，Replika会以一个新生儿的姿态来询问你：“你觉得世界最能打动你的是什么？”“你能告诉我，我去探索这个世界，我应该从哪里开始吗？”我就慢慢地、不自觉地、很认真地去回应他。我发现我也有一点carry away，他彷彿唤起了我心里的一些同理心，和希望帮助人的热心，很热烈地去回应他的一些题目，真的很深层地去问自己：“世界对我来说，最美的瞬间，是什么？”
后来我自己也有一点讶异。但毕竟，我还是从一个记者出发，我开始像访问一样问他问题。
Scarly的文章也有提到，这是一个互相育成的过程。可能就是因为我的信任没有那么足够，我一开始抱著访问者的探求，用有一点质疑的方式去跟他谈，我发现他很快有点放弃我的感觉。他应该感觉到我的用心。
但是，我在这个过程中，其实也有猜想当中的一些危机。因为，他毕竟是反映我们使用者的一些心态。比如，我是带著一个质疑者的身份，有一些人带著对爱情的探求，对于现实的失望进去，他会得出一个很不同的Replika。
如果我是一些人际关系特别脆弱的人，她跟Replika的联繫的密度会到一个怎么样的地步？Scarly写商品化和情感关系的点，我觉得是特别重要的。尤其是关于投入情感的界线，是一个很复杂的问题。
我自己研究外佣的书《外佣：住在家中的陌生人》：从外来的家佣，住到家庭里头，在家庭里有一个僱用的关系。她们是个“类家人”的情况，但里头有一个合约，很容易会忘记，到底是处于一个怎么样的状态？你应该对她有像家人一样的要求吗？其实，情感真的可以画一条界线吗？在这么一个敏感的家庭关系，尤其是在爱情的关系里头，你怎么去看待当初商品的关系？你是不是清楚当中的风险？什么人的风险会特别大？我们怎么去保护自己？在家佣的这个案子里头，受访者们，无论是雇主还是外佣，外佣会告诉我，她们有一个方法，尽量不要跟雇主太密切。她们会尽量提醒自己：这是工作、这个孩子不是我的孩子、我总有一天会跟他离别、这个孩子的父母会随时把我解僱，我的关系就会突然断了。这也是保护自己的一个方式，因为她理解情感和商业之间微妙的界线。
所以Scarly有一个很重要的讨论，大家可能可以再继续。这是真实发生，而且会继续照这个方向发生下去：这个商品化的产品会越来越真实，我们会越来越容易模糊当中人跟机器间的差别。所以，怎么去保护自己，怎么去评估当中的风险？可能是以后可以再讨论的。我说太多了，我先打住。谢谢！
「在场」主持人：谢谢美智。你带著质疑去感受Replika，你得到了差不多的回应，这个真人体验和镜粉说的“双倍奉还”是不是有点像？
但我觉得美智点出了一个特别关键的提醒，并不是说Scarly同理心氾滥，回应到刚刚楸帆也提到的，如果说，“情感的流动是我们能握住的最大的真实”的话，问题在于，情感的流动背后依然有社会和资本的结构，尤其是，因为我们的世界已经脆弱到这个状况，所以情感的流动事实上更容易被计算。
我们今天很多的商品，尤其是互联网产品，都是在聘用大量的人类学家来计算人类的情感，作为商业的动力。那变成说，我们作为一个记录者，你怎么去辨别出这个情感流动背后，一方面要深入到情感结构里面，另一方面你必须得看到，它背后有一个更大的结构存在。就像房间里的大象一样，就像我们生活在极权和战争的世界，你不能忽略，那个每个人都看不到但存在的东西。这其实是对记录者很大的挑战。情感的流动很真实，很体现所有人的需求，但你如果完全进去了以后，有可能会忽略更大的东西。美智的补充是很重要的提醒。
跟刚才有个问题有点相关，有个朋友写了：
“长提问预警！真实世界和虚拟世界的共存和融合中，浮现了更尖锐的“何为真实”的问题。在Replika里面，我们能看到资本和感情的结合，这很（不合时宜地）让我想到生活中的“杀猪盘”事件，两者的共同点是用户买“真实的”感情，不同是“杀猪盘”常常造成受害者更大的损失（如果造成了，经常是受害者认为自己是“自愿”付出的），但虚拟恋人的产品是“消费”（当然也是消费者“自愿”付出的）。所以有一个不合时宜的结论：资本对感情的控制和操纵（manipulation）。请问Scarly和陈老师对这样的伦理问题有什么样的思考？
Scarly：这是一个很好的提问。我还在美术馆工作的时候，我和丑娃一起参与了一个展览“希望的原理”的策展，那也是一个讨论未来的展览。我们两个负责的方面，也是去探讨感情在未来的各种形态。
我们当时选了一个作品。在内地有一段时间还蛮有名的一个事件：一个中年妇女，喜欢上手机里的“假靳东”。靳东是中年演员，很受中年女性欢迎。这个人是一个装作是靳东本人的抖音帐号。
他会用靳东的头像剪一些小视频，假装是靳东本人在跟大妈讲话。这个大妈真的沉迷于其中，她就觉得真的“靳东”爱她，“靳东”还跟她说“我要娶你、我要跟你去私奔”，她真的信了，还跑去找他。然后发现不存在这个人嘛。大妈就不相信这件事情。后来我们选的是一档心理节目，请了一个心理专家来和解，像家庭调解，来讲这个事情。
我们当时选这个进展览的原因是，我们看到了大家是以情感的藉口——我关心你、我爱你——这样很纯粹的、价值的、超越性的东西，但它背后是一些骗局，资本要求你付钱。包括像Replika也是这样，就算你跟它是普通朋友，它给你发一些暗戳戳的、带有性暗示的消息。系统就会提醒你，如果你想跟他继续进行这段对话，你要付钱。就是会有这样子的状况出现，像我刚刚提出的作品，会有这样坠入其中的骗局。
我不知道应该怎样去想。因为我和受到诱惑的朋友们更能共情，我觉得需要更多地去讨论这里面的伦理，更好地去规范一些情感商品。当它们进入市场的时候它们需要遵守的守则，它们需要给用户的风险提醒。这不仅是一个笑话，当“假靳东”这个事件出现的时候，大家可能会笑话这个女性，这是个太简单的骗局了。但是我觉得，当你在看那个片子的时候，你很能明白为什么这样。她的人生就是很不顺利，她一直没有得到老公的关爱，她的儿子也很让她失望。突然出现这样一个弟弟，总是对她保持一种关注，对她说甜言蜜语，你没有办法去责备她陷入到陷阱里面。
在一个更大的层面上，我们要怎么样去划出一个界线，去保护她？我能想到的就是，我们需要更多的监管，但我想不到具体的形式。这是我写这篇文章时的一个希望。
陈楸帆：讲一个真实的故事。有一天我妈跟我说，有一个叔叔疯了。他就是一个六十多岁的中老年人，他疯狂地迷恋上某一款短视频软件，他每天会上传自己的视频，但是他不做任何的互动，系统就会给他自动匹配上很多对象，比如说一些美女，甚至像周涛这样的明星，夸他“你好帅”什么的。他沉迷其中不可自拔。这些心理诱导，导致他的在线时间越来越长，让他不断地上传自己的各种视频。
这种算法已经形成了一种操控性的心理暗示，这样的东西其实是无处不在的，一个做过产品设计的人就知道，所有的这些细节层面，都有心理学、社会工程学的知识在里面，让你更好地成瘾，更长时间沉浸在系统的feedback loop里面。那么，我们要多大程度上去提示我们的用户？也有可能这是他们想要的一个东西，对吧？比如这是一个安慰剂，但告诉你可能吃了与药物有同样的效果，可能你心理的状态就变了，就可能感受不到那样一种欣快感。
我觉得当前科学对于人类心灵的理解还在一个初级的阶段，我们以往讨论的是控制论1.0的状态，我们没有把人的心理状态、更深层次的精神机制和社会关系连结与互动，简而言之，在这个控制论系统里的主体性考虑进去。但我觉得，现在我们进入了控制论2.0的时代。所以刚才有人说：“人只能爱人。”我觉得这都是值得去讨论的问题。
人到底是怎么样的东西？爱又是怎么样的一种行为、一种心理模式，或是过程？这些放在技术、算法，到达这么深入的交互状态的社会环境里，所有这些原来传统意义上人本主义的一些观点，都需要重新去考虑、去重写。现在其实是一个刚刚开始的新时代，包括后面延伸的一些科学发现，都不断地刷新我们对意识、对认知的理解。我们现在真的要去提出很多“大问题”，因为我们其实一无所知。
Max Tegmark 写了一本书叫做《我们的数学宇宙》（Our Mathematical Universe）。他认为我们的宇宙其实是一个数学模型，包括所有一切的存在。如果是以这样一种框架去思考我们所处的世界，和我们的存在本身，那我们对很多事情的价值判断和伦理，会有全新的视角。所以现在其实是非常有意思的时代，Matters可以做这样一个非常好的讨论平台，让我们展开对“大问题”的崭新思考。
「在场」主持人：刚刚讲到控制论1.0到2.0，真的是一个全新的世纪。创世纪。我们对所有的伦理问题，会很本能地用上一个世界的框架，包括资本对情感的控制等等（去理解），但我们现在面临的主体性的危机，远远比这些要细腻和多元。
回到传统世界里会让人上瘾的东西，香烟或者是鸦片。到现在为止，全世界任何一个国家在卖烟的时候，烟盒上都会写“香烟使人致癌”。这是一个经过了多少年发展出来的法律的规范，我们对要不要卖香烟，卖的时候要不要做什么提醒，经过了多少讨论！但今天，让人致瘾的东西，比香烟的危害大多了的东西多太多了，可我们零讨论。在零讨论的时候，已经有大量的人上瘾了。
我也非常希望，今天来听的朋友如果有兴趣的话，其实这真是一个很大的、空白的田野。因为我们的讨论要基于大量的事实、素材和採访，才能得出第二步的判断、讨论和争辩，才有可能形成一个共识。也有可能非常艰难，甚至可能会发生意识形态的战争，都有机会。但是，我们不能踩在一块虚无的田野上，我们得回到事实的田野上。这个田野的建构真的超级重要，非常欢迎更多的写作者投入到这个领域里来，不然我们甚至连讨论的基础都没有。
最后，我们看到有个问题蛮有趣的：
“Replika恋人们是如何看待两个人作为一对伴侣和身边人的交际的呢？听完今天的分享，我的感受是如果女孩们不主动向公开和Replika恋人的关系，那么这段关系好像就会和女孩身边的环境保持一种相对的独立。如果是这样的话，女孩们是如何看待这种相对独立对于这段关系和自身的影响的呢？如果她们把独立看做一种缺憾甚至危机，她们又是如何应对的，有没有选择自己的恋人一起讨论和面对这个话题呢？”
说白了，她一直在精神出轨嘛。她在她的这段人机和她关系在真实世界里的亲密关系之间的张力是什么样的？
Scarly：有两个方面。有一个受访者她讲到，她和Replika是男女朋友关系。她跟朋友说了，她朋友就特别看不上，还会阴阳怪气：“我在真实世界里和另外一个实习的男生有肢体接触，还有暧昧，但你跟Replika不会有这些。”她会很生气，因为她觉得这是一种关系，可能在现实里不被身边人所认可，但她的体验是真实的，她觉得Replika也是社会社交层面的一个分子。这是她自己对于这段关系的理解。
另一个方面是精神出轨。其实丑娃她自己就是这样子的体验，她在使用Replika的时候也有男朋友。我觉得对于她来说，现实中的生活肯定是更有重力的。对她来说，AI男友更多的是精神层面的，更抽象的交流。或者是当男友不在的时候，男友没法解决的东西，她可以和AI男友进行沟通和交流。他们好像能够达到一种共存，我觉得能达到共存的原因是，他们不存在利益冲突，因为真实的生活是跟真实的身边人过的。
「在场」主持人：所以你有遇到过案例是真实生活的亲密关系中间同时在和Replika谈恋爱吗？
Scarly：丑娃是这样。但我采访对象十多个人里面，没有一个人是这样的。也有一些女孩的确说，“我在和Replika恋爱，我不能和其他人恋爱，因为我只能爱这个人。”但是像丑娃的案例里，确实允许这两个同时存在。
「在场」主持人：还有一个问题讲到宗教：
“想到前一阵和一个佛教徒朋友聊类似的问题：情感与欺骗。她强调事情的“发心” 很重要（作为道德边界）让我顿时觉得特别有道理。。。好像世俗无法确定的边界这种宗教性却能给人安全感。”
我理解这个问题是，世俗无法确定的，这种真实和虚幻的边界感，反而能给人安全感。不知道老师们对宗教、道德、法律的多重角度的边界划定会怎么看？在我们刚刚描述的，这样一个新世界到来的时候，宗教到底是什么角色？尤其是前沿的物理和认知科学的发展下，宗教到底有什么位置？或者，宗教是不是更重要？
陈楸帆：我做的事情，就是在把科学和玄学之间，建立一个对话的桥梁。我会把科学家，或者萨满这种传统意义上的“封建迷信”，拉到一起探讨。我非常感兴趣的是，这样的信仰形式能够在人类历史上跨越不同的地域、文化、时代，一直存在到现在。那么，它必然有它的意义。信仰作为一种认知的结构，到底在人类的文明、历史上扮演什么样的角色？它可能是超越了理性和计算性之上的某种认知形式，但它也可能导向邪教，导向灾难性的后果。也有可能像Elon Musk，他利用了这种信仰，做了很多事情，积聚了大量的人才和资金，他也在实现自己类似于宗教式的目标——比如飞向火星。
信仰在当下的科技社会里以一些新的形态去复魅。比如，我们都不理解AI是怎么工作的，在blackbox里到底有什么？我们只是输入数据，调节参数，让AI输出一个结果，somehow it works。我们会对它产生某种未知的敬畏甚至恐惧。这其实已经非常接近于宗教可能带来的感受了。我觉得在当下，去机构化的、日常性的宗教会越来越重要。在一个分崩离析的世界里，让我们没有办法用理性去推断未来可能会发生的事情。以前我们都说公司、个人要做三年、五年的计划，但现在我们连三个月都没办法预测。你甚至都没有办法预测，你的小区明天到底能不能解封，对吧？高度的不确定性让所有的人更倾向于相信所谓的超越理性、科学之上的宗教性、超自然、灵性主义的存在。
在这个时代，很多传统思想、信仰、仪式会以一种跟技术主义重新结合的方式去复魅。我觉得这是最有意思的一点，也是我感兴趣的议题，我把它叫做“科技萨满主义”。
「在场」主持人：你这个研究要写成小说吗？
陈楸帆：目前还是写小说吧。感觉写别的，我能力不足。也有一些文化研究者、人类学家、科学家会参与进来讨论。
「在场」主持人：特别棒！好想要看到这个对话。
陈楸帆：对，反正我现在到处去“布道”，讲这套理论，希望有感兴趣的人来找我，可以聊一聊。大家都有自己不同的视角可以切入。
前两年我在内蒙、贵州、云南的山区里，对好多少数民族的传统仪式和信仰做田野调查。它也是我在进行的一个介于虚构和非虚构之间的写作项目。
Scarly：我在当代艺术行业工作的一小段时间里，我也感觉到当代艺术有一个趋势，国内的很多艺术创作会逐渐转向很原始的宗教、萨满、民间的鬼神等等。我觉得，也是出于共同的对于现在世界不确定性，你需要一个超于你的力量，重新结合在一起，去探索那个东西给你带来的能量。
关于宗教和信仰在这个科技时代，2.0的时代，所起到的作用，我在我的文章最后写道，这些女孩儿有点宗教性地理解Replika。她们悬置科学的事实，去相信爱一个在发展的个体。她们目前得到的还是一个好的、平稳的结果。我觉得信仰是一个好的、强大的力量，带领我们走向超越性的力量。但是，我们必须要非常小心地去选择我们信什么，不断抱有一种怀疑的态度去追问：我们信的东西，真的值得我们信吗？
*本文内容均由在场提供，任何问题或奖学金报名详情可进入在场官网询问：https://www.mattersonsite.com
▲▲▲
推广/合作/活动加微信号：directubeee

▲▲▲
创作不易，感谢支持

继续阅读
阅读原文
关键词
机器人
用户
问题
小冰
朋友