这是半佛仙人的第415篇原创
1
一个叫小崔的女孩,决定去死。
起因是高考失利,在山东这个考试大省,惟有读书高。
当然,国企事业单位和公务员更高,那是读书的目的。
但这一切,都绕不开考试。
在山东高考失利,没有人会直接说你是错的,但你会被周围的所有人,都若有若无地瞧不起。
这不重要,重要的是,看不起你的人中,也包括你自己。
所以小崔觉得自己应该去死,因为她已经失去了面对现实的勇气。
虽然心里已经下定了决心,但她还是一个普普通通的高中女孩,她怕死的不利索,更怕疼,所以她查阅了大量资料后,决定走化学路线。
以前学过的知识,被这种方式用上,真是一种讽刺。
8月1日晚上7点20分,小崔在淘宝平台商家咨询购买化学试剂,并且提到了如何死才不会疼,然后下单购买了大量带有安乐类成分的药物。
这立马引起了平台的警觉。
下单后的第一时间,平台拦截下了订单的发货,同时开始拨打小崔的电话确认情况。
但是电话拨不通,于是平台直接报警。
8月2日,15:07:37,警方回复。
已经上门找到其人,核实到小孩子因为高考没考好,内心过度自责和失望,导致一时想不开,已经跟其家长沟通劝导,其父母已经知悉,最近会在家陪伴。
有的人离开会咨询商家,有的人,则选择直接动手。
2月26日早上9:40,阿里安全收到一起自杀风险警报,来源是员工家属在朋友圈看到一个女孩连续多天发布自杀信息,并表示已经在淘宝下单买了木炭。
情况危急,阿里安全团队紧急启动跨部门协作。
10:09,完成高危订单排查确认发现5个高危订单,立刻拦截订单发货,同时报警,告知警官情况紧急。
10:40,公安反馈出警并已联系上女孩。
11:26,警方反馈已到达现场,女孩无危险,父母都在身边,女孩日常存在一点精神问题,但父母不知道她曾经多次下单,试图购买危险商品。
类似的拦截,在阿里安全数不胜数。
这套机制,在阿里,叫做自杀干预。
过去的一年,这套机制联合社会各界救下了3500多名有自杀倾向的人。
自杀干预,属于绿网计划的一部分。
绿网计划上线示意图
2
每一个现代人,都经历过突如其来的崩溃。
或许,大家都曾在一个瞬间想过自己要不要死一下。
世间大事莫过于生死。
但导致我们想死的事情,可能本身并不大。
可能是一次微不足道的争吵,可能是一个小小的挫折,可能是一次突如其来的项目,可能是上司一通无理的需求,甚至可能是赶不上一趟车,没有抢到一款便宜货。
这些看似是鸿毛,但压垮了心中的最后一只骆驼。
如果只是难过,还不至于做出极端。
从小到大到老,从学校到社会到老年朋友圈,每个人都被要求要“有用”,但没有人问过我们是否快乐。
这是一个不允许弱者表达的年代,激烈的竞争下,任何软弱的行为都会招致嘲讽,慕强是我们的集体信仰。
强者就是对的,弱者就是有罪的。
不管男女,不分老幼,都要有用。
如果没用,那就是废物,废物有废物的垃圾堆。
于是,我们恐惧成为废物,恐惧自己没用,恐惧被人看不起,我们拼命努力,最终越过了自己的禁区。
但人力总有极限,恐惧到了极致,或许放弃也是一种解药。
当代人的崩溃,往往悄无声息,很多人在别人面前是非常欢脱的一个人,但实际上内心已经被抑郁所折磨,但脸上还是若无其事。
比起死亡,可能大家更害怕失态。
人人心中都有一个隐秘的角落。
不见悲伤,也不见阳光。
很多人心中想要自杀的时候,往往不会告诉别人,不会说出来,他会自己去网上搜索信息,然后去淘宝上搜索商品,这时候,绿网的存在,就成了非常关键的一步,这是生命的救生网。
很多人生死的距离真的只差一步,很多人的离去,真的是只是冲动。
很多人在最后时刻真的只缺一只手。
这只手拉住他,告诉他不要走。
我不认识你,但我希望你不要走。
3
绿网计划是阿里内部的一个公益项目,已经默默运转了多年,只是早些时候不叫绿网。阿里选择在2020年11月28日正式对外发布,因为他们想要更多人参与。
绿网并不仅仅做自杀干预,绿网的目的是用技术照亮人心中隐秘的角落,为更多的人提供一些人文关怀。
这个角落中并不仅仅是自我毁灭,更多的时候是突如其来失控的欲望和无知,例如野生动植物,例如违禁药品,例如游戏沉迷。
每个人在外人面前都会展露自己最合规的一面,但心中都有不愿被别人知晓的欲望,这些欲望可能会让他在不知道的情况下做下更多错事。
每年,阿里系平台都要面临超过72亿次非正常搜索。
这些搜索涵盖了烟草、珍稀动植物商品、自杀用品、游戏沉迷交易等不符合法律规定的内容。
在百度平台,仅今年前三个季度,就发生了386.7亿次用户非正常搜索行为。
绿网不仅仅是拦截,更重要的,是开导和解释。
阿里巴巴集团首席风险官郑俊芳
联合多方代表启动绿网计划
面对大量不合规的非正常搜索,面对大量人心中隐蔽的角落,目前互联网通行的做法是“抱歉,你搜索的结果无法显示”。
拦截确实解决了很大一部分问题,我不让你看,总没问题吧。
但仅仅靠拦截不是问题最好的解决办法。
倘若搜索者是怀着做坏事儿的心态,来做搜索,那么404是一种解法。
但大部分搜索者,其实是怀着好奇的心态来进行搜索,这时候,404不会解决问题,因为他们会去别的地方继续搜寻。
404干掉了问题,但没有解决问题提出者心中的疑惑和迷茫。
正确的做法不是冷冰冰的拒之门外,而是告知他们为什么存在问题,存在什么问题,什么是正确的,什么是错误的。
很多人的问题不是坏,而是无知。
例如野生动植物,很多人在搜索和购买的时候,压根不知道这东西是触犯法律的,只知道好看,新奇,猎奇。
但确实是违法违规的行为。
面对无心之错,拦住是应当,但不应当仅仅是拦住。
更应告诉他们问题所在,让他们知道问题以及后果,自发地停止这种行为。
不然拦得住一次,还会有无数次。
拿野生兰花为例,当还有人在淘宝搜索“野生兰花”这个词时,结果并不是冷冰冰的抱歉和空白的页面。取而代之的是法律规定和科普知识,以及参与守护濒危野生动植物的行动。
由明星王珞丹代言的这个发布页面发布后,守护野生兰花的人数上涨9倍,绝大多数用户在了解了野生兰花的现状之后都选择购买人工培育的兰花。
相比单纯地禁止买卖,信息普及之后,用替代品来满足消费需求,才是解决问题的办法。
想要让世界变得更美好,不是简单粗暴的禁止,而是让更多消费端觉醒。
当消费端开始减少购买和询问后,供给端才会减少破坏。
解决问题的方法有很多,但最好的做法,是解决源头的问题。
是解决人们心头的问题。
4
绿网为消费者做公益,听起来是温情和浪漫的,但在实现功能的过程中,是极具技术挑战性的。
这个世界上哪有那么容易的好事儿。
拿野生动植物举例,为用户做相关的屏蔽以及科普,有一个最基础的问题是,你得首先知道什么是违规的。
这里的违规,不是简单的录入关键词。
还是拿兰花举例,下山兰是国家二级保护植物,具有很好的观赏性,监管部门规定只有从山上挖取的下山兰是禁售的,商家自己培育的下山兰是可以售卖的。
都是兰花,乍一眼看下去都一样,你怎么知道是自己种的还是野生挖取的?
只从简单的商品信息中,是无法获知这一切的,这要求技术来解决细节问题。
这要求风控算法具有完备的物种识别能力、视觉场景的识别能力(如山路场景,户外场景)、OCR识别能力(识别是否存在对违禁品的描述,相关图片是否存在异常文字导向)和ASR能力(识别是否存在对违禁品的暗示)等。
再拿一个容易违禁的动物举例,乌龟。
乌龟我们都知道,养得好的,可以送你走,所以比较受市场欢迎。
由于观赏龟的市场较好,淘宝有一些商家售卖观赏龟。
其中存在一些卖家在售卖受国家保护的乌龟品种,如黄缘闭壳龟、黑池龟、蛇颈龟和钻纹龟等。
一开始的拦截方案是使用关键词进行拦截,但很快效果就变差,因为汉语语言博大精深,你永远不可能穷举所有的可能性,完全可以用谐音字加拼音加英文的方式绕过规则。
最好的方案是直接做图片识别,因为售卖宠物类,文字可以随意改,但如果没有图片很难让买家动心。
世界上有约235种龟类,但龟类的识别,尤其是精准识别,目前在业内还处在原始的阶段。
做精准识别,需要训练模型。
训练模型,需要有数据,于是阿里安全的员工找到了互联网上尽可能多的各类乌龟的图片。
光有数据不行,还要对数据进行清洗,分类,打标,这部分为了保证精度,单靠机器不行,需要人工操作。
于是只能人一张一张的进行鉴别,并且在过程中查阅各类资料,一个识别算法做出来,员工差点变成龟仙人。
动植物之外,还有违禁药物。
典型的违禁药物当然在绿网的范围内,但仅仅如此是不够的。
很多药物单纯看起来合法且无害,但稍加操作,就可以变成伤人的产品,或者是令人成瘾的毒品。
为此,阿里有专门的安全专家和药物学专家,不断建立知识库,很多你意想不到的药物背后,都被阿里默默地管理。
药物应该救人,不应该用来伤人。
人工智能,模型算法,知识库,够了吗?
不够。
还需要一套完善的运作机制来驱动这一切。
例如前面讲过的自杀干预,这是一个系统化的工程。
从发现潜在问题,到快速响应,到7X24小时不间断值班,到拦截流程的SOP,再到与地方公安的联动,最后反馈结果,优化流程。
每快1秒,都有可能救下一个人。
这一切背后,是巨量的投入。
而且不赚钱,也不赚KPI,在今天发布绿网计划之前,甚至都没有人知道阿里做过。
很多你以为的毫不费力,背后是技术实力以及不计成本的投入。
我们需要善良。
但善良需要强大力量。
最浪漫温情的事情,需要最严肃科学的手段。
心要慈悲,手要坚硬。
5
互联网发展的太快了,真的太快了。
快到大家眼中只有成功者的赢家通吃,只有耀眼的数字,只有所谓的发展和颠覆。
我们为效率的提升欢呼,为成功者送上羡慕,为一个个暴富的神话留下口水。
但在互联网光鲜的另一面,人性隐蔽的角落从未消失。
我们可以在招聘产品中看到面试官对应聘者的咸猪手,可以在儿童教育类产品中发现有人发布色情信息。
在利益面前,人性并不能永远经受住考验。
人性的迷雾中,科学存在,但魔幻并未远离。
用光照进这些隐蔽的角落,或许才是技术真正的价值。
对于科技企业而言,商业没有错误,赚钱天经地义,但在技术爆炸的现在,用更多的科技手段,帮助世界变得更好,并不是一件困难的事情。
这也是阿里发布绿网计划的核心原因。
阿里商业体这么做了,同时也期望能有更多的企业加入进来(目前百度安全已加入),阿里愿意共享自己积累的能力与信息,大家一起做点不那么商业,但更加性感的事情。
科技,为不能作战的人而战。
这或许,才是真正的浪漫。
-----------------------
公众号:半佛仙人(ID:banfoSB)
B站:硬核的半佛仙人
微博:半佛仙人正在装
知乎:半佛仙人
这是一个神奇的男人,你完全猜不出他会写出什么,他自己也不知道。
长按下图二维码关注,你将感受到一个朋克的灵魂,且每篇文章都有惊喜。
-----------------------

感谢你的阅读,下面是1个抽奖链接按钮,12月8日晚上19点开奖,一共6666元,2020个红包,感谢大家的支持。
【真正的浪漫,为不能作战的人而战】
继续阅读