新智元原创  

编辑:鹏飞
【新智元导读】一个17岁的女孩被残忍杀害后,凶手将遗体照片发布到Instagram上。这些明显充满血腥的恐怖照片,本该及时被AI检查出来通知团队迅速采取措施。然而现实却刚好相反。Gizmodo记者愤而质问:24小时不作为,说好的最先进AI在哪里?Instagram团队在干什么?
几天前,一个女孩被割喉杀害。这一刀如此之用力,差一点就将女孩身首分离。
然而让人意想不到的是,这位21岁的凶手杀人之后非但没有表示出懊悔惊恐或者隐瞒逃匿的行为,相反他做出了更让人无法接受的事:将受害者遗体的多角度特写照片,发在他的Instagram上。
照片非常血腥,女孩微闭双眼,嘴巴微张,伤口又宽又深(画面容易引起极度不适,因此对照片进行了“不发表”处理)。
你可能在想,到底是何等心狠手毒之人、和这位女孩有着怎样的深仇大恨,才能干得出如此惨无人道的事?
实际上杀害她的并不是她的仇人,不仅没仇而且有爱。这个人,是她正在交往中的男朋友。根据受害者姐姐的说法,这个男生和受害者家人交往密切,并且深受信赖。
图片来源:4chan
受害者Devins只有17岁,算是一个小网红。她以oxychan的ID,频繁出现在一个叫做4chan的论坛上,是一个喜欢二次元的妹子,在Instagram 上也拥有一定的粉丝。
她生前是这样的画风👇
提起4chan,恐怕很多国内用户并不是很了解。相比起我们天天在看的GitHub、Reddit,4chan是一个更加小众的网站。但其实在国外,常年Alexa排名常年保持在700左右,甚至有时还进入TOP 100、
创立之初,这里只是一个以二次元为主的论坛,讨论主题围绕日本动漫以及同人文化,聚集了国外一大批御宅族。后来发展出更多板块。
血腥的照片被迅速传播出去,大量的用户遭受了生理和心理上的双重刺激,而媒体除了谴责凶手外,也将矛头指向了Facebook。
原因是Mark Zuckerberg曾经表态,Facebook已经将最先进、最尖端的人工智能和自动化内容审核系统部署在Facebook、Instagram等旗下产品,
2018年,Facebook的F8会议上解释他们的人工智能工具在打击类似的极端内容方面,做出了不错的成绩。但媒体并不满足,认为Facebook做的没有说的那么好。
Gizmodo的记者Brian Merchant发表长文质疑Facebook所谓人工智能所做的努力和效果。很多人心中有一个疑问:既然你说你的人工智能这么好?为什么这么明显的极端内容,却没有检测出来,不仅没有及时将其屏蔽,还任由其被大肆传播?
这位记者说:可能是Facebook正在使用的技术根本不够好。
他的佐证是一位奥本大学的高级研究员Kalev Leetaru。Leetaru的分析结论中,有两点比较重要:首先是因为成本过高,因为越高的精度,对设备以及能耗的要求越高。其次是可能会有意无意的“漏掉”一小撮,有利于提高流量。
不得不承认,极端的内容,最容易得到广泛传播,带来可观的流量。
如果你是Facebook的领导人,你是更需要“对公司可见”的流量、还是要“对用户不可见”的操守?这是一个博弈的过程。这不仅是摆在Facebook面前的问题,也是摆在所有的媒体、社区面前的问题。
Brian发邮件质问Instagram在处理这些血腥图片时候不够用力,整整24小时没有任何作为。IG的公关部首先表示我们很努力在清理内容;接着表示媒体报到失实,并非24小时不作为;然后讲了后续的一些举措,包括经证实后删除凶手账号、通过技术手段打击一些冒充凶手开设账号的行为。
Leetaru则声称:“尽管拥有世界顶级AI人才,但在部署人工智能技术用于内容审核方面,却落后于友商”,并表示“咱也不知道,咱也不敢问”。
无论如何,希望AI技术的发展,能够在案发后及时向相关部门发出警告,并锁定嫌疑人和现场。
愿逝者安息!
继续阅读
阅读原文