希拉里·川普
常言道：耳听为虚，眼见为实。然而，随着技术的飞速发展，你所看到的东西，听到的内容，可能都将不再真实。

01
猜猜看以下新闻哪些是真哪些是假？
表哥在这里给大家分享一些最近看到的“新闻”，大家来猜猜看哪些是真的，哪些是假的？
1、2015年现任教皇访美，上演绝妙“抽桌布”戏法：只见他在向圣坛礼拜后，转身顺手将桌布一抽，动作之行云流水，令人膜拜。
2、吴彦祖出演《都挺好2》，饰演苏大强，演技与倪大红老师不相伯仲。
3、艾玛·沃特森，盖尔·加朵等诸多好莱坞女星纷纷下海出演“爱情动作电影”。
4、川普宣布参加竞选连任，奥巴马发声：川普总统完全就是个笨蛋。
5、新华社以当家主播邱浩为原型打造AI新闻主播。
6、网友开发软件deepNude，可以一键“脱掉”女性衣服。

7、斯坦福和普林斯顿大学等最新研究：给定任意文本，就能随意改变一段视频里人物说的话。
以上这些新闻能看出来哪些是真实的哪些是虚构的吗？
公布答案：前四个是假新闻，均为人工合成制作的内容，而后三个则是真实报道。你真的分清了吗？
02
现在的技术可以做到什么地步？
感觉自己不那么“完美”，想让自己立刻光彩照人？没问题，美颜相机的AI一键美图，可以立刻让你妈都认不出你来。
说话口齿不清楚，遇事紧张磕磕巴巴？没问题，斯坦福和普林斯顿等大学最新研究，可以拆开视频再重新拼接，并且毫无破绽。而且自带语音合成，随意输入文本，就可以改变视频中的人物对白。改动后的人物口型完全没有破绽，丝毫看不出篡改痕迹。
不会跳舞？没问题，伯克利的技术帮你瞬间跳出精彩舞步。
保罗沃克电影拍摄期间不幸去世，依靠换脸技术，我们在《速度与激情7》中看到了电脑合成的沃克。

台词功力？表情演技？都不重要，咱们来换个脸。
技术，让我们的生活越来越美好了~但是潜藏在这之下的隐患你看到了吗？
03
如果这些技术用在了这些地方
如果你觉得以上这些例子还挺有意思，想试试看的话，那么表哥接下来举的例子可能会让你觉得不那么开心了。
刚刚开头我们就讲过，已有网友通过deepfake框架，将好莱坞女星合成到色情片中，虽然Google、Twitter等网站禁止了相关搜索，但是已经流传出去的视频终究无法销毁。这个技术第一次闻名于全球，实际上恰恰是因为这些视频的流传。
可能有人依然觉得这个应该算作“福利”。那么我们再假设一下，如果有人通过deepfake，制作了川普在白宫宣布对中东进行核打击的视频，或者制作了普京辱骂穆斯林的视频，将会引起怎样的国际争端，社会将产生怎样的剧烈反应？
我们再缩小范围，放眼国内：如果制作了马云唱衰XX市场的视频，其中还言之凿凿，半真半假难以识破的话，那么市场就有可能会出现恐慌性的抛售，伪造视频者趁此机会做空获利，你该如何应对这种危机？
不说这些大佬，说说我们自己身边事：如果骗子给你爸妈打电话，说你被绑架了，并且发来了视频，里面“确确实实”是你被人绑着的样子，怎么办？面对你哭求救命，父母能想到这个是伪造的吗？恐怕大家都会做最坏的打算吧。

以前我都是直接跟爸妈视频，请求打点生活费。而现在，视频通话里的人爸妈就能确定真假了吗？未必吧……
以上这些还都是骗术，也许有朝一日可以通过技术手段识别出来其真伪，也许可以通过一些措施来防止上当受骗。然而，真正可怕的事情，将会来自于那些充满恶意的攻击。
如果一个微博热搜视频中，你的脸被换到了犯罪分子身上，面对愤怒的网络大军，你该如何自证清白？他们会相信吗？
你和同事吵架，她用deepNude一键脱掉你的衣服然后偷偷散播出来，你怎么反抗？
和前男友分手以后，前男友发出来你的不雅视频不雅照片，你怎么能证明这个视频是合成的？即使证明了，这个视频是伪造的，它所带来的伤害又该如何弥补？
“无中生有”才是最可怕的地方。在这种技术滥用面前，每个人都可能成为潜在的受害者。
04
技术的边界在哪里？
2014年，Goodfellow团队提出了生成对抗网络 (GAN) 的技术，从此以后，深度学习的框架越来越多，越来越丰富与全面。我甚至可以断言：只要数据样本足够多，人们想合成什么就能合成出来什么。
DeepFake有什么学术上的价值么？我觉得没有。它的底层算法没有任何特殊的地方，只是face swap技术的落地实现而已。
现在更有了简单易上手的软件deepnude，可以一键“脱掉”女性的衣物，这个软件的开发，除了可以让作者牟利以外，对技术的发展有什么意义吗？
DeepFakes（deepfake创始人）说：“任何技术都可以被邪恶的动机利用，这种事情无法被禁止。”“我认为人人都可参与机器学习研究不是一件坏事。”快播CEO王欣说：“技术是无罪的”。
这种说法看起来没什么问题，我们甚至可以类比一下：我有一把锋利的菜刀，名厨可以用来做出美味，而连环杀人犯可以拿来杀人，人人都有一把菜刀不是一件坏事。菜刀是无罪的。
但是这其中关键的地方在于：菜刀杀人有法律可以约束，少有人敢于迈出这一步，而AI技术合成的内容，暂时没有哪一部分法律可以严格来管理，并且难以查询源头。所以菜刀大概率是用来做菜的，而DeepFake却有很大风险用来犯罪。
AI技术的发展太快了，快到现有伦理道德和法律法规完全跟不上。
我们是时候重新考量如何快速迭代法律，如何建立适当的法规，来制衡这些具有“杀伤力”的技术。

最后援引斯嘉丽·约翰逊的一段评论发言：
“很明显这对我的影响没有那么大，因为人们知道色情视频里的人并不是我。我认为对此的相关诉求从法律上讲是无用的，主要原因在于互联网是一个巨大的黑暗虫洞，不停地吞噬它自己。““那些人攻击我，和攻击你本质上是一样的。每个人都可能成为受害者。”
—————————————
往期精彩：
继续阅读
阅读原文