近日，一款叫“ZAO”的APP软件爆红了，用户只需上传照片，就可以把自己变成明星，网红，名人。可以出演众多的影视大片，也可以出席高端论坛，还可以随时开新闻发布会，只有你想不到，没有软件做不到。

让广大网友体验了一下另类生活，又可以在朋友圈炫耀了，让大家以为你发财了，成名了，变瘦了，朋友圈又迎来了虚假的繁荣。之前美国总统特朗普和中国女星杨幂，都曾被换脸到其他人身上，引起了不小的轰动，当事人也备受质疑。

在国内一片喧嚣的时候，大洋彼岸的Facebook却投千万美金，发起全球打假挑战赛，也就是找出那些通过AI技术作假的视频和照片。Facebook联合微软、麻省理工学院、加州大学伯克利分校、牛津大学等机构打造deepfakes检测挑战赛，鼓励全球的研究人员寻找打假方法。（deepfakes即为AI换脸背后的技术名称）

很多时候，我们看到类似的视频会一笑而过，网友更熟悉的可能是基于deepfakes技术的娱乐性视频，比如1994年版《射雕英雄传》里的朱茵被换成杨幂，还有最近的日剧女神新垣结衣被换脸成郭德纲。如果是没有看过原版视频的人，基本上就会信以为真。

如果仅仅是这样还好，无伤大雅，但如果被有心人利用，那带来的损害就无法估量了，比如许多别有用心的团伙瞄上deepfakes的优越性，把它变成了牟利工具。最典型的，就是利用deepfakes制作淫秽视频，把女明星的脸换到AV女优身上。

试想一下，突然有一天你接到短信，说有你不雅的视频，你该怎么办，虽然知道不是你，但别人不知道，一旦散布出去后果不堪设想。我们可以假设，如果造假的门槛降低——伪造视频就会来得更便宜、更容易、更快速，人们恶意使用技术的风险显然会增加。

所以我们在创新的时候，需要考虑到负面影响，而不能一味地追求新奇好玩。