一夜之间，在各种社交群里冒出来不少利用AI换脸App制作的短视频。

名为“Jason”的是一名位于天津的网友，在这个周末的第一天上午10点57分，他在朋友圈里发表了一段15秒的视频，原视频来自于2005年电视剧《金枝欲孽》的片段，众多粉丝称之为“宫斗戏鼻祖”。

网友Jason的换脸视频

通过这个视频应用，在1-10秒左右之后就可以生成一段视频，可分享到微信、微博、QQ等平台。在他发布的短视频里，原来女性角色“如玥”的脸已经拥有了Jason的面貌特征，视频播放十分顺畅，换脸成功。

这款8月30日刚刚在各大应用商店正式上线的App，在一开始，Jason向不少朋友推荐这款视频应用，“刚用了2天，就在这个app上玩了3个视频”，Jason在社交群里这样说。

苹果应用商店里的介绍显示，“使用顶尖 AI 技术”，“仅需一张正脸照，让你体验史上最潮玩法”。Zao这款APP通过AI换脸技术，将明星的脸替换成自己的脸。在各种社交媒体的口碑传播之下，ZAO的热度持续飙升，ZAO官方助手发微博说，“人太多太多了，工程师在买服务器。”

Jason在社交群里分享了自己使用这款app制作的视频链接，其他网友表示在注册过程中，要求提供清晰的个人照片，清晰度不够，或者照片不是正脸，都无法上传成功。

知名法律博主“@法山叔”表示，这意味着，用户在正式使用ZAO以前，是要上传自己肖像的，不仅静态，还有动态，而当用户选择使用以后，根据协议内容，该App除了可免费使用并修改用户的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。

至于换脸后的安全风险，Jason知道后直言“好可怕”。在ZAO火爆的同时，也有网友得知安全风险后，试图注销账号，选择“申请注销账号”，输入手机号和验证码后，显示“验证码错误或已过期”。对于用户注册和注销，以及版权问题，已经有不人发出质疑声，法律大V“法山叔”分享了自己的观点，“你今天在网上换脸，觉得很开心，其实你在无形中，已经成了丑陋的侵权人，同时，你的肖像权，也不再只属于你自己。”

在这一波移动互联的狂欢中，AI技术无疑充当了背后的推手。

早在2017年年底，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，它能够把照片和视频中的人脸替换成任何想要替换的人脸，且效果十分逼真，有些肉眼甚至难以分辨真假。

事实上，这项技术在电影制作领域已经不是个新鲜词，只是缺少一个合适的应用场景，稍微不小心就容易被不法分子利用。在当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。

随后，由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

国内的网友们，在今年年初第一次感受到AI换脸术的强大，饰演黄蓉的朱茵的脸被替换成杨幂，虽然是用AI合成的，但是整体效果十分逼真。

当下，Zao这款AI换脸短视频的出现，让普通大众能够认识到AI，接触到AI，是个不错的尝试。一方面，通过短视频的形式，利用低门槛的内容创意，打破社交关系圈中固定的人设和形象，切中用户的痛痒点。从另外一方面来看，简单的二次内容消费，并不能从实质上为内容创意增量，难以在用户和产品之间形成稳定的关系链。当换过脸的假视频盛行，势必加剧假新闻和谣言的传播，也是对现有传播伦理的挑战。

AI技术的普及代表智能社会的到来，曾有学者表示“智能社会”本身就暗含矛盾。它是“充满智能机器的社会”与“人类的社会”的结合体。但机器与人类作为两种本质及其属性绝然不同的存在，二者的结合必定是极其复杂和充满矛盾的过程。

控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”尽管这是对技术发展的警示，但是AI技术发展带来可能，需要不断克服和超越，才能实现人与技术的平衡。