文 |张田勘

这两天一款现象级的名叫ZAO的的AI换脸软件红遍网络，下载这款软件后，用户可以用自己的脸替换名人、明星的脸，还可制作表情包，出演经典电影，跟偶像飙戏等，从效果看非常逼真，而且面部表情自然，操作简便，很多人玩了一把后，直呼过瘾。

然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

火爆的ZAO与潜在的危机

实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。

▲deepfakes“换脸”视频截图

既然是造假，当然要禁止。但是很多图片软件研发出来的目的可能初心并非是为了造假和欺骗，只是为了好玩，就像美国的Deepfakes最初在Reddit网站以娱乐形式发布一样，现在的ZAO同样可能基于好玩和吸引公众的原因而发布，当然不排除流量增加后的商业目的。

但是，很多业内外人士马上察觉到ZAO的阴影和潜在的危机与不安全，因为使用这款软件进行换脸后，需要进行眨眼、抬头等各种验证，与刷脸支付采集的脸部信息类似，而且注册平台需要手机号码。

这就可能产生种种不安全，如自己钱包（支付宝、微信和银行卡）中的钱会就如同换脸一样很简单地换（变）成了对方的钱，或被第三方转走。其次，换脸容易，洗刷嫌疑可难，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。

当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

▲ZAO软件苹果商店排行

除此之外，潜在的危险还包括这款软件的一些不利于用户的条款，在用户协议的表述中有：使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。

不过，在引发争议后，ZAO修改了其用户协议内容，新增加了“特别提示”。并对最具争议的用户协议第六条第二款中要求用户须授予 ZAO“完全免费、不可撤销、永久、可转授权和可再许可的权利”的字段删除。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。如果说ZAO软件已经造成了实际危害结果，就是治病的范畴，虽要下猛药。但是，现在人们使用ZAO还没有出现问题，只是预感和预测其可能要出问题，因此属于预防的问题。

现在，各种AI软件似乎是防不住，一种方法是，如果预感和预测到AI软件对社会有重大威胁，就应全面禁止。还有一种方法是，现在还没出问题，可以放行（绝非放任），等出了问题再来解决。

▲ZAO图片截图

Deepfakes泛滥，欧美如何应对？

现在ZAO软件就面临着管理者禁与放的困难抉择。由于有不同的国情和环境，也许对换脸技术的敏感度和监控方式是不一样的。对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

2019年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等。

其实，这篇文章并没有提出具体的建议，但是一个重要的建议是，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。

2019年6月13日，美国众议院情报委员会对Deepfakes举行了一场听证会，会上该委员会主席、众议员亚当•希夫（Adam Schiff）称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，需要对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。

▲Deepfakes换脸技术