AI换脸术都这么强了但我们做好准备了吗

汹涌首席评论员 沈彬

又一个现象级的互联网产品诞生了——8月30日晚间开端，一个名为“ZAO”的AI换脸APP遽然爆火，在朋友圈里刷屏！（相关报导：朋友圈都在跟明星“谈恋爱”，细思极恐）

用户只需要在APP中上传一张自己的相片，就能将自己的脸替换到周润发、白展堂、玛丽莲梦露、紫薇等明星的头上，而且脸交融作用十分棒，几乎能够以假乱真，你能够和小李子相同叱咤荧幕，出现在经典镜头里，也能够和心中的“男神”“女神”同框飙戏……

在振奋了一阵之后，不少人觉得哪里不对劲儿了：这么强壮的“换脸术”会不会被乱用？比方，自己的脸被换到色情视频的主角头上，那真是跳到黄河里都洗不清了。或许，有犯罪分子运用“换脸”技能在视频里，向家族施行欺诈、敲诈……如此完美的换脸技能，几乎成了敲诈勒索、毁人洁白的利器。

应该看到，这款APP也采取了办法避免换脸被乱用，对用户运用了一般只要金融付出APP才有的“实脸认证”，用户在镜头前要按要求眨眼、扭头，在体系判别你上传的这张相片便是你自己之后，才干进行下一步操作，确保你没有拿他人来换脸。

可是，这种换脸APP搞的“实脸认证”，形成了一个悖论：为了避免头像被乱用，咱们在运用这款APP之前要交出自己更多的信息，特别是脸部信息。忧虑隐私被乱用的咱们，被逼将更多的隐私交给了APP……谁来监管APP自身？

APP现已给自己预备好了“甩锅条款”，有心的网友发现“ZAO”的用户协议傍边，有“您赞同或确保肖像权力人赞同颁发‘ZAO’及其相关公司全球范围内完全免费、不行吊销、永久、可转授权和可再答应的权力”之类霸王条款滋味十足的条款。

这等于用户在愉快游玩这款软件之前，默许自己的换脸视频要被APP“完全免费、不行吊销”地“游玩”。从法令层面上说，“ZAO”现已打定主意充分运用“避风港条款”，一旦有法令纠纷，将会将职责推给用户上传。

咱们还没有习气“刷脸”年代，更颠覆性的“换脸年代”就来了。事实上，许多新技能、新运营形式发生之后，最早嗅到商机的往往是一些灰色工业，这次AI换脸术也或许难逃此劫了。

怎样确保“ZAO”能保护好这些直接包括用户手机和面部生物信息的中心信息？怎样确保这些“脸”不被不正当“开发”？怎样确保咱们的“脸”不被卖掉？

AI换脸术的最早运用便是情色视频。2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户初次将自己制造的AI换脸视频发布在了网络上，并把情色电影里的女主角换成了盖尔 加朵等好莱坞明星。后来在一片声讨声中，“deepfakes”将这一技能作为开源代码放到了网上，只要是懂一些相关技能的，都能够得到这些开源程序，而且稍加改造就能够运用。

所以，当下，言论的炮火也不用全面指向“ZAO”自身，“ZAO”不是什么高科技，而是根据开源程序的“低科技”商业运用。但更大的问题在于，这么肉眼难辨、足以乱真的换脸技能竟然或许是垂手而得的，乃至或许轻意落到欺诈、色情工业的违法分子手里，这就不由让人倒吸一口凉气。

人类几十万年来，一直把脸作为最重要的生物辨认目标，经过“看脸”来差异你、我、他，但是这个最清晰的鸿沟却含糊了。法令有没有做好预备？行政管理有没有做好预备？人心有没有做好预备？

“黑镜社会”正在来临，相关法令和道德标准、技能标准有必要同步出台，这不是杞人忧天。

本期见习修改 常琛

引荐阅览