专家谈AI | 如何才能避免落入AI换脸“陷阱”？

眼睛是大还是小、鼻子是挺还是塌、嘴唇是厚还是薄……独特的五官特征构成了一张张独一无二的脸，让人类有了专属于自己的标签。它让我们能在茫茫人海中分得出自己的家人、朋友，可你敢相信吗，有一天，你最为熟悉的脸却可能将你拉进诈骗的深渊……这就是人工智能技术驱动的AI换脸。

AI技术驱动“换脸”真假难辨

“AI换脸，对应的学术名词为‘Deepfake’，是由Deep Learning（深度学习）和Fake（伪造）两个词组成的，一种兴起于2017年左右、比较典型的AI技术。”北京邮电大学网络空间安全学院教授周琳娜介绍道。

“未来，随着AI技术的持续发展，想要实现‘换脸’，用户所需要的动作会越来越少，而生成的视频逼真程度和丰富程度，以及人们的认可程度都会越来越高。”周琳娜表示。

然而，技术的发展从来就是一把“双刃剑”，AI换脸技术普及与应用所带来的负面影响，甚至催生出的违法产业日渐凸显。通过AI换脸蓄意抹黑公众人物形象、传播虚假广告、实施诈骗……不法分子对于AI换脸技术的滥用不胜枚举。

AI换脸的三种类型

那么，AI换脸究竟是如何实现的？

“主要有两种实现方式，一种是基于生成对抗网络的AI换脸，另一种则不是对整张脸进行替换，而是对脸的局部进行操控。比如利用某一段音频、话语，操控视频中人脸的嘴部动作。这种方法又叫Wav2Lip。”周琳娜介绍。

通过以上两种方式实现的深度伪造换脸技术主要有三类，第一类是面部合成，通过找出人脸的关键点进行检测，然后把一张脸和另外一张脸的关键点进行重叠，达到无缝融合的效果。这种换脸技术在图像中应用较广泛，是早期学术界论文涉及较多的技术。

第二类是人脸交换，如果说面部合成是合成一张不存在的人脸，那么人脸交换就可以把任意人脸，交换到想换到的人脸上。

第三类是人脸操控，即在视频中实现表情或面部转移的过程。其重点在于对目标人物的面部表情进行识别，而后依据摄像头捕捉的发音情况，进行面部模型的篡改，再配合音频合成伪装。

上述三种换脸技术的实现都需要有照片、视频等输入，大模型经过训练后，才能够产出换脸后的内容。然而，随着生成式人工智能（AIGC）技术的快速发展，只需要一张照片，然后输入一些目标任务的描述提示词，就能生成一张根本不存在的脸；甚至没有照片，仅通过提示词，就能生成一个全新的人物，去完成一段影片的演绎。

如何避免落入AI换脸的“陷阱”？

人脸交换和人脸操控技术由于能够实现对特定目标人物的换脸，成为不法分子滥用实施诈骗等行为的主要AI换脸技术。对此，我们该如何避免落入“陷阱”呢？

“事实上，这两种技术出现时间较早，基于其实现的换脸或生成的视频，是可以从细节上加以辨别的。”周琳娜介绍。

她举例道，如果训练者输入的照片或视频中，眨眼或者闭眼的内容比较少，那么生成的视频就不是很自然，人物可能就没有眨眼的动作；此外，如果输入的照片或视频的分辨率较低，那么生成的视频就可能存在细节方面的瑕疵，比如说两只眼睛的瞳孔颜色不一致、牙齿边缘过于整齐、细节不明显，或者存在伪影，等等。

而对于利用AIGC技术生成的视频，周琳娜表示需要通过专业手段和方式进行鉴别。“但这种造假的成本比较高，因为它需要较高的算力，并且需要A100这种专业级显卡。”她补充道。

用户要注意避免侵权、违规风险

据周琳娜介绍，为规范AI换脸技术的发展，世界各国都进行了积极有力地探索，我国也陆续出台相关措施进行有力监管。此外，我国也在积极探索数字水印技术的实现。

她同时提醒，公众个人下载换脸软件时，一定要认真阅读用户协议，明确权利和义务，避免使用软件可能产生的侵权、违规风险。此外，她也呼吁AI软件厂家，应肩负起对于伪造或者篡改视频的责任；主动了解发布及传播相关内容可能带来的后果。“通过各方努力，共同助力AI健康生态的建立。”周琳娜表示。

采访专家：周琳娜 北京邮电大学网络空间安全学院教授

制作：北京市科协融媒体中心