【网络安全云课堂】让你“眼见为虚”的深度合成技术

随着人工智能时代的来临

一些人也开启了数字人生

从虚拟偶像洛天依登上央视春晚

到柳夜熙在抖音横空出世

再到手语数字人

为听障人士解说冬奥赛事

虚拟数字人走红网络的背后

深度合成技术令人瞩目

什么是深度合成技术

深度合成技术是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括文本转语音、音乐生成、场景声编辑、人脸生成、人脸替换、图像增强等技术。

通过升级传统内容制作方法

深度合成技术在新闻传媒

影视制作、社交娱乐、教育

和电子商务等领域应用不断丰富

包括AI合成主播、虚拟偶像

修复历史老照片等

深度合成技术应用

随着某剧热播，粉丝追剧有了新玩法——只需上传自己的照片，相关系统即可自动“换脸”，生成剧迷本人穿越到剧中做主角的流畅视频。这个实现“过把主角瘾”的技术叫深度合成。作为AI技术的新应用、新实践，深度合成早已在音乐、影视、综合娱乐和社交等多个行业场景中被推广应用。业内人士认为，未来随着自动数据生成、全身合成、3D塑型等技术的逐渐成型，一个新的人类生存场景将以深度合成技术为基石展开。此外，越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务。音频方面，语音合成已经成为人机交互的重要一环，且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手、自动新闻播报等场景。文本方面，深度合成在新闻报道、诗文创作、聊天问答等方面都得到越来越多的应用。

在深度合成技术向社会生活的各个领域渗透之时，深度合成内容负面风险持续加剧且产生实质危害。一些电信网络诈骗就用到了这种技术。

下面就带你了解深度合成技术是如何被用到诈骗中的。

01

AI换脸技术

AI换脸是指利用人工智能技术对图片或视频中的目标人脸进行置换。

虽然PS技术也可以通过剪切、移动图片位置达到换脸的效果，但PS换脸技术需要专业人员对图片和视频进行大量修改。如果处理不当，人脸衔接就会比较生硬，看起来不太真实。

相比之下，AI换脸不仅可以快速将一张人脸无缝融入到另一个图片或视频中，甚至连人物表情、口型都可以用AI技术合成，具有更强的“以假乱真”效果。

02

AI换脸是如何做到的

答：简单的来说就是人工智能把A的面部关键信息记录下来，如图中所展现出的嘴巴、鼻子、眼睛等信息，并且将这种信息反复重建和自我改进，最终可以完全自主地生成一张A的脸，并模拟它的大部分表情。

下一步，当然就很简单，只要把这张脸再贴到任意一个视频中的B的身体上，“换脸”就完成了。

03

AI换声

第一种：转发微信语音

骗子在盗取微信号后，向该微信号的好友提出转账要求。为取得信任，骗子会转发之前的语音，进而获得钱款。虽然目前微信语音是不能转发的，但骗子可以通过提取语音文件或安装插件，实现语音转发。

第二种：声音合成

骗子通过骚扰电话等方式，录音提取某人的声音，并对素材进行合成，用伪造的声音实施诈骗。

面对利用AI人工智能这种新型的诈骗手段

我们如何进行防范

01 多重验证 确认身份

AI诈骗难以区分，因此在确认涉及钱款时，尽量通过电话询问具体信息，确认对方是否为本人。尽量使用银行汇款，避免通过社交软件转账，同时将到账时间设置为“24小时到账”，以预留处理时间。

02 保护信息 避免诱惑

加强个人信息保护意识，对于不明平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准诈骗”。

03 发现风险 及时报警

一旦发现风险或被骗，及时报警求助。

网

警

提

醒

所谓“眼见为实”，你印象中的网络诈骗是不是还停留在夹着嗓音冒充熟人借钱，盗取社交软件寻求好友资助的初级模式？但现在眼见却不一定为实。随着人工智能技术的不断突破，骗子们利用深度合成技术使诈骗手法不断翻新，我们需要时刻保持警惕。

原标题：《【网络安全云课堂】让你“眼见为虚”的深度合成技术》

阅读原文