【网络谣言粉碎机】“AI换脸技术”被滥用，伪造淫秽视频触犯法律信不得！

8月28日晚，演员刘昊然工作室发布了一则报警声明，引发网友关注。

刘昊然工作室发博表示该视频为AI换脸技术伪造，在今年1月就曾被恶意传播，又于近日被再次传播扩大。

该工作室表示，为维护刘昊然的合法权益，他们已向警方报案。

有细心网友找出了刘昊然这则换脸视频，视频画面中，被AI换脸的刘昊然未穿上衣。网友发现，在1分04秒的地方，人脸有明显变化，前后并不是同一个人。网友因此推断，该视频是AI换脸合成的。

有粉丝顺藤摸瓜，找到造谣时间是在2019年，源头是外网。

有博主利用人工智能对刘昊然进行了换脸，之后网友传播到各大网站，再加以文字渲染，各种流言蜚语接踵而至。

对此，不少网友认为，互联网并非法外之地，传播谣言，应该负担起相应的法律责任。

也有网友认为，法律应该严惩那些利用AI换脸技术，做着有违法律、道德之事的人。

AI换脸被用于色情传播

女明星是重灾区

实际上，滥用深度伪造技术的“AI脱衣术”已经存在多年，催生出的黑灰产屡禁不绝。

顾名思义，AI换脸就是将动态视频中的人脸替换成其他人的人脸，在深度伪造技术的“加持”下，替换上的人脸不再是僵硬的“五毛特效”，表情神态与原视频十分相近，甚至肉眼难以辨别。

2019年，就有B站UP主“换脸哥”用深度伪造技术将杨幂的脸“贴”在了朱茵饰演的黄蓉脸上，流传甚广。

随后，不法分子想出让明星“AI脱衣”的点子，他们把淫秽视频中的人脸换上明星的脸，然后在网络上出售，还有人进行换脸技术教学。

女明星是“AI脱衣术”的重灾区。

去年9月，有外媒报道，女演员艾玛·沃特森（Emma Watson）的30秒换脸视频在色情网站上播放超过2300万次，还有多位女明星的换脸视频被观看了数百万次，或是被换脸成为数十个色情影片的女主角，比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等。

换脸软件“ZAO”和“去演”也均被工信部、网信办约谈整改。然而，记者调查发现，目前，“AI脱衣”的黑灰产仍在互联网中存在。

AI换脸成本低

也被用于人脸识别

AI换脸泛滥的一个重要原因，是它能够被低成本低门槛地获取和运用。

记者在QQ中搜索“换脸”，发现“AI明星换脸”“AI换脸私人定制”等数十个QQ群，群里不少人都在售卖“AI换脸”服务。

以“换脸”为关键词的QQ群搜索结果。

记者在一个AI换脸群内联系到了一位自称可以提供“AI影视换脸合成、换脸定制、换脸教学、成品打包、工具分享”服务的工作人员。该工作人员表示，只要把原始视频素材发给他，想要换脸成哪个明星都可以。并且，该工作人员透露，不光可以换脸明星，换脸素人也可以，只需要提供一张照片，就可以做到“如假包换”。

随后，该工作人员给记者发来两段视频样品。记者发现，从样品来看，经换脸处理后的视频看起来非常自然，肉眼看不出破绽。

工作人员给记者发的视频样品：一段影视剧的AI换脸片段。

关于换脸的价格，该工作人员表示，价格取决于视频时长。5分钟100元，10分钟200元，如果视频很长，价格可以优惠。记者询问是否可以把色情内容视频换脸成明星，对方表示“不限内容”。

如果客户想要自己批量制作换脸视频，也可以选择购买换脸教程。该工作人员告诉记者，只需花2000元，他就可以向记者提供换脸软件，并进行一对一教学，“包教包会”。“大约一个星期就可以掌握AI换脸视频制作。”他说。

在与该工作人员的聊天中，记者发现，AI换脸不仅被用于色情内容，也被用于人脸识别。为了向记者表明换脸效果逼真，该工作人员透露“甚至可以通过人脸识别”。

不过，他表示，并不是所有的人脸识别都可以通过，支付宝、微信、银行类App的人脸识别精度要求非常高，AI换脸达不到。但他透露，自己在从事一项灰色业务——办理手机卡需要到营业厅进行实名认证，AI换脸可以骗过开卡环节中的人脸识别系统。

法律明确规定

未经当事人同意的AI换脸违法

其实，这不是刘昊然第一次被换脸。

去年3月，抖音博主“韦康vico”的一条换脸刘昊然的创意视频获得了近120万点赞。不过，无论对何种类型的视频换脸，均违反了法律规定。

今年1月1日起实施的民法典中，第一千零一十九条明确规定：

任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

法律另有规定的五种情形，包括为个人学习等目的在必要范围内使用、新闻报道不可避免地使用、国家机关依法为依法履行职责使用等。

这意味着，无论是普通公众还是明星，除了以上这五种情形，一切其他的换脸视频都需要以肖像权人同意为前提，否则即为侵权。而制作、复制、贩卖、传播淫秽视频，已经触犯了刑法。受害人可以依法进行维权。

来源：上海网络辟谣

原标题：《【网络谣言粉碎机】“AI换脸技术”被滥用，伪造淫秽视频触犯法律信不得！》

阅读原文