• +1

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

来源:澎湃新闻·澎湃号·政务
字号
AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

👆 点击上方图片回顾专栏往期内容 👆

刷脸核验,

本是守护数字身份的一道安全屏障。

却有人通过AI换脸

突破平台人脸识别,

代办账户实名认证,

这样的行为,

将会面临怎样的刑事处罚?

批量制造虚假实名账号,

又会埋下怎样的安全隐患?

▾ 点击查看视频 ▾

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

2025年起,

小勇、小林发现一款手机软件,

可以将手机实时拍摄的画面

替换成指定伪造的人脸视频,

于是,二人动起了歪脑筋。

他们合谋利用AI换脸技术,

规避平台的人脸识别检验,

对平台的后台系统进行非法控制,

违规办理账户实名认证,

并从中牟利。

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

二人的“业务”主要有两类:

一是接收客户提供的信息,

在某社交媒体平台

为非本人注册的账户办理实名登记;

二是自行网购未实名账号

及他人身份信息,

完成实名认证后转卖牟利。

经查,

小勇违法获利一万余元,

涉及认证账户230个;

小林违法获利七千余元,

涉及认证账户160余个。

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

人民法院经审理认为,

小勇、小林共同或单独违反国家规定,

不法采用技术手段,

对计算机系统实施非法控制,

情节严重,

其行为均已构成

非法控制计算机信息系统罪。

人民法院综合二人如实供述罪行、

自愿认罪认罚、退缴违法所得等情节,

以非法控制计算机信息系统罪,

分别判处小勇有期徒刑十个月,

缓刑一年,

并处罚金四千元,

判处小林有期徒刑八个月,

缓刑一年,

并处罚金三千元;

同时没收退缴在案的违法所得。

(文中当事人均为化名)

AI换脸“骗过”人脸识别?以此牟利踩中法律红线! AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

邱纯杰

上海市黄浦区人民法院刑事审判庭庭长

一、技术本身中立,但勿逾越法律底线

随着生成式AI技术的快速迭代,“AI换脸”已不再是影视特效中的设想,并可能被网络黑灰产利用,成为规避身份核验的工具。本案被告人借助手机软件将实时拍摄的画面替换为AI换脸视频,以此绕过平台系统预设的人脸识别身份核验机制,对平台的后台系统实施非法控制。

本案以非法控制计算机信息系统罪对行为人定罪处罚,明确了“技术本身中立,但绝不允许滥用”的司法态度。法律保护新技术的合法应用,也严禁任何人借助技术手段突破网络系统安全防护、破坏网络身份认证秩序。

二、守护数字身份,警惕AI换脸风险

人脸识别已经广泛融入社会生活,既是数字社会重要的身份核验手段,也是网络安全防护的重要屏障,受到法律保护。一旦刷脸核验能够被伪造换脸轻易攻破,个人数字身份权益将面临被侵害的风险。经AI换脸冒用身份完成实名的账号,还极易流入下游黑灰产,滋生各类违法犯罪活动。

人民法院对两名被告人依法定罪量刑,既是对上游技术类犯罪的精准打击,也是对整条黑灰产业链的釜底抽薪,切实为数字身份认证安全加固法治屏障。

三、多方共同努力,护航AI向善发展

推动科技向善发展,既需要法律监管的及时跟进,也需要平台企业、社会公众等多方共同发力。

平台企业应当压实安全主体责任,持续升级活体检测、多模态比对等技术防护能力,不能把身份核验的安全风险转嫁给普通用户;社会公众也要增强个人信息保护意识,人脸影像、生活照、身份证等生物识别信息属于高度敏感个人数据,切勿轻易向他人提供、泄露。

人工智能发展越快,越需要法治定边界、明规则。只有监管跟得上、平台守得住、公众有意识,技术才能沿着向善轨道运行,在规范发展中更好地服务社会大众。

AI换脸“骗过”人脸识别?以此牟利踩中法律红线! AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

蔡祎婧

上海市人大代表,上海久事体育资产经营有限公司资产运营部副经理

随着生成式人工智能快速发展,AI深度合成技术的使用门槛不断降低,AI换脸在给社会生活带来便利的同时,也被部分不法分子所利用,成为网络空间治理当中不容忽视的风险。

本案中,人民法院以非法控制计算机信息系统罪对被告人定罪处罚,直面AI技术滥用带来的新型网络犯罪,以司法裁判告知社会公众:新技术的创新应用不能逾越法律底线,利用AI换脸实施非法控制计算机信息系统、牟取非法利益的行为必将受到刑法规制。同时,本案的审理弘扬了科技向善和诚信守法的社会风尚,社会公众应当合理使用人工智能技术,平台企业应当完善身份核验安全防护,共同维护安全清朗的网络空间秩序。

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

一、《中华人民共和国刑法》

第二百八十五条 ……

违反国家规定,侵入前款规定以外的计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或者传输的数据,或者对该计算机信息系统实施非法控制,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。

……

第二十五条 共同犯罪是指二人以上共同故意犯罪。

……

第六十七条 ……

犯罪嫌疑人虽不具有前两款规定的自首情节,但是如实供述自己罪行的,可以从轻处罚;因其如实供述自己罪行,避免特别严重后果发生的,可以减轻处罚。

第七十二条 对于被判处拘役、三年以下有期徒刑的犯罪分子,同时符合下列条件的,可以宣告缓刑,对其中不满十八周岁的人、怀孕的妇女和已满七十五周岁的人,应当宣告缓刑:

(一)犯罪情节较轻;

(二)有悔罪表现;

(三)没有再犯罪的危险;

(四)宣告缓刑对所居住社区没有重大不良影响。

……

被宣告缓刑的犯罪分子,如果被判处附加刑,附加刑仍须执行。

第七十三条 ……

有期徒刑的缓刑考验期限为原判刑期以上五年以下,但是不能少于一年。

缓刑考验期限,从判决确定之日起计算。

第五十二条 判处罚金,应当根据犯罪情节决定罚金数额。

第五十三条 罚金在判决指定的期限内一次或者分期缴纳。期满不缴纳的,强制缴纳。对于不能全部缴纳罚金的,人民法院在任何时候发现被执行人有可以执行的财产,应当随时追缴。

由于遭遇不能抗拒的灾祸等原因缴纳确实有困难的,经人民法院裁定,可以延期缴纳、酌情减少或者免除。

第六十四条 犯罪分子违法所得的一切财物,应当予以追缴或者责令退赔;对被害人的合法财产,应当及时返还;违禁品和供犯罪所用的本人财物,应当予以没收。没收的财物和罚金,一律上缴国库,不得挪用和自行处理。

二、《中华人民共和国刑事诉讼法》

第十五条 犯罪嫌疑人、被告人自愿如实供述自己的罪行,承认指控的犯罪事实,愿意接受处罚的,可以依法从宽处理。

▴ 向上滑动查看更多 ▴

AI换脸“骗过”人脸识别?以此牟利踩中法律红线!

来源丨上海市高级人民法院、上海市黄浦区人民法院

高院供稿部门:刑事审判庭、研究室(发展研究中心)

文字:王哲

摄影:陈琪

漫画:AI辅助生成

视频:彭梓轩、谢婧雯、朱凯希、潘一鸣、李羽倩、钟依璇、魏怡霏(实习生)

原标题:《AI换脸“骗过”人脸识别?以此牟利踩中法律红线!》

阅读原文

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
    澎湃热榜
      澎湃早晚报
        澎湃财讯
          填字游戏
            要闻精选
            查看更多
            扫码下载澎湃新闻客户端

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602008124号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2026 上海东方报业有限公司

            可信网站验证
            无障碍阅读