- +1
AI换脸“骗过”人脸识别?以此牟利踩中法律红线!
👆 点击上方图片回顾专栏往期内容 👆
刷脸核验,
本是守护数字身份的一道安全屏障。
却有人通过AI换脸
突破平台人脸识别,
代办账户实名认证,
这样的行为,
将会面临怎样的刑事处罚?
批量制造虚假实名账号,
又会埋下怎样的安全隐患?
▾ 点击查看视频 ▾
2025年起,
小勇、小林发现一款手机软件,
可以将手机实时拍摄的画面
替换成指定伪造的人脸视频,
于是,二人动起了歪脑筋。
他们合谋利用AI换脸技术,
规避平台的人脸识别检验,
对平台的后台系统进行非法控制,
违规办理账户实名认证,
并从中牟利。
二人的“业务”主要有两类:
一是接收客户提供的信息,
在某社交媒体平台
为非本人注册的账户办理实名登记;
二是自行网购未实名账号
及他人身份信息,
完成实名认证后转卖牟利。
经查,
小勇违法获利一万余元,
涉及认证账户230个;
小林违法获利七千余元,
涉及认证账户160余个。
人民法院经审理认为,
小勇、小林共同或单独违反国家规定,
不法采用技术手段,
对计算机系统实施非法控制,
情节严重,
其行为均已构成
非法控制计算机信息系统罪。
人民法院综合二人如实供述罪行、
自愿认罪认罚、退缴违法所得等情节,
以非法控制计算机信息系统罪,
分别判处小勇有期徒刑十个月,
缓刑一年,
并处罚金四千元,
判处小林有期徒刑八个月,
缓刑一年,
并处罚金三千元;
同时没收退缴在案的违法所得。
(文中当事人均为化名)
邱纯杰
上海市黄浦区人民法院刑事审判庭庭长
一、技术本身中立,但勿逾越法律底线
随着生成式AI技术的快速迭代,“AI换脸”已不再是影视特效中的设想,并可能被网络黑灰产利用,成为规避身份核验的工具。本案被告人借助手机软件将实时拍摄的画面替换为AI换脸视频,以此绕过平台系统预设的人脸识别身份核验机制,对平台的后台系统实施非法控制。
本案以非法控制计算机信息系统罪对行为人定罪处罚,明确了“技术本身中立,但绝不允许滥用”的司法态度。法律保护新技术的合法应用,也严禁任何人借助技术手段突破网络系统安全防护、破坏网络身份认证秩序。
二、守护数字身份,警惕AI换脸风险
人脸识别已经广泛融入社会生活,既是数字社会重要的身份核验手段,也是网络安全防护的重要屏障,受到法律保护。一旦刷脸核验能够被伪造换脸轻易攻破,个人数字身份权益将面临被侵害的风险。经AI换脸冒用身份完成实名的账号,还极易流入下游黑灰产,滋生各类违法犯罪活动。
人民法院对两名被告人依法定罪量刑,既是对上游技术类犯罪的精准打击,也是对整条黑灰产业链的釜底抽薪,切实为数字身份认证安全加固法治屏障。
三、多方共同努力,护航AI向善发展
推动科技向善发展,既需要法律监管的及时跟进,也需要平台企业、社会公众等多方共同发力。
平台企业应当压实安全主体责任,持续升级活体检测、多模态比对等技术防护能力,不能把身份核验的安全风险转嫁给普通用户;社会公众也要增强个人信息保护意识,人脸影像、生活照、身份证等生物识别信息属于高度敏感个人数据,切勿轻易向他人提供、泄露。
人工智能发展越快,越需要法治定边界、明规则。只有监管跟得上、平台守得住、公众有意识,技术才能沿着向善轨道运行,在规范发展中更好地服务社会大众。
蔡祎婧
上海市人大代表,上海久事体育资产经营有限公司资产运营部副经理
随着生成式人工智能快速发展,AI深度合成技术的使用门槛不断降低,AI换脸在给社会生活带来便利的同时,也被部分不法分子所利用,成为网络空间治理当中不容忽视的风险。
本案中,人民法院以非法控制计算机信息系统罪对被告人定罪处罚,直面AI技术滥用带来的新型网络犯罪,以司法裁判告知社会公众:新技术的创新应用不能逾越法律底线,利用AI换脸实施非法控制计算机信息系统、牟取非法利益的行为必将受到刑法规制。同时,本案的审理弘扬了科技向善和诚信守法的社会风尚,社会公众应当合理使用人工智能技术,平台企业应当完善身份核验安全防护,共同维护安全清朗的网络空间秩序。
一、《中华人民共和国刑法》
第二百八十五条 ……
违反国家规定,侵入前款规定以外的计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或者传输的数据,或者对该计算机信息系统实施非法控制,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。
……
第二十五条 共同犯罪是指二人以上共同故意犯罪。
……
第六十七条 ……
犯罪嫌疑人虽不具有前两款规定的自首情节,但是如实供述自己罪行的,可以从轻处罚;因其如实供述自己罪行,避免特别严重后果发生的,可以减轻处罚。
第七十二条 对于被判处拘役、三年以下有期徒刑的犯罪分子,同时符合下列条件的,可以宣告缓刑,对其中不满十八周岁的人、怀孕的妇女和已满七十五周岁的人,应当宣告缓刑:
(一)犯罪情节较轻;
(二)有悔罪表现;
(三)没有再犯罪的危险;
(四)宣告缓刑对所居住社区没有重大不良影响。
……
被宣告缓刑的犯罪分子,如果被判处附加刑,附加刑仍须执行。
第七十三条 ……
有期徒刑的缓刑考验期限为原判刑期以上五年以下,但是不能少于一年。
缓刑考验期限,从判决确定之日起计算。
第五十二条 判处罚金,应当根据犯罪情节决定罚金数额。
第五十三条 罚金在判决指定的期限内一次或者分期缴纳。期满不缴纳的,强制缴纳。对于不能全部缴纳罚金的,人民法院在任何时候发现被执行人有可以执行的财产,应当随时追缴。
由于遭遇不能抗拒的灾祸等原因缴纳确实有困难的,经人民法院裁定,可以延期缴纳、酌情减少或者免除。
第六十四条 犯罪分子违法所得的一切财物,应当予以追缴或者责令退赔;对被害人的合法财产,应当及时返还;违禁品和供犯罪所用的本人财物,应当予以没收。没收的财物和罚金,一律上缴国库,不得挪用和自行处理。
二、《中华人民共和国刑事诉讼法》
第十五条 犯罪嫌疑人、被告人自愿如实供述自己的罪行,承认指控的犯罪事实,愿意接受处罚的,可以依法从宽处理。
▴ 向上滑动查看更多 ▴
来源丨上海市高级人民法院、上海市黄浦区人民法院
高院供稿部门:刑事审判庭、研究室(发展研究中心)
文字:王哲
摄影:陈琪
漫画:AI辅助生成
视频:彭梓轩、谢婧雯、朱凯希、潘一鸣、李羽倩、钟依璇、魏怡霏(实习生)
原标题:《AI换脸“骗过”人脸识别?以此牟利踩中法律红线!》
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。





- 报料热线: 021-962866
- 报料邮箱: news@thepaper.cn
互联网新闻信息服务许可证:31120170006
增值电信业务经营许可证:沪B2-2017116
© 2014-2026 上海东方报业有限公司




