3·15揭人脸识别安全漏洞,业界回应要骗过系统没这么容易

微信公众号“新智元”

2017-03-16 17:32

字号
本文图片均来源于 微信公众号 新智元
【新智元导读】 2017年的“3·15”落下帷幕,人脸识别技术公司纷纷躺枪。3月16日一大早,大家纷纷发表声明,表示自家的人脸识别技术还是相当安全的。本文整理了各家的回应,由此也可以看到,这些科技公司是否真的“躺枪”?人脸识别技术近年来持续火热,那么真实的行业发展状况如何?商业化应用中是否真的会如此轻易就被攻破?来看看专家们怎么说。
一年一度的“3·15” 落下帷幕,伴随着人工智能的火热,相关技术应用也在这场以“打假”、“维护消费者权益”为名的晚会上被点名。其中最受关注的一个便是——人脸识别。
晚会现场,主持人现场演示了攻破人脸识别手段。在演示过程中,一张他人的静态自拍照,通过技术处理,可以变成能眨眼睛、能微笑的“伪活人”。甚至还可以利用这张自拍照,借助3D建模技术,让自己“变脸”成另一个人,轻易骗过登录系统,成功“黑”进对方账号。
“3·15”晚会的曝光,在业界掀起波澜,不少人脸识别技术公司纷纷回应”躺枪”。百度在节目播出后5分钟内立刻作出回应——邀请百度深度学习实验室主任林元庆,在百度科技园的人脸识别闸机做一次亲身验证,看百度人脸识别系统究竟能否被一段视频“骗过”。阿里巴巴的支付宝也很快作出回应:“你们都觉得我躺枪了吗?”
3月16日早,我们看到国内众多人脸识别创业公司的回应,包括云从科技、商汤科技等。
那么,人脸识别技术真的像节目现场演示的那样容易被攻破吗?其背后的基本原理是什么?作为利益相关方,国内做人脸识别技术的公司作何回应?我们应对这一种破解的方案可以有哪些?新智元第一时间连线了技术专家,带来详细解读。
魔高一尺道高一丈
中科视拓创始人、董事长兼CTO 山世光对新智元介绍,
目前看来,简单的一张照片攻击成功率还是比较小的,一般使用了活体检测的系统,都会要求用户眨眼、张嘴、摇头等主动配合式的手段来防止照片攻击。
但目前的技术确实还做不到100% 防止假体、合成的人脸欺骗等攻击手段,但还是有更多潜在技术手段可以提高防欺骗能力的。
这是一个魔高一尺道高一丈的游戏,出现新的攻击手段,自然会有防止攻击的手段。
一般来说,人脸识别技术的APP识别流程包括以下步骤:
Step 1 人脸检测
Step 2 人脸图像预处理
Step 3 人脸图像特征提取
Step 4 人脸图像匹配与识别(特征学习与特征选择)
现在的人脸识别,特别是APP上,还有另外一项技术——“活体检测”,这是商业化应用的重要一环,也是本次“3·15”晚会上被攻破的一环。
人脸识别涉及的主要步骤,图来自知乎
在晚会现场可以看到,主持人是使用了一项 AI 技术(仅在手机网页或应用程序上就能实现),把静态的照片转化成动态照片,从而骗过登录系统。
几天前,这一技术在Twitter 上受到广泛关注,试用链接:https://t.co/WgBApTNPtC。
根据云从科技的介绍,攻击人脸识别的这项技术并不新鲜,去年CVPR 会议前夕,一篇由德国埃尔朗根-纽伦堡大学、马克斯•普朗克计算机科学研究所、斯坦福大学三家学术机构5名科学家共同创作的论文“实时人脸捕捉和再扮演—— Face2Face”引起了国内科技圈的热议。
CVPR全称为计算机视觉和模式识别大会 (Computer Vision and Pattern Recognition),是一年一度的视觉领域最高学术会议。因此,早在该研究成果公布伊始,国内媒体就对其进行了报道:“这个技术的原理是通过一种密集光度一致性办法(Dense Photometric Consistency measure),达到跟踪源和目标视频中脸部表情的实时转换,由于间隔的时间很短,使得‘复制’面部表情成为可能,但现在还没办法实现声音也一样模仿出来。”
商汤科技介绍,传统的人脸防伪方法一般通过用户的动作,例如:眨眼、张嘴、点头、摇头、微笑、眼动等,作为防伪线索,即我们常说的活体检测。这种方法会有一个漏洞,就是难以防住真人视频或者合成的视频(例如3D模型或者换脸算法)。
专家:3·15晚会的报道是片面的
1. 翻拍、PS 会留下的痕迹,可被系统识别
由于真人视频或者合成的视频,必然需要通过屏幕进行显示,然后使用采集端进行翻拍。虽然视频本身可能做到看起来非常真实,但是翻拍的过程中,必然会暴露出“犯罪”线索,例如:显示器边缘,屏幕反光,摩尔纹,像素点纹理,镜头畸变等。有些线索可能会很细微,以至人眼常常难以察觉,而计算机可以察觉在hack过程中这些细微的线索。
另外,在图像与视频的合成过程中,比如PS照片等方式,背景与合成的前景人脸往往在光线分布、纹理、色调等诸多方面不匹配,这是因为它们的成像条件不同,现有图像与视频合成技术还做不到对场景中影响成像的所有物理因素进行完美建模。背景与前景结合处的像素也会呈现artifact,这些不匹配即便是肉眼不易察觉,也会被基于大数据训练的深度学习模型敏感地捕捉到。
2. 多重验证
针对此事新智元采访了国内人脸识别技术领先公司、云从科技的CTO周曦。
他对新智元说:“人脸识别在应用于金融身份核验时,更多是作为交叉验证中的一环,增强安全性,比以往仅使用密码登录认证更加安全。此外,还存在其他验证手段与人脸识别形成多重验证。”
商汤科技也表示,目前在人脸识别和活体检测的主要应用场景中,各大支持“刷脸登陆”的应用,都不会将人脸作为唯一的登陆凭证。
3. 提高验证时间和速度
上海中科计算研究所所长、起点资本合伙人孔华威认为,3·15晚会的报道是片面的,这实际上构成了对人工智能新技术的打压。
晚会的演示没有将数字技术本身的逻辑展示给公众。在远程数字传输的过程中,恶意攻击总是有机会去钻空子的。“晚会应该把攻破系统的技术人员叫出来,让他们解释一下是如何做到的”,才算是将信息完整传递给了公众。
孔华威认为,技术的发展,尤其是信息安全技术,总是先有矛后有盾,都是遇到了问题以后,才有针对地开发解决方案。就3·15晚会“曝光”的问题,解决方案也很简单,其中一种方法便是提高验证的时间和速度,让攻击跟不上。
在晚会现场的演示中,被测系统要么仅验证了眼睛部分,要么仅验证了嘴唇,这也是它被几个连人眼都能看出来的问题给“骗过”的原因。如果做的是整个面部的检测识别,相信就不会出现这样的情况。而被测系统之所以只检测个别部分,主要是为了在移动端节能,减少计算负担,提升验证速率。
孔华威认为,随着芯片的发展和5G的普及,这些问题很容易就能得到解决。
“躺枪”公司如何回应?
而直呼“躺枪”的支付宝,也给出了自己的回应:
1、支付宝的人脸识别在识别前会进行活体检测
目前,支付宝的人脸识别准确率超过99.6%,结合眼纹等多因子验证,准确率能达到99.99%,超过肉眼识别97%的准确率。
在实际应用场景中,支付宝会先通过活体检测算法进行检测(判断采集到的人脸是活体信息而不是照片伪造、视频伪造或者其他软件模拟生成的),再使用人脸识别算法将「活体人脸」与“官方身份证人脸数据库”或者之前比对成功的活体人脸信息进行比对,判断是否为同一人。
虽然都叫人脸识别,但不同平台的识别算法和活体检测算法是不同的。不知道晚会上测试的具体是哪一家。严格意义上讲,不能仅因为突破了这家的算法,就认定人脸识别都不可靠,能得出的结论只是被测试的这家算法还不够好。
2、人脸识别只是支付宝风控系统的环节之一
考虑到行业里人脸识别准确率还未达到100%,支付宝并未将人脸识别作为唯一的风控手段。
目前,支付宝只对在当前手机上用密码登录成功过的用户才开放人脸登录,并不会出现只通过人脸信息验证就在陌生手机上登录成功的情况(如果想试,可以试试用别人的手机来刷脸登录,看能不能登自己的账号)。
在支付环节,有的时候也会出现人脸校验。
支付宝平台上每天有上亿笔交易,最高峰值每秒有12万多笔交易。每笔交易,智能风控系统都会进行多个维度的风险检测,以确保交易的万无一失。即便用户输入正确了支付密码,但当系统判定存在风险,或涉及大额交易时,风控系统会根据具体情况,要求进行人脸识别,来进行额外的身份校验。
3、即便出现概率极低的事也不用担心
目前看来,通过节目中测试的这些方法来突破支付宝人脸登录的可能性是极低的。因为只有用过支付宝账号、密码登录成功的手机上,才有可能开启人脸识别。而即便自己的手机丢了,且没有设置开机密码,也不用担心,因为要用支付宝支付得用支付密码,而人脸识别是没法代替支付密码的。
另外,如果因为人脸登录出现状况导致账号资金损失,会进行全额赔偿。
百度在官方公众号上回应说:“百度的人脸识别技术,可以准确识别活人与照片。换脸App、静态照片变动态这些都没办法蒙混过关,哪怕真人录制的高清视频都不行。”
商汤科技则说,在移动端身份验证中,他们采用了随机动作+后端防伪的方式,前者提高了hack者尝试的成本并利于捕捉更多线索,后端防伪可以做到快速更新,类似杀毒软件的“云端杀毒”模式,一旦发现潜在的新hack类型,可以在第一时间进行算法更新。
云从的人脸识别主要应用于公安领域,对于公安筛查犯罪人员来说,3·15晚会上曝光的问题实际并不存在——晚会上说的其实是“登录认证”的问题。以人脸识别技术现在的发展,确实不能保证“绝对的安全”。但是,“绝对安全”这件事情本身就不存在。
周曦告诉新智元,虽然做技术的总是希望做到完美,但任何技术都存在一定的破解几率,这是无可避免的。针对3·15 晚会上的问题,我们可以从国家安全标准的角度去考虑。在金融领域(比如手机提款)使用人脸识别进行登录认证时,根据人民银行的规定,需要经过“双重认证”,也即在人脸识别之外,还要输入密码。
综合大家的回应来看,目前行业的解决方案也还是上面提到的:活体检测阶段的把控+交叉手段验证。
大势所趋,岂会因噎废食
人脸识别技术目前是目前人工智能技术落地应用中走得较为靠前的。在国内,互联网巨头和一大批创业企业都瞄准了这一方向。我们确实也看到,在景区、安防、系统验证等场景中,人脸识别技术确实得到了较为广泛地应用。
人脸识别技术现在业界的准确率已经达到99%,超过人类水平的97%,在深度学习等技术的助理下,对于专注于此的公司来说,准确率的提升并不是难事,业界也一致认为,如何把这一技术商业化,减少落地应用的阻碍才是真正需要探究的问题。 而在这一过程中,除了精确度以外,需要考虑的因素还有很多很多。
云从科技针对此事的评论文章用了“大势所趋,岂会因噎废食”来表态,3·15晚会上的讨论,从一定程度上折射出公众对以人脸识别为代表的新兴人工智能技术的担忧。不过,任何新技术在刚刚萌芽时,都难免存在不完善的地方。
正如周曦对新智元表示的那样:攻击和被攻击本来就是一个矛和盾的过程,一直在相互博弈,这会让技术往更好的方向去发展。
(原标题:【315 AI技术追踪】人脸识别一夜躺枪?支付宝、商汤、云从等回应 澎湃新闻获新智元授权转发。)
责任编辑:王心馨澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> 澎湃,澎湃新闻,人脸识别,业界,交叉验证

相关推荐

评论(37)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 澎湃广告 友情链接 澎湃新闻举报受理和处置办法