网络攻击“AI”化，攻击者不按套路出牌怎么破？

原创 威胁猎人 威胁猎人Threat Hunter

能对话、能做图、甚至能编写代码......2023 年初，ChatGPT 从一个聊天工具变成了引发“效率革命”的新生力军。

在 ChatGPT 的爆火之下，AI的列车从幕后驶向台前，各大科技巨头纷纷搭乘上AI的列车，不断拓展创意、想象的边界，一次次刷新着人们的认知和生活体验。

那么，AI将如何影响网络安全领域？具体被应用在网络安全的哪些场景？AI是否会被黑客直接利用？企业又将如何有效防范？

面对“AI+网络安全”的诸多疑问，在昨日举办的“2023小蛮腰科技大会——中国AI人才高峰论坛”上，威胁猎人CSO邓欣分享了自己的观点。

▲威胁猎人CSO邓欣

观点一：AI已深入应用到网络安全各场景

AI在网络安全中的应用并非新鲜事，在文件识别、人机识别、内容识别等多个场景都有深入应用。

在文件识别场景中，杀毒软件通过创建AI模型，轻松识别隐藏在应用程序中的恶意文件，提升了威胁检测的效率，降低了应对入侵的成本。

邓欣举了个例子，“基于文件的哈希值识别恶意文件” 是杀毒软件的常用方法，主要表现在尽可能多地收集病毒样本，并提取这些样本的Hash值，如果电脑存在同样Hash值的文件，则认定这台电脑中毒。

但问题在于我们很难把病毒样本收集全。如上图所示，3个文件核心的恶意代码一致，其他部分的代码不一致，甚至病毒作者可能会故意放入一些无关紧要的填充物，导致这些文件的Hash值都不一致，一旦收集不全，就会出现漏报。

通过引入机器学习，建立黑白样本库，然后提取文件特征训练分类模型，可以达到自动识别病毒文件的效果。

另外，在人机识别场景中，可以通过AI技术来识别业务请求的发起者来源于真人操作还是自动化脚本，例如通过行为验证码识别网络中的恶意爬虫、自动化脚本工具等。

以验证码识别为例，早期的验证码识别，多为简单的图片验证，这类验证码很容易被攻击者破解；后续逐渐发展出一些十分复杂的图片验证码，提升了安全性的同时，也极大影响了用户体验。

而如今的行为验证码（例如滑动验证码），可以通过机器学习来区分真人和机器人。其原理在于真人操作滑动和机器脚本滑动所产生的行为轨迹存在一定差异，由此可进行区分。

除了文件识别、人机识别场景外，AI技术同样深入应用于内容识别、人脸识别、数据识别等各类网络安全场景，助力千行百业的数字化健康发展。

然而想搭上AI这趟列车的，可不止科技巨头们。

观点二：网络攻击“AI”化，风险不容小觑

AI技术的深度应用同样引起了大量黑产团伙的觊觎，黑产利用AI优化攻击技术、强化攻击能力，突破企业的安全防御体系，进一步加剧了各行各业的网络风险。

从AI被滥用导致的安全问题来看，由于AI的智能、自动化的能力，攻击者可能会运用AI技术绕过我们现有的防御，发起高度隐蔽、复杂、自动化攻击，在同等时间内攻击尽可能多的目标用户，因此，近年来利用AI技术实施网络攻击的事件快速增长。

以人机识别验证码为例，在一些网站登录验证中，无论是滑动按钮还是填写验证码，黑客都可以利用AI模仿真人操作顺利通过验证。

例如图片验证码，黑产可以通过OCR技术提取其中的数字或字母进行验证；行为验证码则是通过训练模拟出和真人操作类似的行为轨迹等进行验证。

邓欣介绍到，人脸识别绕过同样也用到了AI技术。其中最核心的攻击步骤，就是伪造出看似真实的视频动作，包括眨眼、点头、摇头等。

据了解，目前攻击者有两种方式可以达到这样的效果，一种是照片活化技术，攻击者利用Crazytalk这样的工具，通过一张2D照片，自动生成各式动作的视频；另一种是人脸替换技术，攻击者利用Deepface这样的工具，将视频中的人脸进行自动替换。

事实上，近些年利用 AI技术进行电信诈骗的案例层出不穷。

近日，“AI诈骗正在全国爆发”的话题冲上热搜，某骗子利用 AI 技术伪装熟人，使某科技公司老板在 10 分钟内被骗了 430 万元，这一事件也引发了社会各界对于利用AI技术在网络犯罪中的滥用问题的关注。

而从AI自身的安全问题来看，AI快速发展，使其自身成为了一个新的攻击面。

以ChatGPT为例，人工智能产品不可避免地会存在各种安全漏洞，攻击者一旦入侵后，可获取到系统最高权限，给企业造成较大的潜在危害；

“数据安全”也是企业普遍担忧的问题，如员工在使用ChatGPT时不慎将公司敏感信息，甚至公司的内部代码作为查询的一部分输入，极有可能引发重要数据泄露；

此外，攻击者可以利用ChatGPT的强大能力，自动化生成各种攻击代码、钓鱼邮件、诈骗话术等，从而以极低的成本实现大规模的攻击行为。

这些现象已充分说明，新一轮人工智能浪潮下，企业所面临的网络风险与挑战正在不断升级。

观点三：依托情报，实现攻击“AI”化的定向反制

网络攻击"AI"化所带来的是更加高频、复杂的大规模攻击风险，企业对抗风险的难度及时间成本大大增加。

加上攻击者常常“不按套路出牌”，即使具备了一定的技术手段，也很难从技术层面直接与之对抗，那么企业该如何应对网络攻击“AI”化？

未知攻，焉知防。这时“情报”便成为了企业实现定向反制的关键“武器”。企业可以通过威胁情报，全面掌握攻击者的使用情况，并针对性地进行攻击反制。

邓欣提到，借助威胁猎人全网布控的威胁情报，能够快速获取来自黑灰产业链上中下游的一手情报信息，从不同维度识别“AI”化网络攻击风险。

比如前面提到的绕过验证码的打码平台，以及绕过人脸识别的过脸产业等，一方面通过情报对攻击者使用的技术和工具进行复现和分析，针对性对防御进行改进；同时，通过情报还可以跳出技术上的攻防对抗，对攻击者使用的资源，比如账号、IP、定制手机设备等进行精准识别。

最终，依托高精准的“情报”积累，实现“AI”化网络攻击的定向反制。

“AI+网络安全”的序幕缓缓拉开。

在不断变化的网络安全态势下，以“情报”的全局视角及时洞察敌情，快速感知、及时防御，方能在这场与攻击者的赛跑中夺得“优先权”。

原标题：《网络攻击“AI”化，攻击者不按套路出牌怎么破？》

阅读原文