人工智能赋能下的网络安全之我见

作者：上海三零卫士信息安全有限公司  仵大奎

近年来，人工智能（Artificial Intelligence）作为重要的赋能工具在智慧交通、智慧金融、智慧能源、安全监管等领域获得了越来越多得应用，极大地促进了行业发展，然而科技是把双刃剑，当人工智能被大规模应用于社会生活的方方面面时，也引入了道德伦理和技术风险，其影响是全方位的。道德伦理风险主要指在社会生活某些方面或场景下，非生物智能机器对既有人类社会道德和法律带来的冲击，技术风险主要是指人工智能作为一种技术手段，由于其本身技术的不成熟性（算法漏洞）或其赋能场景的不成熟性（软硬件漏洞）所造成的潜在负面效应，在网络安全领域这种风险若不加管控，其造成的危害将会无限放大。

1，人工智能在网络安全领域的应用

随着攻防策略的不断创新和发展，网络攻击的复杂性和数量也在增加，潜在的攻击者将人工智能的优势与攻击方法或工具相结合，可根据网络防御体系的差异不断变化策略，通过试探寻找潜在的攻击漏洞从而达到其目的，而复杂的黑客技术（例如混淆，多态等）也会对恶意程序的识别造成一定的困难。凯捷（Capgemini）最近发布了一份基于AI的网络安全报告，其中提到42％的研究公司通过对时间敏感的应用程序分析，发现了很多自主性安全攻击事件。Gmail使用机器学习来每天拦截1亿个垃圾邮件，IBM的Watson认知培训使用机器学习来检测网络威胁和其他网络安全解决方案。Google正在其Cloud Video Intelligence平台上使用深度学习AI，通过结合服务器上的内容和上下文分析存储在服务器上的视频，一经发现可疑信息AI算法就会发送安全警报。

相应地，AI可通过有效地分析用户行为，推导模式并识别网络中的各种异常或不正常情况，据此来快速轻松地识别网络漏洞和攻击，而现有依赖于人类智能的防御手段在基于AI算法的恶意网络程序攻击时形同虚设。另一方面，利用“监督学习”机制，AI可自动化地识别重复发生的事件并进行补救，还可通过内部威胁和设备管理以最少的人工干预来识别和应对复杂的网络攻击。

2，人工智能漏洞风险和攻击

人工智能最大的风险之一是黑客可以使用AI大规模自动化网络攻击，对抗机器学习的研究表明，在使AI模型对数据中毒和对抗输入产生鲁棒性训练时，当使用敏感数据训练这些模型时，会带来一组新的安全漏洞风险：即潜在威胁者能够访问训练数据或从模型本身推断训练数据点。从这种类型的推理攻击中得到的AI防护模型，使它们更容易受到上述对抗性机器学习策略的影响，反之亦然。在理想情况下，采用一定的审核机制可降低在对抗性机器学习和模型数据泄漏方面产生的AI模型漏洞，并通过以AI为重点的红队形式评估其整体鲁棒性和对不同形式攻击的弹性。

基于漏洞的 AI攻击与传统的网络攻击根本不同，传统网络攻击由代码中的“错误”或人为错误切入，AI攻击是由当前无法修复的基础AI算法固有的局限性引起的。此外，AI攻击从根本上扩展了可用于执行网络攻击的实体集，基于AI的网络攻击可以将物理对象列为网络攻击目标（例如，AI攻击只需将几条胶带放在停车标志本身上，就可以将停车标志变成自动驾驶汽车眼睛中的绿灯）。所以，人工智能攻击是对AI系统的有目的操纵，其最终目标是导致其故障或失效，这类攻击具有不同的形式：

l  输入攻击：操纵输入到AI系统中的内容达到更改系统的输出参数达到攻击者的目标，每个AI系统的核心都是一台简单的需要输入的机器，其过程是执行一些计算并返回输出，所以通过操纵输入可以使攻击者影响系统的输出。

l  中毒攻击：破坏AI系统的创建过程，从而导致系统以攻击者期望的方式发生故障，执行中毒攻击的一种直接方法是破坏进程中的数据，支持AI的最先进的机器学习方法是通过“学习”完成任务的方法来工作的，其学习的来源是输入训练数据，通过影响数据即可达到影响AI系统的目的，中毒攻击也可能损害学习过程的本身。

3，安全防护手段

另一方面，随着网络安全攻击手段的快速演进，基于AI的安全防护技术正发挥越来越大的作用，在密码保护和身份验证方面：密码在安全性方面一直是非常脆弱的部分，由于弱口令漏洞的广泛存在，使得不法分子获得了可乘之机，若采用基于AI的动态防护口令，可大大提升暴力破解的时间和难度。此外，随便生物身份认证的广泛应用，使用AI增强生物识别身份验证的相关技术愈加成熟，如在iPhone X设备上使用的苹果面部识别技术，通过内置的红外传感器和神经引擎处理用户的面部特征从而发挥作用。通过使用这项技术，只有100万机会欺骗AI算法并以另一张面孔打开设备，AI软件还可以在不同的光照条件下工作，产生新发型，留胡子，戴帽子等变化。

针对AI-ML(Machine-Learning)用于网络钓鱼检测方面：网络钓鱼是一种最常用的网络攻击方法，黑客试图通过网络钓鱼攻击来传递其有效负载，电子邮件是网络钓鱼常用的一种媒介，据统计每99封电子邮件中就有一个包含网络钓鱼攻击，AI-ML可以在预防和阻止网络钓鱼攻击中发挥重要作用。AI-ML可以检测和跟踪超过10,000种活跃的网络钓鱼源，并且比人类能够更快地做出反应和补救。AI-ML可以同时扫描来自世界各地的网络钓鱼威胁，对网络钓鱼活动的识别不存在地理区域的限制。

4，总结

人工智能（AI）技术的快速发展对工业和社会产生了重要影响，尽管其在网络安全防护方面具有诸多显著的优势，但仍存在被恶意利用的可能性，一旦与常规攻击技术相结合可能会对网络空间造成更大的威胁和破坏，随着AI技术在网络安全攻防方面的深入应用，必将对行业发展方向产生深远影响。