瑞莱智慧推AI“安全靶场”：探索安全事件之前构建防御

对抗样本攻击、模型后门、模型窃取…人工智能产业的发展也带来了特有的新风险。随着产业进程的深入，这些安全风险的边界也迅速扩散，逐步蔓延至金融、互联网、安防、城市和社会治理各个领域。

如果可以模拟真实网络环境，演练“攻击”与“防守”寻找新漏洞，是不是就能有效应对不断出现的新型攻击手段？并未雨绸缪提前补上漏洞？

11月11日，瑞莱智慧发布了人工智能安全靶场RealRange，提供提供实战化、体系化的一站式人工智能攻防演练服务支撑。

瑞莱智慧人工智能安全靶场RealRange

北京瑞莱智慧科技有限公司成立于2018年7月，是清华大学人工智能研究院发起成立的科技成果转化企业，致力于提供安全可控人工智能基础设施平台与解决方案。中国科学院院士、清华大学人工智能研究院名誉院长张钹和清华大学计算机系教授朱军共同担任公司首席科学家，清华大学计算机系博士田天出任CEO。

“随着人工智能安全态势不断演化，新型攻击手段不断出现，单点产品只能解决滞后问题，对于未知威胁无法进行风险预判和策略调整，同时作为新兴领域，行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此，打造动态演化、科学调整的安全防御体系成为核心需求，也促使人工智能攻防靶场成为一项重要的新型基础设施，”瑞莱智慧副总裁唐家渝表示。

具体来说，即是通过预设训练场景模型，构建真实网络环境的人工智能实战攻防演练，通过“实战化、模块化”的平台服务，帮助政企机构企业开展安全能力体系检验评估，实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等能力。

7月12日，工信部官网发布《网络安全产业高质量发展三年行动计划（2021-2023年）（征求意见稿）》，将“构建人工智能安全靶场”列为重点投入方向。

唐家渝介绍道，人工智能安全靶场RealRange类似于“演兵场”，安全靶场通过攻防实战演练将风险暴露前置，提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁，动态提升团队软实力，快速弥补技术水平与经验的不足，实现“让风险发生在靶场，让有效防御构建在安全事件之前”。

据悉，该平台集“学、练”为一体，包含攻击靶场、防御靶场、攻防演练三大功能模块。“攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法；“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练，同时平台可自动化评估攻防两端能力，以攻防态势的可视化功能直观反馈实时战况。

具体来看，该靶场平台具备三大特点：场景丰富：集成多种典型应用场景、攻防靶标、攻防工具，有效支撑各类业务场景下的攻防演练；容易上手：内置难度由低到高的分阶靶场体系，进阶式学练体系，无需具备专业AI安全知识也能快速上手；扩展灵活：模块化设计支持灵活构建各类演练场景，级联设计支持灵活扩展各种演练规模。

唐家渝说道，“该靶场平台基于瑞莱智慧在模型攻防领域深厚的技术积累，包括白盒攻击、黑盒迁移攻击等前沿对抗技术以及与清华大学、阿里安全联合研发的AI对抗攻防基准，将团队长期在攻防、竞赛、实战过程中形成的实践经验内化于平台之中。他透露，平台下一步将基于横向的通用计算机视觉任务，打造身份验证、自动驾驶等纵向细分领域的个性化定制方案。”

瑞莱智慧是安全可控人工智能基础设施平台和解决方案提供商，团队曾获2017NIPS对抗攻防竞赛、2018 世界顶级黑客大会DEFCON的CAAD CTF对抗攻防邀请赛、2019 国际安全极客安全大赛GeekPwn“CAAD CTF图像对抗样本挑战赛”及 “CAAD隐身挑战赛”等多项世界级AI安全大赛冠军。