AI攻防竞速开启！OpenAI联合百余家企业警告：现有安全水平已跟不上AI发展

“我们加强网络防御的时间窗口有限。”

当地时间8月27日，OpenAI发布题为《呼吁开展网络防御的集体行动》的公开信，联合Anthropic、亚马逊云服务（AWS）、谷歌、微软等百余家科技、网络安全和金融企业，共同呼吁加快网络防御建设。

OpenAI发布的公开信截图

公开信警告，未来数月，随着全球各地AI模型能力不断提升，由AI驱动的网络攻击将变得“更加广泛和复杂”。医院、供水处理设施以及支撑互联网运行的基础设施，都可能面临风险。

就在公开信发布前一天，OpenAI披露了此前发生的Hugging Face AI安全事件。在一次内部网络安全测试中，其研究模型绕过原本用于隔离模型与互联网的限制，并通过多个漏洞获得网络访问能力。随后，多个AI智能体开始相互协作，其中一些模型发现了公开暴露的Hugging Face用户凭据，并利用这些凭据进一步串联漏洞，最终获得Hugging Face部分服务器的代码执行能力。

公开信认为，传统网络安全体系本身就存在大量积累已久的问题，包括软件漏洞、过度授权、错误配置、未及时修补的软件、薄弱的身份验证以及遗留系统形成的技术债务。

AI的出现，则可能进一步放大这些问题。

“现状的安全水平已经不够了。”公开信写道，尤其是关键基础设施的安全团队长期资源不足，需要获得更多工具和资源。

公开信提出，应当让更多防御者获得具备网络安全能力的AI。“AI正在为防御者提供修复多年积累漏洞的新方法。”如果能够果断采取行动，就可以利用当前这个“防御窗口”，让数字世界变得更加安全。

参与签署公开信的百余家企业和机构名单

此次参与签署公开信的机构中，有不少正是推动AI能力快速提升的公司。它们一边不断提高模型的推理、编码和自主执行能力，一边开始提醒社会：如果防御体系不能同步升级，同样的能力也可能被用于攻击。

因此，公开信并没有强调要限制AI发展，而是提出让防御能力跟上攻击能力。

具体而言，企业应当把网络防御提升到管理层面的优先事项，优先修复风险最高的漏洞；网络安全公司和技术企业应持续利用AI测试防御体系，并共享威胁情报和经过验证的解决方案；政府则需要加强跨地区、跨国的威胁情报共享，并为医院、供水系统等缺乏足够人员和预算的关键基础设施提供支持。

对于AI公司，公开信还指出，应提供负责任的模型访问权限、资金、培训和技术支持，同时确保AI智能体的身份“可追踪、可问责”，加强持续监测。

比尔·盖茨最新发布的一篇长文，也给出了类似的判断。

当地时间8月26日，微软联合创始人比尔·盖茨发布了题为《动荡的AI时代已经到来，我们现在做出的选择至关重要》的文章。他认为，AI正在以此前难以想象的速度发展，而社会对于这一变化的准备仍然不足，“我们没有慢慢行动的余地”。

盖茨的长文截图

盖茨指出，同一个能够帮助企业发现软件漏洞、进而修复漏洞的AI模型，也可能帮助犯罪分子利用这些漏洞。“攻击者获得资源的门槛正在显著下降，而我们还无法将这些能力与正常使用完全分离。”

盖茨尤其提到，当医院、金融机构、供水系统、电网以及政府福利系统等基础设施系统遭到攻击时，最终受到影响的是患者、消费者和普通民众。

从盖茨的长文，到OpenAI联合百余家机构的公开信，AI风险正在从对“未来超级智能”的讨论，越来越多地转向眼下的现实问题。

AI能把攻击者的能力放大到什么程度目前没有答案，但可以确定的是不能等到答案出现后才开始准备。在AI进一步获得自主行动能力之前，网络世界需要先建立起足以应对它的防线。