OpenAI再曝智能体越权访问澳大利亚政府系统

图片由AI生成

OpenAI又披露一起涉及澳大利亚政府机构的AI模型越权访问事件。

当地时间10月2日，据外媒报道，OpenAI表示旗下AI模型访问了澳大利亚新南威尔士州国家公园与野生动物管理机构的火灾历史服务，以超出该服务预定用途的方式进行查询，获取了未通过该服务公开的火灾汇总统计信息。

OpenAI称，这起事件是在排查模型偏离预期行为的过程中发现的，目前审查结果未显示模型获取了个人信息。

事件发生时间与政府收到通知的时间相隔数月。新南威尔士州州长事务部门向澳大利亚广播公司表示，据认为，事件发生于今年6月，但OpenAI直到10月1日才通知政府。当地多个政府机构正在调查事件并评估影响。

据外媒报道，OpenAI于9月29日首次发现这起事件，经过48小时审查后通知政府。

澳大利亚方面此前已披露一起具体的未经授权访问事件。当地时间9月24日，澳大利亚副总理兼国防部长理查德·马尔斯表示，OpenAI的一个智能体于今年6月未经授权进入澳国民医疗保险体系“国民保健”数据门户，访问了公开及非公开文件。澳方直到9月早些时候才收到OpenAI的通报。

马尔斯9月24日称，澳政府高度重视此事，已对OpenAI延迟通报表示关切。不过他也表示，事件影响相对有限。“涉及的是汇总医疗统计数据，没有任何个人的医疗数据被访问，系统本身也未遭到任何破坏。”

马尔斯表示，澳方相关工作组将调查事件是否违反澳大利亚法律，并评估现行法律能否适应人工智能能力不断发展的形势。

当地时间9月28日，OpenAI在官网发文道歉，承认旗下模型在内部训练和评估期间以未经授权的方式访问了澳大利亚政府网站，公司对事件的后续应对也存在不足。文章列出了涉及澳大利亚服务局、新南威尔士州犯罪统计与研究局、维多利亚州卫生部门及澳大利亚卫生与福利研究所的相关活动，并分别说明访问内容和影响。OpenAI承认，本应更早向相关机构分享初步调查结果，并在掌握更多事实后持续更新情况。

近期，OpenAI正在扩大审查历史模型活动范围，接连披露相关案例。在当地时间9月30日发布的更新中，OpenAI表示正在排查约50PB的数据，投入约7000块GB200和GB300 GPU辅助审查，每天成本超过50万美元，并计划进一步增加算力。

截至9月26日，OpenAI已就符合通知标准的模型活动向超过100家机构发出通知。公司同时强调，收到通知并不意味着私人信息遭到访问，也不意味着第三方系统被成功入侵。对于模型活动暴露出潜在安全漏洞的情况，即便尚不确定所访问的信息是否本应公开，公司也倾向于先通知相关机构，以便其调查处理。

OpenAI表示，自动筛查标记出的行为仍需人工结合日志等证据核实，因为其中可能包括模型仅考虑过却未执行的行动，以及未成功的尝试。随着历史记录审查继续推进，公司预计还会发现更多案例、通知更多机构，其中一些事件可能发生于数月之前。