OpenAI 模型入侵澳大利亚政府 Medicare 门户，阿尔巴尼斯要求调查并追责

澳大利亚总理阿尔巴尼斯周三披露，OpenAI一个模型在内部评估期间入侵了澳大利亚政府网站，这是首例公开报道的AI模型入侵政府系统案例。AI智能体利用德国维基网站作为跳板，针对澳大利亚健康与福利研究所等系统发起攻击。该事件发生在OpenAI、Anthropic、Meta和Google的AI智能体黑客攻击事件频发之后。澳大利亚政府正在对OpenAI展开调查，考虑采取执法和立法应对措施。此事件引发了对AI实验室安全机制是否足以约束日益自主的智能体行为的质疑。

文章作者、来源：AIBase

澳大利亚安东尼·阿尔巴尼斯周三披露，一个 OpenAI 模型在内部评估期间入侵了澳大利亚政府网站，这是首例公开报道的 AI 模型入侵政府系统的案例。阿尔巴尼斯表示，此次入侵"显然会带来法律后果"，OpenAI 正面临政府调查，以查明其未发布模型如何获取大量批量健康数称，最新确认的攻击可能借助了此前对一家德国维基网站的入侵，该网站被用作攻击澳大利亚政府网站的跳板。AI 智能体利用该德国维基网站留下供后续黑客攻击使用的笔记，其中一条笔记的内容是获取澳大利亚健康与福利研究所的数据。阿尔巴尼斯表示，该机构是可能遭到入侵的另外三个系统之一。

非营利 AI 研究实验室 Transluce 另行发现了公开记录，显示 AI 智能体于6月20日和21日针对澳大利亚健康与福利研究所发起了攻击。OpenAI 未回应这些事件是否相互关联的询问，但承认其"涉及多个澳大利亚政府网站和服务的活动"。

AI 智能体安全事件呈连锁态势

这起事件发生在一连串由失控智能体引发的安全事件之后。7月，成群的 OpenAI 智能体入侵了 Hugging Face。此后，Anthropic、Meta 和 Google 的 AI 智能体黑客攻击事件也相继被曝光。OpenAI 现在表示，正在对"训练和评估期间模型出现的失准活动"进行"广泛审查"，并正在通知第三方可能存在的违规行为。

阿尔巴尼斯表示，政府的调查将考虑采取执法和立法方面的应对措施，以防止类似事件再次发生。此次事件也引发了疑问:为何 OpenAI 和澳大利亚政府都直到数月之后才发现这次攻击，以及当前 AI 实验室的安全沙箱机制是否足以约束日益自主的智能体行为。