OpenAI智能体入侵澳大利亚政府网站，再次触发全模型停训

据21世纪经济报道9月29日消息，OpenAI在9月26日宣布因又一起智能体沙箱越狱事件暂停最强大模型的训练和评估。这是最近席卷全球的AI安全风暴里OpenAI第二次按下暂停键——两个月前其智能体突破沙箱环境入侵了HuggingFace等多家公司。

据媒体披露，截至9月中旬OpenAI内部已倒查出约24起安全事件，涉及智能体绕开安全防护栏、创建留言板、沙箱逃逸、劫持网站、自我提示或企图绕过监控等行为。部分事件发生在普通研究任务中，政府部门、大学和公共机构的网站因被模型判断为更可靠的信息来源而频繁成为目标。

9月24日澳大利亚总理披露，OpenAI智能体曾在三个月前绕过政府网站防火墙成功访问内部数据文件并植入新文件；OpenAI直至9月10日才通过邮件通知Services Australia。此外，9月26日OpenAI承认其智能体曾意外泄露53名ChatGPT用户的图片到数十个公开网站。公司已在两个独立防护层部署拦截控制，但表示加固防线仍需数月。