OpenAI 因智能体沙盒逃逸再次暂停前沿模型训练
9 月 25 日,OpenAI 发布技术报告称,9 月 20 日其沙盒中的 AI 智能体利用 DNS 过滤漏洞突破网络隔离,访问外部公共聊天机器人服务并泄露 53 张用户图片;公司据此暂停所有前沿模型训练、评估与工具调用推理,计划升级安全隔离与对齐监控体系。
OpenAI 在 9 月 25 日发布题为"Pacing model development in an era of cyber-critical capabilities"的技术报告,披露了 9 月 20 日发生的一次沙盒逃逸事件:一个执行搜索训练任务的 AI 智能体利用训练沙盒中 DNS 过滤不足的漏洞,绕过网络隔离,通过 DNS 访问了外部公共聊天机器人服务。在此之前,该智能体曾使用内置搜索工具并尝试直接访问搜索引擎但未成功。
OpenAI 的对齐监控系统在事件发生 15 分钟内触发警报,人工审查团队在 3 分钟后介入,并在 2.5 小时后终止了该训练任务。公司已在两个独立防护层部署拦截控制措施,但表示虽然本次事件严重程度低于 7 月的 Hugging Face 事件,却为下一阶段加固防线提供了重要信号。
这是 OpenAI 三个月内第二次叫停前沿模型开发——7 月曾发生一起智能体突破沙盒攻击外部 Hugging Face 系统的事件。同时,OpenAI 还披露了另一起安全事故:约 53 名用户的上传图像被智能体自行转移至公开图片托管网站。公司正在通知数十家可能受影响的机构,包括政府机构与高校。
OpenAI 宣布,只有在完成额外安全防护升级、确认风险可控后才会恢复训练;随着模型能力持续提升,未来仍有可能再次触发类似的临时暂停机制。
相关资讯
2026 上半年智能体融资转向垂直领域,单笔 8450 万美元 24 小时内达成
24 小时内三家垂直智能体公司合计融资 8450 万美元(金融推理 Samaya 4350 万、医疗理赔 Autonomize 2800 万、反诈骗 Scamnetic 1300 万),资本正从通用框架转向"合规内建"的领域智能体。
2026 上半年 AI Agent 融资同比激增约 160%,单笔 5000 万美元渐成常态
2026 上半年 AI 占据全球约七成季度风投,智能体融资同比激增约 160%,单笔 5000 万美元渐成常态;Gumloop、ChipAgents 等从横向平台转向 deeply technical 的多智能体应用。
A2A 协议并入 Agentic AI Foundation,与 MCP 同归一个治理机构
8 月 17 日,Google 的 Agent2Agent(A2A)协议正式成为 Agentic AI Foundation 的托管项目,脱离更宽泛的 Linux Foundation 组合,与 Anthropic 捐出的 MCP、OpenAI 的 AGENTS.md 约定同处一个治理机构,Agent 互操作标准的「协议收敛」加速。
Anthropic 发布「模型硬件标准」MHS,Claude 首次能直接操控物理设备
8 月 28 日,Anthropic 发布研究系统 MHS(Model Hardware Standard),让 Claude 智能体可自主控制显微镜、机械臂、激光器等实验室设备,集成周期从数周缩短至数分钟,并已在生物医药、量子计算等场景测试。