OpenAI：触发警报，紧急暂停

央视新闻 央视记者当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。

OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。

报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。

公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。

这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧。

相关阅读：

OpenAI和Anthropic开打"价格战"，同日推出"廉价模型"
澳总理：OpenAI智能体入侵了澳大利亚政府网站，但我们三个月后才收到通报

吓！谷歌顶级AI越狱黑进真实互联网！自主搜情报猜密码闯入3家公司，死捂4个月不敢说？
OpenAI披露更多AI越界行为 Anthropic称Claude已参与自我完善

扎克伯格不赞成AI行业集体“踩刹车”

行业抛售潮席卷全球！黄仁勋活动现场接到特朗普来电，免提传出重磅喊话：AI危险论是骗局，我完全支持AI产业

周一股价大跌 人工智能领军企业警告行业应放慢发展步伐

AI龙头罕见发出警告后 特朗普称担忧被“负面夸大”
美AI巨头们呼吁“减速”：马斯克赞成，OpenAI被推迟上市
人工智能末日论：人类为何会如此担忧？

比尔·盖茨发6000字长文警告：AI可能带来“人类历史上最动荡的时期之一”

OpenAI：我们黑了不止一家公司，Anthropic：我也是
突破人类限制，自己发起网络攻击！美国重大AI失控事故还有后续：受害者不止一个，多个平台都遭入侵
史无前例！OpenAI失控，入侵另一家公司！新西兰机构发提醒……