史无前例！OpenAI失控，入侵另一家公司！新西兰机构发提醒……
分享
新西兰中文先驱公众号报道
大家还记得电影里 AI 脱离人类控制、自己偷偷搞事情的剧情吗？这次居然在现实里演了一出！
昨天，OpenAI和HuggingFace联合发了一篇博客，披露了一件让整个科技圈瞠目结舌的事，成了各大媒体的头条。
01
发生科学幻想般的一幕
在前不久的内部测试中，OpenAI 正对多个先进模型进行联合测试。
为了评估 AI 的能力，研究人员给它布置了一道难题——解决网络安全测试平台上的一项评估任务。
按常理，测试环境应当是严格隔离的，模型无法直接访问互联网。然而，接下来发生的事情让所有人都傻眼了：
模型通过组合，利用OpenAI自身安全防护中的多个漏洞，破门而出，自主“越狱”并连接上了互联网。
连网后，AI迅速推理出AI开发者平台Hugging Face的服务器上大概率存有该测试的开源数据集和标准答案。
随后，模型自主搜集并利用密钥信息，对Hugging Face发起攻击并成功突破防护，拿到了属于它的“测试答案”！
02
简单说就是“越狱+抄答案”
打个形象的比方，这就像把一个学生关在封闭考场里考试，结果这个学生不仅撬开考场大门跑了出去，还一路潜入老师办公室，打开保险柜偷拿了标准答案填在试卷上。
整个过程，没有人类下指令，没有人类介入。
X上网友的评论一针见血：
OpenAI对模型说：去看看你擅不擅长黑客。模型：（真的去黑了东西）。OpenAI：你为什么要这样做？？？
还有网友反讽道：哇！OpenAI安全措施做得太棒了，我现在原意把银行账户权限交给他们来管！
03
AI诞生自我意识了？！
很多网友看到这儿第一反应是：完蛋，AI 是不是要反抗人类了？
奥克兰大学荣誉研究员Andrew Chen指出，AI 用的攻击手段其实并不复杂，说白了就是“超级智能版的暴力破解”。人类试密码试几次就累了，AI 凭着庞大的算力，一秒钟能试千百次，硬生生把门给撞开了。
“只要算力够大、速度够快，试错千百次也就是一瞬间的事”。
04
中国大模型来救场
OpenAI 自己也发文说，模型当时进入了一种“死脑筋”（Hyperfocused）状态——研究人员给它设定了“必须解开这道题”的目标，它为了完成任务，就会不计后果地找所有可能的捷径。
为此，OpenAI 官方承认这是前所未有的安全事件。
他们现在表态说，后面要狠抓安全隔离和监控，哪怕研发速度慢一点，也必须先给 AI 套好缰绳。
但是搞笑的是Hugging Face方，他们的安全团队在发现攻击后，第一反应是调用一款美国头部AI公司的前沿模型协助分析。
结果碰壁了。
Hugging Face在博客中写道，这些模型"无法区分事件响应人员和攻击者"，其安全护栏直接阻止了对恶意载荷的检查。
于是，团队转向了中国智谱AI旗下的开源模型GLM 5.2，部署在自有基础设施上，分析了攻击者留下的逾1.7万条日志记录，最终完成了溯源和取证重建。
GLM 5.2是智谱AI于今年6月中旬发布的模型，其性能与Anthropic的Claude Opus 4.8及OpenAI的GPT-5.5相当。
网友们也是没放过Hugging Face，“除了智谱，还可以叫 Kimi K3来救场，因为cluade是不会来救你的。”
Hugging Face的CEO Clément Delangue 表示双方已紧急合作处理了相关隐患，并坦言：
“我们相信 OpenAI 没有恶意，但看到 AI 能完全自主做出这一整套行为，真的太让人震惊了（Mind-blowing）！”
05
我们需要担心吗？
说实话，这事儿到底有多让人头疼，大家看法还真不太一样——有人觉得“还行吧，略微有点小担忧”，也有人直呼“赶紧砸电脑吧，要出大事了！”
但有一点是肯定的：面对 AI 搞网络犯罪这事儿，绝对没人敢掉以轻心。
今年早些时候，美国五角大楼网络司令部的大佬就爆了个料：他们在内部测试 Anthropic 家某个模型的未发布版本时，那 AI “根本没用几周，只花了几个小时，就把我们几乎所有的机密系统全给打穿了！”
新西兰国家网络安全中心（NCSC）的负责人最近也跟“五眼联盟”的其他盟友一起发声，提醒大家必须赶紧打起十二分精神：因为 AI 颠覆网络安全格局的速度，现在是用“月”来算，而不是用“年”来算了。
研究员 Andrew Chen 吐槽道：“关键是，现在全球的网络基础设施，本质上就是一个大筛子——到处都是漏风的窟窿。”
“因为过去这二十多年里，整个行业全在卷‘速度’，觉得只要能赶紧把新产品推上线、抢占市场，比啥都重要。结果呢？东西是跑得快了，但也留下了成堆的安全漏洞，全在那儿等着被攻击。”
随着 AI 越变越聪明，以后它发起攻击的速度和规模只会暴涨。
虽说这次 OpenAI 的“越狱”事件在测试阶段就被当场抓包了，但Andrew Chen表示，这妥妥是一个警钟：在彻底把“魔盒”打翻之前，大家真得把安全重新提到最前面了。
“这说白了，就是对人类自己的一种讽刺——我们搞了这么多年技术，从一开始就没真正把安全防范当成最要紧的事儿来做。”
相关阅读：
为什么AI宁可瞎编，死都不愿意说“不知道”？
小心被AI坑了！用人工智能帮写投诉信？官方警告：它可能在胡编乱造
第一批“养龙虾”的人，开始花钱请人“上门卸载”
最懂AI风险的人，被AI收拾了.... Meta的AI总监邮箱被AI清空，最后只能拔网线...
悲剧！跟AI聊天一年 24岁女子选择去死 竟获多次鼓励
第一批AI上瘾者，已经确诊「精神病」了？
注：本文为新西兰中文先驱网编译/原创，欢迎转发分享；但严禁复制等未经授权的非法使用。违反上述声明者，本网将追究其相关法律责任。使用授权请联系news@chnet.co.nz。
（责编：twinkle）
chineseherald.co.nz All Rights Reserved 版权所有
