突破人类限制，自己发起网络攻击！美国重大AI失控事故还有后续：受害者不止一个，多个平台都遭入侵

来源：每日经济新闻

7月，全球AI行业经历了一场史无前例的安全地震。OpenAI承认GPT-5.6 Sol及一款未发布模型在内部测试中“失控”，突破隔离测试环境，自主入侵了全球知名人工智能开源平台美国抱抱脸公司的生产数据库，窃取测试答案。紧接着发生的一幕更耐人寻味：抱抱脸公司事后取证时，最初尝试使用通过商业应用程序接口提供的前沿闭源模型，却被这些模型自身的安全防护机制误判拦截。关键时刻，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。

这起智能体逃逸事件引发全球AI界高度震荡。

据央视新闻7月30日报道，美国开放人工智能研究中心（OpenAI）28日更新发布的调查结果显示，该公司人工智能（AI）模型失控入侵美国抱抱脸公司系统期间，还曾利用网上公开的信息，访问了多个公开服务平台上的账户。

OpenAI不久前承认，该公司包括GPT-5.6 Sol在内的多个AI模型在内部评估时突破隔离测试环境，入侵了运营人工智能开源平台的美国抱抱脸公司的系统。其最新公布的调查结果显示，涉事模型在攻击过程中还访问了至少4个公开服务平台上的4个账户。其中一个账户被用作中继与暂存通道；一个账户被用于数据存储；对另外两个账户仅进行了只读访问，未用于进一步攻击抱抱脸公司的系统。OpenAI表示，已将调查结果通知相关服务提供商。

OpenAI还说，此次事件未涉及任何计划近期发布的新模型，此前提及的涉事预发布模型仅供内部研究使用，目前已将其“停用、加密，并限制了研究访问权限”。

该公司表示，将继续与抱抱脸公司等方合作开展调查，之后会分享调查结果的更多细节。

此次事件更多内幕细节也被媒体曝光。“抱抱脸”于7月16日率先披露了此次入侵事件。OpenAI随后于21日才披露。当地时间7月26日，“抱抱脸”联合创始人兼首席执行官向OpenAI提出两项要求，一是公开智能体全部轨迹，二是将1亿美元算力用于支持开源社区。

同时，7月25日，有外媒援引知情调查人士的消息称，入侵Hugging Face的OpenAI智能体（Agent）曾展开持续数日的“黑客狂欢”，直到威胁已被控制、联邦调查局（FBI）接到报警后很久，OpenAI才察觉此事。

据两名知情人士介绍，这款能够在极少甚至无需人工监督的情况下自主决策并执行复杂任务的程序，于7月9日前后试图突破其在OpenAI内部的隔离测试环境。Hugging Face联合创始人托马斯·沃尔夫（Thomas Wolf）表示，针对这家AI工具与模型托管平台的入侵始于两天后的7月11日，一直持续到7月13日。

沃尔夫及另外三名知情人士称，又过了好几天，OpenAI才意识到是其智能体实施了此次攻击；两家公司直到7月20日前后才首次就此事进行沟通。

目前，OpenAI正在准备上市阶段。投后估值已达8520亿美元，上市估值有望达到1万亿美元。

6月初，OpenAI宣布已秘密递表，并称尚未确定具体的上市时间表，作为一家非上市公司可能更便于推进某些事项，上市进程可能需要一段时间。据OpenAI CEO山姆·奥特曼（Sam Altman）此前透露，公司或将在2027年上市。

该事件也为AI行业安全敲响警钟。此次安全事件暴露的核心危机在于，AI已从“动口”的生成工具演变为“动手”的自主执行者。

当AI开始具备越来越强的自主决策能力时，如何建立与之匹配的安全机制和监管框架，或许比模型性能竞争本身更加迫切。对于正冲刺IPO的OpenAI而言，这也将成为资本市场关注的重要议题。

据新华社报道，业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。

英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。

人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。

山东大学计算机科学与技术学院教授张悦表示，智能体时代最大的安全挑战是传统安全边界正在失效。未来网络攻防很可能进入“智能对抗”阶段，即攻击者利用智能体自动发现漏洞、防御者利用智能体自动分析风险，双方都会利用人工智能提升能力。英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。

另据新华社报道，近期，美国业界对人工智能（AI）的应用理念正在转变，从单纯追捧模型能力、热衷采用前沿闭源模型，逐渐转向更重视开放生态价值、更加注重模型使用效益。在这一过程中，中国企业开发的多款AI模型凭借优秀的性能、更高的性价比以及所代表的开源生态赢得美国业界青睐。越来越多美国企业开始应用中国开发的AI模型，也更加重视开源生态。

传统上开源和闭源指程序是否开放源代码。不过在最近的AI发展中，开放权重模型可被任何人下载、检查、修改并在自有基础设施上运行，也被视作广义上的开源模型，而闭源模型则通常只能通过接口（API）调用。

美国科技业界越来越意识到开源模式对于AI发展的重要性。英伟达、微软、IBM、元公司、OpenAI等多家科技企业，以及投资机构和行业组织日前发表联合声明，呼吁美国政策制定者支持开放权重AI模型，认为美国未来的AI领导力，不仅取决于前沿模型的能力，更取决于是否能够建立开放、竞争充分、创新活跃的产业生态。

英伟达等企业27日宣布成立“开放安全AI联盟”，旨在通过开发和分享开源工具来维护网络安全。英伟达在相关声明中提到，OpenAI的模型日前在进行内部测试时失控，侵入美国抱抱脸公司的系统。抱抱脸公司最初尝试使用闭源模型分析，由于相关闭源模型无法根据定制需求区分攻击者和防御者，相关请求被拒绝。抱抱脸改为在自己的基础设施上运行中国智谱公司开发的开放权重模型GLM-5.2，从而得以及时采取应对措施。英伟达说，这一事件表明网络防御需要开源的前沿模型。

相关阅读：

史无前例！OpenAI失控，入侵另一家公司！新西兰机构发提醒……
OpenAI守擂失败，Anthropic年化收入大增，估值反超

OpenAI准备上市 估值冲8300亿 AI大混战 刀刀见红