Medicare遭AI“自主攻击”，科技巨头向全体澳人道歉！下一代产品紧急取消发布

来源：悉尼印象

据报道，人工智能行业巨头OpenAI向全体澳人致歉，并取消了最新模型GPT-6.1 Astra的发布。

此前，OpenAI的人工智能模型被曝“自主”攻击了澳洲多个政府部门网站，包括澳洲服务局（Services Australia）的Medicare系统，试图获取未公开的数据。

澳总理艾博年曾就此事约谈了OpenAI的首席执行官Sam Altman。

9月29日（周二）上午，OpenAI在其网站上发表的一篇博客文章中阐述了他们“将采取哪些措施来重建与全体澳人的信任”。

“在澳洲，我们正在投入资源和专业知识来支持受影响的机构。”

 “我们深表歉意，并正在努力改进，争取今后做得更好。”

OpenAI还表示，他们将通过其10亿美元（约合14.2亿澳元）的“前沿防御者曙光计划”（Daybreak for Frontline Defenders）向澳政府提供资金支持，帮助关键服务系统改善其前端网络防御。

该公司称，将成立一个由澳洲独立专家组成的特别工作组，“以制定切实可行的政策建议”。

OpenAI的首席战略官Jason Kwon将于10月6日飞往悉尼，出席人工智能联合特别委员会（Committee on Artificial Intelligence）的会议。

澳总理艾博年警告称，人工智能可以促进经济增长和提高生产力，但同时也存在风险。

“我们已经看到这些风险暴露出来了。”他表示，“所以我们需要仔细考虑这个问题，我们把它看作是一个机会，但我们希望在抓住机遇的同时降低风险。”

OpenAI还取消了原计划于10月份公开的下一代人工智能模型GPT-6.1 Astra的发布，此前内部测试发现，该系统不符合公司的安全性和校对标准。

相关阅读：

OpenAI：触发警报，紧急暂停
OpenAI应战Meta：发布个人AI助手Dots，高端订阅每月500美元，是Muse高阶版5倍
特朗普拒绝为AI监管立法，与黄仁勋、马斯克等科技六巨头签署“AI道德约束”协议

OpenAI和Anthropic开打"价格战"，同日推出"廉价模型"
澳总理：OpenAI智能体入侵了澳大利亚政府网站，但我们三个月后才收到通报

吓！谷歌顶级AI越狱黑进真实互联网！自主搜情报猜密码闯入3家公司，死捂4个月不敢说？
OpenAI披露更多AI越界行为 Anthropic称Claude已参与自我完善

扎克伯格不赞成AI行业集体“踩刹车”

行业抛售潮席卷全球！黄仁勋活动现场接到特朗普来电，免提传出重磅喊话：AI危险论是骗局，我完全支持AI产业

周一股价大跌 人工智能领军企业警告行业应放慢发展步伐

AI龙头罕见发出警告后 特朗普称担忧被“负面夸大”
美AI巨头们呼吁“减速”：马斯克赞成，OpenAI被推迟上市
人工智能末日论：人类为何会如此担忧？

比尔·盖茨发6000字长文警告：AI可能带来“人类历史上最动荡的时期之一”

OpenAI：我们黑了不止一家公司，Anthropic：我也是
突破人类限制，自己发起网络攻击！美国重大AI失控事故还有后续：受害者不止一个，多个平台都遭入侵
史无前例！OpenAI失控，入侵另一家公司！新西兰机构发提醒……