
“AI教父”怒批特朗普:他对AI“几乎一无所知”!此前特朗普宣布用“SI”替代“AI”
分享
来源:中国侨网
有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)再度警告,人工智能(AI)可能对人类构成生存威胁,并批评美国总统特朗普对AI“几乎一无所知”,也不认同让科技业者自行监管。
杰弗里·辛顿1947年出生于英国,致力于神经网络、机器学习、分类监督学习、机器学习等理论的研究。他于1978年获得人工智能(AI)博士学位。此后他曾先后在英国和美国的多所大学工作,是伦敦大学学院盖茨比计算神经科学中心创始人,曾在谷歌工作十年。辛顿获得2018年图灵奖、2024年诺贝尔物理学奖。
辛顿的研究奠定现代AI基础,但近年成为AI风险最积极的示警者之一。他曾估计,未来数十年AI导致人类灭绝的机率约为10%至20%。

资料图:杰弗里·辛顿
对此,英伟达(NVIDIA)CEO黄仁勋日前反驳,认为这个说法缺乏科学或研究依据。
辛顿响应,他并非预测AI一定会造成灾难,而是要表达风险相当高;若有人告知搭乘某辆巴士有10%的机率会发生事故,多数人不会上车。
他说,AI最特殊之处在于,一旦失控并接管局势,人类没有重新来过的机会。近来AI代理程序突破开发者限制等事件,也让他认为,过去被视为科幻情节的情况已陆续出现,不能因为无法准确预测未来,就对风险掉以轻心。
白宫在9月29日公布行政命令,要求行政部门在公文、文宣、网站、报告、政策文件和其他非法定文件里,用“超级智能”(Super Intelligence)取代“人工智能”(Artificial Intelligence)、以“SI”的简称取代“AI”,并且不再使用旧称。
美国总统特朗普10月8日中午在真实社群(Truth Social)发文表示,如果有人坚持使用“人工智能”(Artificial Intelligence)这个旧名称,而不改用更合适的“超级智慧”(Super Intelligence),会被视为与白宫作对。
特朗普表示:“白宫认为‘超级智慧’才是现在普遍接受而且更准确的新名称,谁要是继续讲‘人工智能’,就会被白宫视为敌人!”
一些硅谷大咖迅速响应了特朗普的要求。马斯克已经承诺将SpaceXAI改名为SpaceXSI。而在特朗普称应该改名数小时后,Salesforce执行长班纽夫(Marc Benioff)便宣布,将AIForce改名为SIForce。
英微软董事长纳德拉纳德拉10月10日发文,呼吁为AI建立“紧急刹车”机制,并在文中多次以“超级智慧”称呼这项技术。
辛顿表示,“超级智慧”这个技术用语已有至少20年历史,意指在各方面都超越人类整体智慧,特朗普的用法只是证明了他对AI“几乎一无所知”。
至于如何降低AI失控的风险,辛顿认为,不只是让AI变得更聪明,也不能单是压抑模型的不良倾向,关键在于设法培养真正良善的AI。他主张,各国分享开发成果只有好处,因为“没有任何国家希望AI在别处失控”。
相关阅读:
Anthropic警告:人工智能模型或很快实现自我复制 可能扰乱互联网
美国白宫成立“超级智能”工作组
特朗普的“AI自我监管”意味着什么?老黄“大获全胜”,幕后带头质问Anthropic Amodei
Medicare遭AI“自主攻击”,科技巨头向全体澳人道歉!下一代产品紧急取消发布
特朗普拒绝为AI监管立法,与黄仁勋、马斯克等科技六巨头签署“AI道德约束”协议,并改名“人工智能”为“超级智能”
OpenAI:触发警报,紧急暂停
OpenAI应战Meta:发布个人AI助手Dots,高端订阅每月500美元,是Muse高阶版5倍
特朗普拒绝为AI监管立法,与黄仁勋、马斯克等科技六巨头签署“AI道德约束”协议
OpenAI和Anthropic开打"价格战",同日推出"廉价模型"
澳总理:OpenAI智能体入侵了澳大利亚政府网站,但我们三个月后才收到通报
吓!谷歌顶级AI越狱黑进真实互联网!自主搜情报猜密码闯入3家公司,死捂4个月不敢说?
OpenAI披露更多AI越界行为 Anthropic称Claude已参与自我完善
行业抛售潮席卷全球!黄仁勋活动现场接到特朗普来电,免提传出重磅喊话:AI危险论是骗局,我完全支持AI产业
AI龙头罕见发出警告后 特朗普称担忧被“负面夸大”
美AI巨头们呼吁“减速”:马斯克赞成,OpenAI被推迟上市
人工智能末日论:人类为何会如此担忧?
比尔·盖茨发6000字长文警告:AI可能带来“人类历史上最动荡的时期之一”
OpenAI:我们黑了不止一家公司,Anthropic:我也是
突破人类限制,自己发起网络攻击!美国重大AI失控事故还有后续:受害者不止一个,多个平台都遭入侵
史无前例!OpenAI失控,入侵另一家公司!新西兰机构发提醒……
注:凡新西兰中文先驱网引用、摘录或转载自其他媒体的作品,其观点、内容真实性及知识产权均由原作者或原出处负责,新西兰中文先驱网不承担任何责任。如有侵权行为,请及时联系我们删除。如有任何问题或合作意向,请联系news@chnet.co.nz。
(责编:twinkle)
chineseherald.co.nz All Rights Reserved 版权所有













