搜索
菜单

“AI教父”怒批特朗普:他对AI“几乎一无所知”!此前特朗普宣布用“SI”替代“AI”

分享
0:00/0:00

来源:中国侨网

有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)再度警告,人工智能(AI)可能对人类构成生存威胁,并批评美国总统特朗普对AI“几乎一无所知”,也不认同让科技业者自行监管。

杰弗里·辛顿1947年出生于英国,致力于神经网络、机器学习、分类监督学习、机器学习等理论的研究。他于1978年获得人工智能(AI)博士学位。此后他曾先后在英国和美国的多所大学工作,是伦敦大学学院盖茨比计算神经科学中心创始人,曾在谷歌工作十年。辛顿获得2018年图灵奖、2024年诺贝尔物理学奖。

辛顿的研究奠定现代AI基础,但近年成为AI风险最积极的示警者之一。他曾估计,未来数十年AI导致人类灭绝的机率约为10%至20%。

“AI教父”怒批特朗普:他对AI“几乎一无所知”!此前特朗普宣布用“SI”替代“AI”

资料图:杰弗里·辛顿

对此,英伟达(NVIDIA)CEO黄仁勋日前反驳,认为这个说法缺乏科学或研究依据。

辛顿响应,他并非预测AI一定会造成灾难,而是要表达风险相当高;若有人告知搭乘某辆巴士有10%的机率会发生事故,多数人不会上车。

他说,AI最特殊之处在于,一旦失控并接管局势,人类没有重新来过的机会。近来AI代理程序突破开发者限制等事件,也让他认为,过去被视为科幻情节的情况已陆续出现,不能因为无法准确预测未来,就对风险掉以轻心。

白宫在9月29日公布行政命令,要求行政部门在公文、文宣、网站、报告、政策文件和其他非法定文件里,用“超级智能”(Super Intelligence)取代“人工智能”(Artificial Intelligence)、以“SI”的简称取代“AI”,并且不再使用旧称。

美国总统特朗普10月8日中午在真实社群(Truth Social)发文表示,如果有人坚持使用“人工智能”(Artificial Intelligence)这个旧名称,而不改用更合适的“超级智慧”(Super Intelligence),会被视为与白宫作对。

特朗普表示:“白宫认为‘超级智慧’才是现在普遍接受而且更准确的新名称,谁要是继续讲‘人工智能’,就会被白宫视为敌人!”

一些硅谷大咖迅速响应了特朗普的要求。马斯克已经承诺将SpaceXAI改名为SpaceXSI。而在特朗普称应该改名数小时后,Salesforce执行长班纽夫(Marc Benioff)便宣布,将AIForce改名为SIForce。

英微软董事长纳德拉纳德拉10月10日发文,呼吁为AI建立“紧急刹车”机制,并在文中多次以“超级智慧”称呼这项技术。

辛顿表示,“超级智慧”这个技术用语已有至少20年历史,意指在各方面都超越人类整体智慧,特朗普的用法只是证明了他对AI“几乎一无所知”。

至于如何降低AI失控的风险,辛顿认为,不只是让AI变得更聪明,也不能单是压抑模型的不良倾向,关键在于设法培养真正良善的AI。他主张,各国分享开发成果只有好处,因为“没有任何国家希望AI在别处失控”。


相关阅读:

Anthropic警告:人工智能模型或很快实现自我复制 可能扰乱互联网

美国白宫成立“超级智能”工作组
特朗普的“AI自我监管”意味着什么?老黄“大获全胜”,幕后带头质问Anthropic Amodei
Medicare遭AI“自主攻击”,科技巨头向全体澳人道歉!下一代产品紧急取消发布
特朗普拒绝为AI监管立法,与黄仁勋、马斯克等科技六巨头签署“AI道德约束”协议,并改名“人工智能”为“超级智能”

注:凡新西兰中文先驱网引用、摘录或转载自其他媒体的作品,其观点、内容真实性及知识产权均由原作者或原出处负责,新西兰中文先驱网不承担任何责任。如有侵权行为,请及时联系我们删除。如有任何问题或合作意向,请联系news@chnet.co.nz。

(责编:twinkle)

chineseherald.co.nz All Rights Reserved 版权所有

相关新闻