川普把 AI 改名「超级智慧」 辛顿：证明他对 AI 几乎一无所知

有「AI教父」之称的电脑科学家辛顿（Geoffrey Hinton）再度警告，人工智慧（AI）可能对人类构成生存威胁，并批评美国总统川普对AI「几乎一无所知」，也不认同让科技业者自行监管。

辛顿的研究奠定现代AI基础，但近年成为AI风险最积极的示警者之一。他曾估计，未来数十年AI导致人类灭绝的机率约为10%至20%。对此，辉达（NVIDIA）执行长黄仁勋日前反驳，认为这个说法缺乏科学或研究依据。

辛顿回应，他并非预测AI一定会造成灾难，而是要表达风险相当高；若有人告知搭乘某辆巴士有10%的机率会发生事故，多数人不会上车。

他说，AI最特殊之处在于，一旦失控并接管局势，人类没有重新来过的机会。近来AI代理程式突破开发者限制等事件，也让他认为，过去被视为科幻情节的情况已陆续出现，不能因为无法准确预测未来，就对风险掉以轻心。

谈及政治与科技业，辛顿批评部分矽谷富豪的政治观点，并直指川普是「腐败、年迈的重大罪犯」。川普主张AI不需要政府防护措施，应由业者自行监管，近来甚至要求将AI改名为超级智慧（Super Intelligence），不然「就是敌人」。

辛顿表示，「超级智慧」这个技术用语已有至少20年历史，意指在各方面都超越人类整体智慧，川普的用法只是证明了他对AI「几乎一无所知」。

对于企业自行监管，辛顿则以石油、石棉与烟草业为例质疑，若让烟商自行设计警语，显然不足以保障公众利益。

辛顿把AI崛起比作哥白尼与达尔文带来的思想革命：人类先后被迫接受自己不是宇宙中心，也不是与其他生物截然不同；如今，人类还必须面对自己「并非唯一智慧存在」的可能性。他说，人类正在创造「异种生命」，而要适应这项现实，可能只剩几年时间。

至于如何降低AI失控的风险，辛顿认为，不只是让AI变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的AI。他主张，各国分享开发成果只有好处，因为「没有任何国家希望AI在别处失控」。

本文转自：TNT时报