7月26日，2025世界人工智能大會(huì)（WAIC）正式開幕。圖靈獎(jiǎng)得主、諾獎(jiǎng)得主、“AI教父”杰弗里·辛頓（Geoffrey Hinton）發(fā)表主題演講再談AI（人工智能）安全。

杰弗里·辛頓（Geoffrey Hinton）

辛頓表示，人類理解語言的方式實(shí)際上很像大語言模型，因此人類實(shí)際上很像大語言模型，也會(huì)產(chǎn)生幻覺，經(jīng)常編造東西，特別是當(dāng)他們?cè)噲D回憶很久以前發(fā)生的事情時(shí)。但他也指出，大語言模型與人類非常不同且優(yōu)于人類的是，計(jì)算機(jī)科學(xué)的一個(gè)基本原則是，應(yīng)該將軟件與硬件分開，正是這一點(diǎn)讓人們可以在不同的硬件上運(yùn)行相同的程序，它使得計(jì)算機(jī)科學(xué)能夠成為一個(gè)獨(dú)立于電氣工程的領(lǐng)域，如果你做到了這一點(diǎn)，那么程序中包含的知識(shí)就是“不朽的”。

辛頓進(jìn)一步解釋稱：“如果你能把程序保存在某處，或者能把神經(jīng)網(wǎng)絡(luò)的權(quán)重存儲(chǔ)在某個(gè)地方，那么你現(xiàn)在就可以銷毀運(yùn)行神經(jīng)網(wǎng)絡(luò)的所有硬件。只要你有權(quán)重存儲(chǔ)在某個(gè)地方，你現(xiàn)在就可以建造新的硬件，并且因?yàn)橛?jì)算是數(shù)字化的，你可以在這些新硬件上運(yùn)行完全相同的計(jì)算。所以在這個(gè)意義上，數(shù)字計(jì)算機(jī)的程序是‘不朽的’?！?/p>

辛頓同時(shí)指出，數(shù)字計(jì)算需要大量能量，但它使得擁有完全相同權(quán)重的智能體（Agent）能夠非常容易地共享它們從不同經(jīng)驗(yàn)中學(xué)到的東西，生物計(jì)算需要的能量要少得多，但共享學(xué)到的東西卻很困難。如果能源很便宜，數(shù)字計(jì)算就會(huì)好得多。

“這讓我非常擔(dān)憂，因?yàn)閹缀跛械膶＜叶枷嘈盼覀儗⒅圃斐霰任覀兏斆鞯腁I。我們?nèi)绱肆?xí)慣于作為頂尖智能，以至于很多人難以想象一個(gè)AI比我們更聰明的世界會(huì)是什么樣子……”辛頓表示，想知道非頂級(jí)智能體的感受？不妨問問雞的生存體驗(yàn)。

辛頓認(rèn)為，我們正在創(chuàng)造AI智能體是因?yàn)樗鼈兏瞄L(zhǎng)完成任務(wù)，這些AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會(huì)想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)。因此，人類將會(huì)擁有想要生存和想要更多控制權(quán)的智能體，“而且我們將無法簡(jiǎn)單地關(guān)閉它們，它們會(huì)發(fā)現(xiàn)操縱使用它們的人非常容易，我們將像三歲小孩，而它們將像成年人，所以我認(rèn)為那種當(dāng)它們比我們更聰明時(shí)，我們就能讓某人把它們關(guān)掉的想法是不切實(shí)際的，它們將能夠操縱我們，并說服那個(gè)應(yīng)該關(guān)掉它們的人不要那么做”。

辛頓將人類目前的處境比作養(yǎng)小老虎當(dāng)寵物，小老虎非?？蓯郏艹蔀楹芎玫膶櫸?，但需要確保當(dāng)它長(zhǎng)大后它不想吃了你。“一般來說，養(yǎng)小老虎當(dāng)寵物是個(gè)壞主意，有兩個(gè)選擇：想辦法訓(xùn)練它讓它永遠(yuǎn)不想吃了你，或者擺脫它?！毙令D表示，對(duì)于AI，我們沒有擺脫它的選項(xiàng)，AI對(duì)醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類更具生產(chǎn)力。

辛頓表示，如果人類想要生存，必須找到辦法訓(xùn)練AI，不要讓AI消滅人類。

辛頓指出，目前沒有一個(gè)國家希望AI接管，每個(gè)國家都希望人類繼續(xù)保持掌控權(quán)，如果任何一個(gè)國家找到了防止AI接管的方法，他們會(huì)非常樂意告訴所有其他國家。因此，他建議建立一個(gè)由AI安全研究所和協(xié)會(huì)組成的國際共同體，致力于研發(fā)訓(xùn)練AI向善的技術(shù)，實(shí)現(xiàn)訓(xùn)練AI向善所需的技術(shù)與訓(xùn)練AI變得更聰明的技術(shù)，在某種程度上是分離的，讓一個(gè)真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂意處于人類的輔助角色。

“我們目前根本不知道如何做到這一點(diǎn)，長(zhǎng)遠(yuǎn)來看，這是人類面臨的最重要的問題。好消息是，這是一個(gè)所有國家都應(yīng)該能夠合作解決的問題?！?/strong>辛頓最后如是說道。

2024年10月8日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)的約翰·霍普菲爾德和加拿大多倫多大學(xué)的杰弗里·辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。辛頓是卷積神經(jīng)網(wǎng)絡(luò)理論的領(lǐng)軍人物，也被視為由ChatGPT掀起的本輪AI技術(shù)躍進(jìn)背后的奠基性科學(xué)家，被譽(yù)為“AI教父”。

辛頓在卡內(nèi)基梅隆大學(xué)任教五年，后來成為加拿大高等研究院的研究員，并進(jìn)入多倫多大學(xué)計(jì)算機(jī)科學(xué)系任教。辛頓在2013年加入谷歌。因其在深度學(xué)習(xí)方面的貢獻(xiàn)，他與約書亞·本希奧和楊立昆被一同稱為“深度學(xué)習(xí)三巨頭”，三人在2018年被授予了圖靈獎(jiǎng)。2023年5月，辛頓從谷歌離職。自那以后，他持續(xù)公開呼吁謹(jǐn)慎對(duì)待AI技術(shù)，成為旨在引導(dǎo)AI系統(tǒng)、使其行為符合設(shè)計(jì)者利益和預(yù)期目標(biāo)的“AI對(duì)齊派”的代表。

本次世界人工智能大會(huì)以“智能時(shí)代 同球共濟(jì)”為主題，共規(guī)劃了超100場(chǎng)專業(yè)論壇，匯聚1200余位全球?qū)＜遥?2位圖靈獎(jiǎng)、諾獎(jiǎng)得主，大會(huì)將持續(xù)至7月28日。