AI教父Hinton 46分鐘對談：AI可復制人類(lèi)心智，或加劇全球貧富差距
智東西
編譯 | Alyssa
編輯 | Panken
智東西6月17日消息，當地時(shí)間6月7日，AI教父杰弗里·辛頓（Geoffrey Hinton）在吉印通國AI for Good大會(huì )上分享了AI在醫療和教育領(lǐng)域的潛力、網(wǎng)絡(luò )犯罪和假視頻的威脅以及提倡建立更嚴格的監管框架等話(huà)題。這場(chǎng)對談共46分鐘。
此次對談中，Hinton有很多令人深思的金句與觀(guān)點(diǎn)：
1、人類(lèi)心智并無(wú)AI不可復制之處，且AI已經(jīng)具備主觀(guān)體驗。
2、我一直認為通用AI不會(huì )突然出現一個(gè)時(shí)刻，讓機器瞬間超越人類(lèi)。它們將在不同時(shí)間，在不同領(lǐng)域超越我們。
3、AI將創(chuàng )造大量財富，幾乎所有人都認為AI將提高生產(chǎn)力。問(wèn)題是，新增的財富將流向何方？我認為不會(huì )流向窮人，而是流向富人，這將加大貧富差距。
4、大語(yǔ)言模型真的理解它們所說(shuō)的內容，幾乎與人類(lèi)一樣，AI理解的方式與人類(lèi)理解的方式相同。
5、AI不僅將助力基礎科學(xué)研究，在許多情況下，它能處理大量非視覺(jué)、非聽(tīng)覺(jué)的復雜數據，如基因組數據。我認為，AI系統在處理大規模數據、識別模式、理解數據方面將遠超人類(lèi)。
6、我認為，提前對公眾進(jìn)行假視頻的“疫苗接種”，把它們當作疾病一樣對待，這是一個(gè)好主意。就像預防疾病一樣，可以使用減弱版的病毒來(lái)接種。
以下是Geoffrey Hinton與《大西洋月刊》CEO Nicholas Thompson對談的全文編譯：
一、40年前就已提出，機器智慧因借鑒人腦架構
Nicholas Thompson：很高興能再次回到這里，我更高興的是能與杰弗里·辛頓同臺，他是這個(gè)領(lǐng)域中最聰明、最出色、最能干且最善良的人之一。杰弗里，您最近怎么樣？
Geoffrey Hinton：我很好，非常感謝您那過(guò)分熱情的介紹。
Nicholas Thompson：杰弗里，我想從我們幾乎一年前的一次對話(huà)開(kāi)始，當時(shí)我們在多倫多，正準備上臺，我的兩個(gè)孩子當時(shí)和我在一起，他們那時(shí)分別是14歲和12歲。您看著(zhù)那個(gè)大點(diǎn)的孩子說(shuō)，“您會(huì )像您爸爸一樣進(jìn)入媒體行業(yè)嗎？”他回答說(shuō)“不會(huì )”。您說(shuō)“那太好了”。然后我說(shuō)，“如果他不打算進(jìn)入媒體行業(yè)，那他應該做什么？”您回答說(shuō)“他應該成為一名水管工”。所以，我的兒子申請了學(xué)校報社的工作，我很想知道您是否認為他在犯一個(gè)嚴重的錯誤，我是否應該真的把他派下樓去修理水龍頭？
Geoffrey Hinton：不，我當時(shí)是在開(kāi)玩笑，但我確實(shí)認為，水管工這個(gè)職業(yè)會(huì )比大多數職業(yè)持續更長(cháng)的時(shí)間。我認為目前我們的AI最差的地方就是物理操作，它正在迅速改進(jìn)，但這是它相比人類(lèi)最弱的一環(huán)。
Nicholas Thompson：好的，那么在這次采訪(fǎng)中，我想先從辛頓博士的背景開(kāi)始，然后我會(huì )向您提出一些最有趣的技術(shù)問(wèn)題，其中一些我們已經(jīng)在臺上討論過(guò)。我們將聊一些關(guān)于A(yíng)I的正面影響，然后是一些負面影響，最后再談?wù)劚O管框架。聽(tīng)起來(lái)如何，杰弗里？
Geoffrey Hinton：聽(tīng)起來(lái)很好，非常棒。
Nicholas Thompson：首先，我想從40年前開(kāi)始說(shuō)起，那時(shí)您是一名孤獨的科學(xué)家，而您所擁有的洞見(jiàn)最終成為了這個(gè)領(lǐng)域最重要的發(fā)現之一，可能是20世紀后半葉最重要的發(fā)現。您意識到，為了制造出極其強大的計算機，應該借鑒人腦的架構來(lái)實(shí)現?，F在看來(lái)這似乎顯而易見(jiàn)，但在當時(shí)并非如此。請告訴我，那一刻的洞察力如何推動(dòng)了這個(gè)領(lǐng)域的進(jìn)展？
Geoffrey Hinton：這是一個(gè)美好的神話(huà)，但實(shí)際上有幾個(gè)人在不同的時(shí)期也有類(lèi)似的想法，特別是1950年代的紐曼（John Von Neumann，現代計算機的奠基人之一，20世紀最杰出的數學(xué)家）和香農（Claude Elwood Shannon，美國數學(xué)家、信息論的創(chuàng )始人）都這樣認為，然而不幸的是他們都英年早逝，否則我們這個(gè)領(lǐng)域的歷史可能會(huì )截然不同。對我來(lái)說(shuō)，這似乎是顯而易見(jiàn)的，如果您想理解智慧，就需要理解我們所知的最智慧的事物，那就是我們人類(lèi)自己。我們的智慧并不來(lái)自人們編程輸入大量的命題，然后使用邏輯來(lái)推理這些命題，而是源自于一個(gè)主要為視覺(jué)和運動(dòng)控制而設計的大腦，顯然，大腦中的連接強度隨著(zhù)學(xué)習而變化，我們必須弄清楚這種變化是如何發(fā)生的。
二、因擔憂(yōu)AI風(fēng)險離開(kāi)谷歌，數字計算有遠勝大腦的優(yōu)勢
Nicholas Thompson：那么，讓我們快速回顧一下您的歷程。您投身于這項工作，起初人們說(shuō)您在走一條錯誤的道路，您堅持下去，其他人也加入進(jìn)來(lái)，最終證明您走的是一條正確的道路，但前途未卜。您獲得了圖靈獎，加入了谷歌，賣(mài)了一家公司給谷歌，然后大約一年半前離開(kāi)谷歌。您離開(kāi)的那一刻是ChatGPT發(fā)布幾個(gè)月后。您離開(kāi)前做的最后一件事是什么，以及那一刻的決定是怎樣的？
Geoffrey Hinton：首先，讓我澄清一點(diǎn)，我離職有好幾個(gè)原因，其中一個(gè)是我已經(jīng)75歲了，我覺(jué)得我應該退休了。我不是僅僅為了談?wù)揂I的風(fēng)險而離職，但這確實(shí)是另一個(gè)原因。我在2023年初深刻意識到了AI存在的威脅，并在2023年3月左右開(kāi)始與其他同樣擔心AI威脅的人交談，比如羅杰·格羅斯。他們鼓勵我公開(kāi)我的擔憂(yōu)，于是我決定離開(kāi)谷歌，以便能夠自由發(fā)言。我之所以感到害怕，是因為我一直在研究如何讓模擬計算機能夠以30瓦特而不是兆瓦特的功率運行這些大語(yǔ)言模型。在這個(gè)過(guò)程中，我確信數字計算有某些地方遠勝于大腦能做到的。直到那時(shí)，我花了50年時(shí)間思考，如果我們能讓計算更像大腦，它就會(huì )變得更好。
但最終在2023年初，我意識到數字計算有大腦永遠無(wú)法擁有的優(yōu)勢，因為它可以進(jìn)行數字化復制，使得多個(gè)相同的模型可以在完全相同的方式下工作，每個(gè)模型可以查看數據集的不同部分、獲取梯度，它們可以結合這些梯度，從而能夠學(xué)習得更多。這就是為什么GPT-4可以知道比一個(gè)人多得多的知識，因為它是在多種不同硬件上運行的多個(gè)不同的副本，可以瀏覽整個(gè)互聯(lián)網(wǎng)，這是我們永遠無(wú)法擁有的能力。所以，他們擁有而我們沒(méi)有的就是高效的共享能力，人腦只能以極低的效率進(jìn)行共享，這就是現在發(fā)生的情況。我產(chǎn)生句子，您試圖弄清楚如何改變您大腦中的突觸，您可能會(huì )說(shuō)這是一種非常緩慢和低效的分享方式。而數字智能，如果是同一個(gè)模型的不同副本，它們可以以萬(wàn)億比特的帶寬進(jìn)行高效共享。
Nicholas Thompson：當您突然意識到這些系統可能比您想象中強大得多的那一刻，一定既讓您感到興奮，同時(shí)也引發(fā)了極大的恐懼，對嗎？
Geoffrey Hinton：這讓我覺(jué)得它們會(huì )比我想象的更快變得更聰明，讓我覺(jué)得它們是更高級的智能形式。
Nicholas Thompson：讓我們談?wù)劻硗鈨晌籄I教父。您和另外兩人一起獲得了圖靈獎，他們是楊立昆（Yann LeCun），現在在Meta領(lǐng)導AI工作，還有約書(shū)亞·本吉奧（Yoshua Bengio）。我試著(zhù)找出您們之間的差異，請告訴我這是否合理：楊立昆可能認為AI像弗雷多·柯里昂（黑幫電影《教父》中老教父維托的二兒子），不太有能力，容易控制；約書(shū)亞·本吉奧可能認為AI像桑尼·柯里昂（黑幫電影《教父》中老教父維托的大兒子），潛在地相當危險；而您視AI為邁克爾·柯里昂（黑幫電影《教父》中老教父維托的小兒子），潛在地極其危險。這描述是否大致正確？
Geoffrey Hinton：我不這么認為。我認為約書(shū)亞·本吉奧和我在A(yíng)I的危險性方面有非常相似的看法。
Nicholas Thompson：您和楊立昆的區別主要在于您認為這是一個(gè)比他更強大的系統，這也是您比他更擔憂(yōu)的原因？
Geoffrey Hinton：這是其中一個(gè)區別，是的。我認為它現在已經(jīng)非常聰明了，而楊立昆認為貓可能更聰明。
Nicholas Thompson：讓我們深入探討智能這個(gè)話(huà)題，我認為這是最有趣的問(wèn)題之一。您認為人類(lèi)心智中有任何東西是這些機器和AI系統無(wú)法復制的嗎？我們的大腦能做的一些事情，是否有些是無(wú)法在機器中復制的？
Geoffrey Hinton：沒(méi)有。
Nicholas Thompson：這意味著(zhù)沒(méi)有什么是我們能做的，而這些智能機器不能超越的。例如，可以說(shuō)它們最終能創(chuàng )作出更美妙的音樂(lè )，能做得比我們好且涉及簡(jiǎn)單的認知任務(wù)？
Geoffrey Hinton：我相信這一點(diǎn)。
Nicholas Thompson：您不認為有任何精神層面的東西，或是超出了神經(jīng)網(wǎng)絡(luò )所能捕捉的范圍？
Geoffrey Hinton：我認為我們所說(shuō)的“精神”可以被這些外星智能所捕捉。我同意山姆·阿爾特曼（Sam Altman）的觀(guān)點(diǎn)，這是一種外星智能，它與我們有一些不同。但如果您看看宗教之類(lèi)的事情，我不明白為什么我們不可以將其比作一種“宗教”體驗。
Nicholas Thompson：昨天當我向阿爾特曼提出這個(gè)問(wèn)題時(shí)，他說(shuō)可能有一個(gè)區別，那就是主觀(guān)體驗。一個(gè)機器人系統無(wú)法體驗世界。您認為AI系統能有主觀(guān)體驗嗎？
Geoffrey Hinton：是的，我認為它們已經(jīng)具備了（這種能力）。
Nicholas Thompson：讓我們深入探討一下這個(gè)觀(guān)點(diǎn)，這是一個(gè)頗具爭議的主張，杰弗里，您不能只用一句話(huà)就搪塞過(guò)去，請繼續闡述可以嗎？
Geoffrey Hinton：
