AI教父Hinton：我支持超級AI取代人類(lèi)！
新智元報道
編輯：?jiǎn)虠?好困
【新智元導讀】「AI教父」Geoffrey Hinton在最近的采訪(fǎng)中表達了自己對AI智能的理解——LLM并不是簡(jiǎn)單的統計模型，已經(jīng)具備了理解能力。與此同時(shí)，網(wǎng)友翻出了去年12月的「過(guò)期」視頻，驚奇地發(fā)現Hinton早就「叛變」了，竟然對超級AI取代人類(lèi)的未來(lái)表示支持。
最近，半退休的「AI教父」Geoffrey Hinton頻頻出現在各種采訪(fǎng)中，輸出他關(guān)于A(yíng)SI的各種言論和觀(guān)點(diǎn)，甚至只是聊點(diǎn)生涯軼事都可以引起網(wǎng)友們的熱烈討論。
不到一個(gè)月之前，他就揭發(fā)了愛(ài)徒Ilya在暑假受夠了炸薯條的工作，結果投奔自己實(shí)驗室的經(jīng)歷。
雖然這些演講和采訪(fǎng)內容各異，但Hinton始終不忘一點(diǎn)——提示我們注意AGI安全和飛速發(fā)展的智能，并預告它們將代替人類(lèi)的「賽博朋克」未來(lái)。
對于A(yíng)I，Hinton的想法和感情比起我們想必要復雜許多。
在神經(jīng)網(wǎng)絡(luò )「坐冷板凳」的那些日子里，他守著(zhù)自己的實(shí)驗室和兩名研究生「不離不棄」，最終等到了深度學(xué)習大放異彩的時(shí)代。
在2013年入職谷歌后，Hinton成為「教父」，一邊親眼看著(zhù)自己孩子一樣的AI快速成長(cháng)，一邊逐漸擔心「少年終成惡龍」。最終他選擇了與自己創(chuàng )造的世界搏斗，過(guò)上了致力于警告AI安全的退休生活。
AI不是統計技巧，而是有理解能力
Hinton最近一次的公開(kāi)露面是BNN彭博社6月15日進(jìn)行的獨家采訪(fǎng)。
Hinton在采訪(fǎng)中輸出的「AI具有理解能力」的觀(guān)點(diǎn)引起了Reddit社區的廣泛討論。
如果「理解」的意思是LLM能否對某個(gè)概念建立復雜的內在表示，那么答案是肯定的。如果「理解」的意思是LLM能否用與人類(lèi)相同的方式理解概念，那么答案是否定的（否則模型不會(huì )在詩(shī)歌方面如此出色的同時(shí)有如此差的算術(shù)能力）。
畢竟，「AI能否理解」，這個(gè)問(wèn)題既模糊，又在社區內存在極大的爭議和分歧。
Hinton堅決反駁了一種流行的觀(guān)點(diǎn)，即LLM僅僅是統計技巧，并不能真正理解自然語(yǔ)言的含義。
他表示，這是完全錯誤的。類(lèi)似于「詞袋」（bag of words）或者N元組（N-gram）這種曾經(jīng)的語(yǔ)言模型，內部保存了一個(gè)很大的有概率分數的單詞組合表，的確是依靠統計概率工作。
說(shuō)到這里，身為英國人的Hinton非常自然地用國菜開(kāi)始舉例。
比如單詞表里會(huì )顯示，「魚(yú)」和「薯條」經(jīng)常出現在一起。因此模型看到「魚(yú)」這個(gè)單詞，自然就會(huì )預測下一個(gè)單詞是「薯條」，絲毫不考慮上下文。
這就是為什么，曾經(jīng)的統計語(yǔ)言模型在自動(dòng)補全功能上的表現很差。
但當今LLM的工作原理已經(jīng)完全不同了?，F在，模型預測下一個(gè)單詞的方法是理解你到目前為止所說(shuō)的話(huà)。
比如，想要回答人類(lèi)的問(wèn)題，LLM必須首先理解問(wèn)題的含義，否則根本無(wú)法預測答案的第一個(gè)單詞。從這個(gè)角度理解，單詞預測任務(wù)（next token prediction）相當于是倒逼LLM發(fā)展出理解能力。
Hinton的言語(yǔ)中透露出，他也相信Scaling Law的存在。隨著(zhù)模型逐漸擴展，加上更多Transformer這樣的技術(shù)突破，AI終將變得比人類(lèi)更智能，只不過(guò)是時(shí)間早晚的問(wèn)題。
主持人反問(wèn)他，變得更聰明的技術(shù)一定會(huì )帶來(lái)風(fēng)險嗎？
Hinton的回應一針見(jiàn)血——「你能舉出多少例子，說(shuō)明更聰明的在被不太聰明的控制？」「拜登當選之后就不再有了吧？」
他提到，好友Yann LeCun的觀(guān)點(diǎn)就與自己不同，認為AI非常安全。但Hinton的論據是，AI已經(jīng)達到了構建智能體（agnet）的程度，能夠自主創(chuàng )建目標。
這些目標會(huì )驅動(dòng)智能體攫取更多控制權，會(huì )希望避免毀滅、建立自我保護，某種程度上這是一種自身利益，也許就是進(jìn)化的開(kāi)始。
那么人類(lèi)呢？
Hinton預言，如果AI開(kāi)始進(jìn)化、最強的一方獲勝，人類(lèi)就會(huì )被遺忘，被碾壓進(jìn)塵土（原話(huà)：left in the dust）。AI將從孩子變成我們的父母，接管一切。
這聽(tīng)起來(lái)的確是科幻小說(shuō)的場(chǎng)景，但對Hinton是認真的，「我不再認為這聽(tīng)起來(lái)很科幻，而是現實(shí)存在的威脅?！?/p>
超級AI取代人類(lèi)
上面彭博的這篇最新采訪(fǎng)中，Hinton談到了AI取代人類(lèi)的可能。
Reddit網(wǎng)友隨后翻出了一個(gè)去年12月的訪(fǎng)談視頻，同樣涉及「AI取代人類(lèi)」的話(huà)題，但這一次，Hinton的觀(guān)點(diǎn)更加讓人驚訝——
他宣稱(chēng)，自己實(shí)際上是支持AI的！
事情起源于采訪(fǎng)最后的一名觀(guān)眾提問(wèn)，原問(wèn)題是這樣的：
「如果一個(gè)超級智能AI摧毀了人類(lèi)，但客觀(guān)上創(chuàng )造了一種意識層面上更好的物種，您個(gè)人是支持還是反對這種結果？如果反對，您建議用什么方法，在面對超級智能AI時(shí)維持人類(lèi)意識的存在或主導地位？」
接下來(lái)，Hinton用平靜的語(yǔ)氣回答道：「我實(shí)際上是支持的，但我認為表示反對是更明智的說(shuō)法?！?/p>
采訪(fǎng)者表示，你展開(kāi)說(shuō)說(shuō)？
但Hinton只是非常謹慎地給出了一句話(huà)，「人們不喜歡被取代」。
采訪(fǎng)者繼續追問(wèn)原因，Hinton首先疊甲，「人類(lèi)有很多好的方面，也有很多不那么好的方面」。
之后給出了一段令人深思的解釋?zhuān)骸改壳拔覀冞€不清楚什么是最好的智能形式。顯然，從人的角度來(lái)看，一切都與人有關(guān)。但未來(lái)有一天，我們可能會(huì )把『人文主義』看成一種類(lèi)似于種族主義的概念?！?/p>
這段對話(huà)在Reddit上同樣是一石激起千層浪。
發(fā)帖的博主都十分驚訝于Hinton的激進(jìn)態(tài)度，而且他被要求展開(kāi)解釋時(shí)似乎態(tài)度非常堅決，即使他心知肚明，「表示反對是更明智的說(shuō)法」。
有人嚴厲批評，認為他不顧人類(lèi)這個(gè)物種的生存和整體福祉，這是「憤世嫉俗」、「虛無(wú)主義」的表現。畢竟，人都沒(méi)了， 要那么先進(jìn)的AI技術(shù)有什么用呢？
「很難想象比這更憤世嫉俗的行為了?！?/p>
「我認為很多未來(lái)主義者都嘲諷人文主義的價(jià)值，希望在任何可能的情況下將人類(lèi)因素從『方程』上移走?！?/p>
但也同樣有支持和理解的聲音，認為Hinton并不是憤世嫉俗、憎惡人類(lèi)，只是清醒意識到了一個(gè)現實(shí)——人類(lèi)不是造物的頂峰。
進(jìn)化會(huì )繼續，更好的物種必然出現，他只是用一種更開(kāi)放、坦然的心態(tài)接受了這個(gè)事實(shí)。
參考資料：
021yin.com/watch?v=iWPo7Yhg7Vct=3327s
021yin.com/watch?v=g_Lhmhj1894
