“AI教父”辛頓與馬斯克公開(kāi)絕交：這群推動(dòng)AI發(fā)展的關(guān)鍵人物，也是AI潛在威脅
圖靈獎得主、AI“教父” 杰弗里·辛頓
出品｜搜狐科技
作者｜鄭松毅
編輯｜楊錦
繼楊立昆之后，又一位在A(yíng)I界享有盛譽(yù)的學(xué)者，公開(kāi)與馬斯克決裂。
近日，圖靈獎得主、AI“教父” 杰弗里·辛頓在接受《環(huán)球郵報》采訪(fǎng)中透露，他拒絕了馬斯克xAI顧問(wèn)委員會(huì )成員職務(wù)的邀請，并表示與馬斯克“友盡”了。
從辛頓的采訪(fǎng)推測，二人的分歧點(diǎn)可能在于：AI現階段是要先發(fā)展還是先監管。
辛頓是著(zhù)名的計算機學(xué)家，被譽(yù)為“神經(jīng)網(wǎng)絡(luò )之父”和“深度學(xué)習鼻祖”。他在人工智能領(lǐng)域，尤其是在深度學(xué)習方面做出了巨大貢獻。
這次的采訪(fǎng)與以往有些不同，是辛頓主動(dòng)聯(lián)系的記者吃午餐。他點(diǎn)了一份羊奶酪和火腿三明治，迫切地想談?wù)勅斯ぶ悄馨l(fā)展的未來(lái)，還有關(guān)于馬斯克的“八卦”。
“AI很有可能接管人類(lèi)”
“我們可能很快就會(huì )達到一個(gè)臨界點(diǎn)，人工智能機器在功能上與人類(lèi)沒(méi)有什么不同?！?/p>
從2023年春天開(kāi)始，辛頓真正開(kāi)始意識到，正在構建的AI可能會(huì )成為比人類(lèi)更智能的存在。
他說(shuō)，“人工智能的發(fā)展速度比想象中快了許多，未來(lái)5-20年，AI有一半概率比人類(lèi)聰明。當它們比人類(lèi)更聰明時(shí)，我不知道我們被接管的可能性有多大，但在我看來(lái)很有可能?！?/p>
在辛頓看來(lái)，人類(lèi)一直被看作是這個(gè)星球上最先進(jìn)的生物，彼此之間可以通過(guò)語(yǔ)言分享自己的模型。但坦白來(lái)說(shuō)，效果不是很好，效率也不高。
“人工智能是一種比人類(lèi)更好的智能形式，因為人工智能可以更好地分享，他們可以擁有更多的經(jīng)驗。GPT-4 的工作效率比任何一個(gè)人高出數千倍，是因為它的經(jīng)驗比任何一個(gè)人可能擁有的經(jīng)驗多出一千倍?！?/p>
辛頓對人工智能的發(fā)展一直持有復雜且深思的態(tài)度。他既認識到人工智能帶來(lái)的巨大潛力和積極影響，也對其可能帶來(lái)的風(fēng)險和挑戰表示擔憂(yōu)。
他擔心，“人類(lèi)終有一死，但機器不會(huì )，現在的人工智能運行還依賴(lài)于人類(lèi)制造機器，如果它們可以自己完成這件事時(shí)，我們就完蛋了。AI除了會(huì )取代人類(lèi)工作，還有可能對人類(lèi)文明構成威脅?！?/p>
這種潛在的威脅，讓辛頓憂(yōu)心不已，他急切地希望，把處在研發(fā)階段的AI“封存”！
“必須要想辦法阻止‘流氓人工智能’。如果不能停止開(kāi)發(fā)，應對AI風(fēng)險的主要方法就是管理AI數據?！?/p>
在他看來(lái)，使用網(wǎng)絡(luò )上的一切來(lái)訓練AI，是非常瘋狂的事情?？赡茏x了一本兇殺小說(shuō)，就會(huì )學(xué)習暴力內容。
“除非大模型已經(jīng)接受了一系列其他東西的訓練，比如提前灌輸了道德準則，讓它在讀到連環(huán)殺手情節時(shí)能意識到那是錯的?！?/p>
辛頓表示，唯一能讓馬斯克、扎克伯格這些“AI訓練師”保持克制的辦法只有政府監管，這是唯一足夠強大的手段。
不惜與馬斯克絕交
辛頓自曝，這兩天，馬斯克給他打了通20多分鐘的電話(huà)，目的是詢(xún)問(wèn)自己是否愿意擔任xAI顧問(wèn)委員會(huì )成員。
據辛頓描述，開(kāi)始倆人聊的還不錯，都對人工智能目前的極速擴張階段抱有謹慎態(tài)度。但后來(lái)馬斯克“開(kāi)始胡言亂語(yǔ)，什么都說(shuō)”。
最后辛頓實(shí)在聽(tīng)不下去了，以還有另外一個(gè)會(huì )為借口，掛掉了電話(huà)。
辛頓知道馬斯克應該不太喜歡這樣，因為他已經(jīng)習慣了成為受關(guān)注的焦點(diǎn)?！拔矣X(jué)得他已經(jīng)不再是我的朋友”，辛頓說(shuō)。
辛頓和馬斯克即使算不上摯友，也已是老友，兩人都曾是AI保守派代表。
此前，馬斯克和辛頓都簽署了生命未來(lái)研究所發(fā)布的公開(kāi)信，該信呼吁所有AI實(shí)驗室暫停訓練比GPT更強大的AI系統至少6個(gè)月。
馬斯克還曾在社交媒體上對辛頓警告AI風(fēng)險的立場(chǎng)表示支持，認為“辛頓知道自己在說(shuō)什么”。
既然如此，這次辛頓婉拒馬斯克的原因又是為何？
辛頓也不繞彎子，直言“馬斯克還有小扎，這群推動(dòng)AI發(fā)展的關(guān)鍵性人物，其實(shí)也是AI發(fā)展潛在威脅問(wèn)題的一部分?！?/p>
幾日前，另一位AI大佬、圖靈獎得主楊立昆，也曾就馬斯克發(fā)布的xAI招聘信息發(fā)出嘲諷，引來(lái)3000萬(wàn)網(wǎng)友圍觀(guān)。
招聘文案稱(chēng)，“如果你認同我們探索宇宙奧秘的使命，并愿意加入xAI，我們歡迎你。我們的使命需要最大限度地嚴格追求真相，不受人氣或政治正確性的干擾?！?/p>
楊立昆隨即在帖子下嘲諷道，“如果你能忍受這樣一位老板，那就加入xAI：這位老板聲稱(chēng)，你正在做的事情將在明年由xAI替代；聲稱(chēng)你正在做的事情會(huì )毀滅人類(lèi)，必須停止或暫停；聲稱(chēng)要對真理進(jìn)行最嚴格的要求，但卻在自己的社交平臺上瘋狂散步陰謀論?！?/p>
現在看來(lái)，馬斯克在A(yíng)I圈子中的人緣并沒(méi)有那么好。
其實(shí)，無(wú)論是辛頓還是楊立昆，他們都對馬斯克產(chǎn)生了不信任感。馬斯克的一些言論和行為，經(jīng)常前后矛盾，讓人猜不透他所想。
在A(yíng)I浪潮初期，呼吁暫停人工智能訓練的是他，宣揚人工智能可能對人類(lèi)構成威脅的是他，但后來(lái)瘋狂囤卡的是他，成立xAI并不斷融資和招人的也是他。
馬斯克一直有著(zhù)“科技狂人”的稱(chēng)號，在尚未找到馴服AI的手段之前，馬斯克會(huì )不會(huì )為了xAI的發(fā)展、為了他的人工智能宏圖愿景，激進(jìn)地推動(dòng)模型的訓練，是辛頓、楊立昆這些學(xué)者們目前相當擔心的事情。
