從否認到接受，人工智能之殤的五個(gè)階段
文 |追問(wèn)nextquestion
導語(yǔ)：唱衰人工智能不會(huì )帶來(lái)更好的明天 —— 構建于人工智能之上的未來(lái)世界既非烏托邦，也非反烏托邦，而是充滿(mǎn)無(wú)限奇幻可能的。
不久前，在OpenAI的靜修會(huì )*上，時(shí)任公司首席科學(xué)家的 Ilya Sutskever 委托當地藝術(shù)家制作了一尊代表“未對齊”*AI的木制雕像。他將其點(diǎn)燃，以象征“OpenAI對其創(chuàng )始原則的承諾”。這個(gè)奇怪的儀式可能是未雨綢繆，為了這個(gè)人工智能巨頭公司未來(lái)可能會(huì )在制造人工智能中不可避免地做出一些不直接表達“人類(lèi)價(jià)值觀(guān)”的舉動(dòng)提前洗白。然而，沒(méi)幾個(gè)月后，CEO Sam Altman 就被他的一個(gè)門(mén)徒背叛，被釘在十字架上。在三天后他復活時(shí)，這個(gè)話(huà)題成為了公司及其董事會(huì )的生存危機。OpenAI的所作所為真的能與“人類(lèi)價(jià)值觀(guān)”保持一致嗎？如果不是，那到底發(fā)生了什么？
譯者注：
Retreat: 性質(zhì)上和國內的團建有點(diǎn)類(lèi)似，不過(guò)一般是公司出錢(qián)，員工去自然中休假放松幾天。
未對齊：原文是“unaligned”，既有“未對齊”的意思，也表示“不一致”。這里表示“偏離人類(lèi)意圖、價(jià)值觀(guān)或目標的人工智能系統”。
去年年底，斯坦福人類(lèi)中心人工智能研究所所長(cháng)李飛飛出版了《我所見(jiàn)的世界》（The World I see）一書(shū)，《金融時(shí)報》稱(chēng)其為“一種強有力的呼吁，要求在我們在技術(shù)革新中也要以人為本”。她雖然她沒(méi)有進(jìn)行舉行任何奇怪的儀式，但與 Sutskever 的奇怪儀式結合起來(lái)，這兩件事都是人類(lèi)對顛覆性技術(shù)所產(chǎn)生的、里程碑式的反應。
從“對齊”到“以人為本的人工智能”，這些只是我們對人工智能感到失控和恐懼下所產(chǎn)生的詞語(yǔ)，但也是一種認為“復雜技術(shù)從未在人類(lèi)控制之下”的敘事。多是出于政治的原因，有些人堅持聲稱(chēng)“人工智能不是真的”，只是數學(xué)，只是資本主義悄然融入生活的一種意識形態(tài)建構。顯然，存在很多批評者對無(wú)處不在的機器智能前景非常憤怒，另外一部分人則承認AI的存在，并且相信它是可以通過(guò)立法、政策和研討會(huì )來(lái)控制的。然而，這部分人的樂(lè )觀(guān)并不能緩解大部分人的抑郁———這些人似乎看到了一場(chǎng)存在主義危機的到來(lái)。同樣的，這樣的唱衰聲也會(huì )讓那些看好人工智能的人感到困惑。
如何看待這些反應？西格蒙德·弗洛伊德用“哥白尼化（Copernican）”一詞來(lái)描述現代人從直覺(jué)式特權地位（intuitive privilege）上被去中心化的過(guò)程。在尼古拉·哥白尼和查爾斯·達爾文之后，他提名精神分析為第三次這樣的革命。他還將對這種去中心化的反應描述為“創(chuàng )傷(traumas）”。
創(chuàng )傷帶來(lái)悲傷。這是再正常不過(guò)的。瑞士精神病學(xué)家伊麗莎白·庫布勒-羅斯（Elizabeth Kübler-Ross）在她 1969 年出的書(shū)《論死亡與臨終》（On Death and Dying）中，確定了“悲傷的五個(gè)階段”：否認、憤怒、討價(jià)還價(jià)、抑郁和接受。也許哥白尼創(chuàng )傷也不例外。是時(shí)候在弗洛伊德的名單上增加一個(gè)新名字了。
神經(jīng)科學(xué)揭開(kāi)了心靈的神秘面紗，將二元論（dualism）逼到角落。生物技術(shù)[1]將人工材料轉化為生命，顛覆了人們的傳統認知。然而，這些發(fā)現并沒(méi)有真正意義上改變自然世界的客觀(guān)現實(shí)，只是揭示了與我們的直覺(jué)和文化宇宙學(xué)以前教給我們的東西非常不同的東西。
這種揭示是創(chuàng )傷的關(guān)鍵。悲傷的每個(gè)階段都是在消化根本文化信仰先緩慢再突然的坍塌。就像摯愛(ài)的死亡一樣，信仰的死亡是極其痛苦的。今天所謂的“人工智能”應該被視為正在形成的哥白尼創(chuàng )傷。它揭示了智能、認知，甚至心靈（這些歷史術(shù)語(yǔ)的定義顯然有待討論）并不是它們看起來(lái)的那樣，不是它們感覺(jué)的那樣，更不是人類(lèi)所獨有的。
誠然，人工智能所需的創(chuàng )造力和技術(shù)智慧是人類(lèi)的成就，但現在，這種智慧正在重塑自己。自舊石器時(shí)代的認知革命以來(lái)，人類(lèi)已經(jīng)人工化了許多東西——住所、熱量、食物、能源、圖像、聲音，甚至生命本身——直到現在，連人類(lèi)的智能本身都可以被人工化了。
庫布勒-羅斯（Kübler-Ross）的悲傷階段理論為西方對人工智能的態(tài)度提供了一個(gè)有用的分類(lèi)：人工智能否認、人工智能憤怒、人工智能討價(jià)還價(jià)、人工智能抑郁和人工智能接受。這些“悲傷（grief）”源于人工智能對政治制度、勞動(dòng)分配以及許多哲學(xué)和宗教傳統的影響，有的出于臆想，有的真實(shí)存在。但是，無(wú)論成因，它們都各自有各自的深刻、可悲、可預測性。這些悲傷反映了不同人群心目中的“正確”，這種正確，是政治上最便捷的，最能與文化產(chǎn)生動(dòng)態(tài)共鳴的，最符合人們過(guò)往認知的，最符合普世價(jià)值觀(guān)的，最能表達人文主義身份和自我形象的，最適合悲傷者的。每一種反應都暗含真理和智慧，以及神經(jīng)質(zhì)和自欺欺人。
這些反應終將不敵人工智能帶來(lái)的最嚴峻的挑戰。在面對這些孱弱的悲傷和顧慮時(shí)，人工智能帶來(lái)的挑戰毫不留情的擊破所有悲傷以及反對這些悲傷的觀(guān)點(diǎn)。這并不是說(shuō)人工智能不會(huì )帶來(lái)真正的風(fēng)險，或者目前在開(kāi)發(fā)和盈利的AI必然會(huì )帶來(lái)純積極導向的結果。以后回過(guò)頭來(lái)看，我們可能會(huì )覺(jué)得早期關(guān)于人工智能的探討怎么如此幼稚。
人工智能所帶來(lái)的悲傷的階段沒(méi)有特定的順序。它們不具備心理學(xué)上的意義，而只是分類(lèi)。同時(shí)，真實(shí)的人所產(chǎn)生的立場(chǎng)是流動(dòng)的，不會(huì )停留在簡(jiǎn)單的類(lèi)別中。例如，人工智能否認和人工智能憤怒可以同時(shí)存在。一種典型的情況就是，批評者經(jīng)常會(huì )一邊說(shuō)人工智能是不真實(shí)的，但又一邊說(shuō)要不惜一切代價(jià)阻止它。
我關(guān)注的點(diǎn)是西方文明社會(huì )對人工智能的反應，這些反應各有古怪和偏執之處，且并不像他們想象的那樣普遍。
首先，當然是人工智能否認：如果人工智能不真實(shí)，我們如何討論人工智能？
否認
癥狀性陳述：人工智能不真實(shí)；它不存在；它不是真的人工的；它不是真的智能的；它不重要；這都是炒作；這無(wú)關(guān)緊要；這是權力游戲；這是一時(shí)的潮流；AI不能寫(xiě)出真正好的歌或電影劇本；AI沒(méi)有情感；AI只是擬人化的幻覺(jué)；AI只是統計學(xué)、數學(xué)的梯度下降；AI是被美化后的輸入系統自動(dòng)聯(lián)想；AI沒(méi)有實(shí)體，因此沒(méi)有意義上的智能；這種技術(shù)現在沒(méi)用，以后也沒(méi)用——就算它起作用，它也不是看起來(lái)的那樣。
拒絕承認AI的存在完全在我們預料之中。當人們面對一些不尋常的、令人不安的、威脅生命的或破壞先前信仰的事情時(shí)，會(huì )自然地質(zhì)疑這種異常的有效性。對這種集體裁決的初步假設應該是，像人工智能這樣史無(wú)前例的技術(shù)可能并不像看起來(lái)那樣。
可以肯定的是，許多形式的否認在認識、理解機器智能以及探討機器智能范疇方面至關(guān)重要。例如，近年來(lái)人工智能從邏輯專(zhuān)家系統向深度學(xué)習系統的轉變，就要感謝評論家們對早期模型堅持不懈但十分正確的反駁。
如今，存在各種形式的對人工智能的否認。大多數與氣候變化否認主義（climate change denialism）不同——氣候變化否認主義者執著(zhù)于捏造事實(shí)來(lái)證明自己的觀(guān)點(diǎn)。但與氣候變化否認主義者一樣，人工智能否認者會(huì )抓個(gè)例，偷換概念，或者做任何能讓他們覺(jué)得他們所反對的觀(guān)點(diǎn)有可能實(shí)際上才是正解的事情。
人工智能否認大致可以分為：現象學(xué)的、政治的和程序性的。
哲學(xué)家休伯特·德雷福斯（Hubert Dreyfus）[2]認為，智能只能通過(guò)具體而現實(shí)的視角來(lái)理解，而現象學(xué)的人工智能否認在許多方面建立在這一基礎上：“人工智能不屬于真正的智能，因為它沒(méi)有實(shí)體”。這種批判類(lèi)型通常強調以人為本。作為圖靈測試的民粹主義變體，它將人類(lèi)經(jīng)驗與機器進(jìn)行比較，并通過(guò)衡量它們之間明顯的差異來(lái)強人工智能是多么不智能。“人工智能始終無(wú)法創(chuàng )造出偉大的歌劇，畫(huà)出了不起的畫(huà)作，創(chuàng )作出清麗的俳句，諸如此類(lèi)。”不過(guò)，一般來(lái)說(shuō)，提出這種看似直擊要害的批評的現象學(xué)人工智能否認者也做不到這些這些事情，但卻認為自己是智能的。
迄今為止最直截了當的人工智能否認是這樣說(shuō)的：人工智能既不人工也不智能。抓人眼球的背后，這句批評意味十足的標語(yǔ)的底層邏輯，卻是說(shuō)人工智能是從實(shí)際的礦物質(zhì)資源中創(chuàng )造而來(lái)的，因此不夠“人工”，此外，它的主要表現基于隨機預測和建模的目標導向行為，所以不夠“智能”。有意思的是，硅基芯片恰好是人工合成物的典范，而基于隨機預測和建模的目標導向行為則是從威廉·詹姆斯（William James）[3]到卡爾·弗里斯頓（Karl Friston）對‘智能’的定義中重要部分。
“（人工智能的思維方式）只是隨機推理，不是真正的思考”，也是臭名昭著(zhù)的論文On the Dangers of Stochastic Parrots: Can Language Models Be Too Big？[4]的結論，該論文將人工智能與鸚鵡進(jìn)行比較——顯然暗示人工智能不智能。在此過(guò)程中，此類(lèi)觀(guān)點(diǎn)的作者武斷地否定了計算神經(jīng)科學(xué)，認為它只是將一切視為“計算”的意識形態(tài)范式膨脹。更有作家將這一姿態(tài)激進(jìn)化，甚至得出結論：基于神經(jīng)網(wǎng)絡(luò )的自然和人工智能模型本身就是新自由主義實(shí)施的騙局。
這些批評者迅速在“人工智能不真實(shí)”和“人工智能不合法，因為它是由資本主義公司制造的”兩種論調之間來(lái)回切換，顯然前者的說(shuō)法是代表后者提出的。因此，堅持認為AI不真實(shí)往往是一種政治聲明，本質(zhì)上都是權力談判。
對這些人來(lái)說(shuō)，同時(shí)認為人工智能既“不真實(shí)”又“（真實(shí)所以）危險”，并沒(méi)有實(shí)際矛盾，因為“AI實(shí)際上是什么”與“AI實(shí)際上做什么”相比無(wú)關(guān)緊要，而他們精心挑選出AI行事的負面例子，并用這些例子引申到整體。
換句話(huà)說(shuō)，聲稱(chēng)“AI不真實(shí)存在”實(shí)際上是在表達反霸權政治觀(guān)點(diǎn)。更糟糕的是，這種思維方式會(huì )演變成AI李森科主義（Lysenkoism），即為了反資本主義對某些非常真實(shí)的事物進(jìn)行激進(jìn)的否認。
其他的AI批評者對深度學(xué)習、Transformer架構、自注意力或“規模就是一切”的方法進(jìn)行了高風(fēng)險智力賭注，他們的動(dòng)機與現象否認者類(lèi)似，只是更個(gè)人。深度學(xué)習懷疑論者Gary Marcus的例子可以說(shuō)明這部分人的心理，Blaise Aguera y Arcas稱(chēng)之為“馬庫斯循環(huán)”。
我們可以這樣理解這個(gè)循環(huán)：一個(gè)人聲明事件X是不可能的，然后X發(fā)生了；接著(zhù)ta說(shuō)X并不算數，因為Y，還斷言X隨時(shí)會(huì )崩潰或失??；當它不僅沒(méi)有失敗，反而被廣泛應用時(shí)，這個(gè)人又說(shuō)X實(shí)際上對社會(huì )真的很糟糕。自始至終，這位鍵盤(pán)俠都在網(wǎng)上夸夸其談，從不承認自己的錯誤。
在Marcus眼中，從2015年開(kāi)始，深度學(xué)習這種基礎方法離被淘汰就只差臨門(mén)一腳。但他的詛咒對象毫不擔心，畢竟Marcus預言過(guò)的許多“不可能”在今天都成了現實(shí)，被上百萬(wàn)AI用戶(hù)頻繁光顧。
憤怒
癥狀性陳述：AI是政治、文化、經(jīng)濟和/或生存威脅；它威脅人類(lèi)的未來(lái)；必須集體地、個(gè)人地、積極地，有時(shí)甚至是暴力地抵抗；必須捍衛“人類(lèi)的火花”免受來(lái)自上方和外部的有形傷害；AI本質(zhì)上可以從最近發(fā)生的、少數的負面例子中理解；AI是控制和等級制度的象征，因此反對人工智能即為爭取自由和自治的斗爭。
對AI的憤怒基于合理和不合理的恐懼。也就是說(shuō)，這種憤怒可能更多地集中在A(yíng)I的意義上，而不是AI的實(shí)際行為。然而，兩者往往混為一談。
有時(shí)，AI被視為一個(gè)單一的整體，一種權力的象征，而不僅僅是真實(shí)的技術(shù)；有時(shí)，它又被描述為歷史罪惡的頂點(diǎn)。因此，AI否認的政治屬性與AI憤怒雖然相互矛盾，但又常常重疊。
以史為鑒，人們有充分的理由對正在發(fā)展中的AI持謹慎態(tài)度。回顧過(guò)去，2010年代是各種政治民粹主義特別繁榮的時(shí)期。2017年，道格拉斯·魯什科夫（Douglas Rushkoff）在他的著(zhù)作《向谷歌巴士扔石頭》（Throwing Rocks at The Google Bus）中捕捉（并頌揚）了針對社會(huì )數字化帶來(lái)的變革的民粹主義憤怒。“滾開(kāi)，谷歌！”是柏林克羅伊茨貝格地區的一個(gè)活動(dòng)組織，也是一個(gè)網(wǎng)絡(luò )熱梗，旨在發(fā)泄對谷歌的不滿(mǎn)。畢竟對有些人來(lái)說(shuō)，柏林田園牧歌式的生活方式建立在廉價(jià)的租金和音樂(lè )上，而谷歌的存在會(huì )擾亂這種閑適的生活。
AI憤怒是反建制的意識形態(tài)的產(chǎn)物，但不獨屬于某一個(gè)意識形態(tài)。激進(jìn)右翼、進(jìn)步左翼和主流中間派找到了共同點(diǎn)，他們都堅定地反對挑戰他們偏好的現狀的浪潮。
對于反動(dòng)派來(lái)說(shuō)，對抗AI關(guān)乎人類(lèi)靈魂的存亡，這種珍貴的思想火花正被計算機世俗化的浪潮所消滅，因此必須進(jìn)行精神上的戰斗。他們對高級AI侵蝕人類(lèi)自我形象的看法和那些對日心說(shuō)、進(jìn)化論、墮胎、克隆、疫苗、跨性別主義、體外受精等議題的反對意見(jiàn)如出一轍。他們捍衛的與其說(shuō)是主權或機構，不如說(shuō)是尊嚴。那強調“人性”的火花——在亞伯拉罕神的形象中閃爍——正被現代技術(shù)熄滅，因此這場(chǎng)戰斗不僅是神圣的，而且是神性的。
相反，對于左翼來(lái)說(shuō)，受到人工智能威脅的火花是活力（總是帶有政治色彩，通常與職業(yè)保障有關(guān)），而中間派對人工智能的怒氣主要出于歷史原因，在他們的想象中，人類(lèi)的處境介于“暫時(shí)被圍剿”和“快要走到盡頭”之間。
這三派人士至少有三點(diǎn)共同點(diǎn)：共同的大義——捍衛自己偏好的人類(lèi)例外論*前景；共同的信仰——認為自己必須為了社會(huì )的自我表征“打敗AI”；最后，通過(guò)反算法進(jìn)程的自我定義，他們將得到磨練，獲得文化立場(chǎng)上更大的話(huà)語(yǔ)權。
譯者注：人類(lèi)例外論（human exceptionalism）：認為人類(lèi)在理性、意識、情感、自由意志等諸方面高級于其他物種。
討價(jià)還價(jià)
癥狀性陳述：AI是一種強大的力量，可以、應該并且將通過(guò)以人為本的設計倫理和民主與技術(shù)官僚的對齊來(lái)控制，這些對齊與顯而易見(jiàn)的共識共享價(jià)值觀(guān)一致，通過(guò)政策制定和主權立法實(shí)現。人工智能對現代政治和法律制度在信息、技術(shù)和認識論基礎的挑戰是暫時(shí)的。這些異常是可以通過(guò)文化干預來(lái)緩解的，比如，通過(guò)傳統的文化平臺針人工智能制造者進(jìn)行干預。
如果一個(gè)人堅持認為機器智能只是最新的數字工具，就自然會(huì )想到通過(guò)政策治理它。然而，如果人工智能比這更為現象級，就像互聯(lián)網(wǎng)或第一臺計算機的問(wèn)世——或者更深層次地說(shuō)，目前我們所面對的種種危機只是智能人工進(jìn)化的一個(gè)階段——那么，通過(guò)“政策”馴服AI可能充其量只是理想化的。
退一步說(shuō)，即使國家在短期內成功管控了AI公司，也不代表人工智能本身被長(cháng)期控制。從同等的破壞力和威力層面，核武器的管控或許可以作為一個(gè)先例。核武器是已知的實(shí)體，可以通過(guò)國際條約進(jìn)行治理，因為其破壞效果是明確的（即使其地緣政治效果不是）。然而，AI不是已知實(shí)體。人們很難真正理解它的影響，更不用說(shuō)更深層次的問(wèn)題，AI是什么。因此，再良心、再精心設計的干預政策都會(huì )產(chǎn)生意想不到的后果。
對人工智能問(wèn)題產(chǎn)生的討價(jià)還價(jià)心理，是政治和法律機構的首選姿態(tài)，對于他們來(lái)說(shuō)，復雜問(wèn)題可以簡(jiǎn)化為權利、責任、判例法、政策白皮書(shū)和咨詢(xún)委員會(huì )。但這也是科技界自身“理性中心”最終達成的共識。這種方法用“倫理”、“以人為本”和“對齊”的語(yǔ)言表達。
世界頂級的AI政策和研究機構，斯坦福大學(xué)人工智能中心就叫做“以人為本的人工智能”。除了致敬人文主義和人本主義，這種方法依賴(lài)于對當下的政治和長(cháng)期技術(shù)進(jìn)化之間關(guān)系的脆弱假設。
對于人工智能討價(jià)還價(jià)而言，西方的"倫理"——一種基于法律個(gè)人主義和歐洲基督教哲學(xué)世俗化的框架——被視為引導人工智能走向社會(huì )利益的充分必要手段。實(shí)際上，人工智能倫理既包含合理的見(jiàn)解，也包含無(wú)意義的洞察，但它受限于這樣一種假設: 認為不良結果是一部分目的不端的人故意使然的結果。這種以“一切都是有人故意作怪”的觀(guān)點(diǎn)看似符合邏輯， 但卻流于表面。此外，這種倫理學(xué)提出的補救方法旨在“與社區合作”或召開(kāi)公民大會(huì )，以調查民眾的需求，并將其編入索引并納入議程，仿佛對人工智能未來(lái)的控制是線(xiàn)性的，只需要變得更高質(zhì)量民主化即可。
對“技術(shù)解決主義”有許多批評——有些提出得很好，有些則完全不然。然而，政治解決主義——即假定將某些不適合當前事件時(shí)間周期的事物“政治化”，并將其從屬于現有或構想中的政策——同樣糟糕，甚至更糟。觀(guān)察國會(huì )或副總統，人們并不會(huì )期待他們作為肩負希望的未來(lái)領(lǐng)航員。當國會(huì )召開(kāi)公開(kāi)會(huì )議，留下他們嚴肅探討人工智能的畫(huà)面時(shí)，本質(zhì)上是想向民眾表達出被票選出的代表們是掌控著(zhù)人工智能的 —— 或者說(shuō)，是為了自我說(shuō)服。前提是, 我們所知的現代政府是即將到來(lái)的變革的執行者，而不是一種將被改革、甚至被吸收的制度。無(wú)論好壞，后一種情況更為可信。
除了立法，人工智能討價(jià)還價(jià)心態(tài)還意味著(zhù)將人工智能與“人類(lèi)價(jià)值觀(guān)”對齊，這種做法我在前文已經(jīng)質(zhì)疑過(guò)。其假設是，機器智能的迭代將向盡可能擬人化和社會(huì )化的方向來(lái)引導，成為用戶(hù)的鏡像版本，一種令人信服的技術(shù)。
盲目崇拜人類(lèi)價(jià)值觀(guān)是自然而然的、可通過(guò)方法論發(fā)現和付諸行動(dòng)的、具有建設性的和普遍適用的。然而，這種盲目是對齊人類(lèi)文明和人工智能的脆弱之處。它建立在這樣一種想法之上：有一群人可以代表全人類(lèi)提出需求，并且能將人工智能帶來(lái)的顛覆性改變以最能接受的方式帶給盡可能多的人。
這種想法的提出者在潛意識里認為是人工智能無(wú)條件愿意配合。也就是說(shuō)，這種悲傷階段堅持認為，如果我們開(kāi)始與未來(lái)談判，那么未來(lái)將別無(wú)選擇，只能與我們折中妥協(xié)。如果真是這樣就好了。
抑郁
癥狀性陳述：由于人工智能貪婪的本質(zhì)，人與人之間的競爭變得激化，此外，多重危機的潛在挑戰（當代人工智能是其中的一個(gè)癥狀）以及人工智能自身生產(chǎn)方式所直接帶來(lái)的政治和經(jīng)濟矛盾（可通過(guò)成熟的政治經(jīng)濟學(xué)術(shù)語(yǔ)理解），都暗示著(zhù)已經(jīng)來(lái)不及拯救人類(lèi)免于存在危機乃至滅絕。回溯歷史規律，災難性的未來(lái)已是木已成舟。
也許僅僅是提到“人工智能”，人類(lèi)就已經(jīng)準備好迎接自己的滅絕。與愛(ài)人親吻擁抱，儲備糧食并準備迎接超級智能的到來(lái)。這個(gè)惡意的、癡迷于人類(lèi)的超級智能將逐個(gè)對人類(lèi)進(jìn)行審判，并據此決定每個(gè)人的命運。
按照這種恐懼的說(shuō)法，人工智能最終可能會(huì )導致數百萬(wàn)甚至數十億人死亡。它也可能導致數十億的生育率下降，因為在一個(gè)“完全自動(dòng)化”的社會(huì )中，全球生育率會(huì )遠低于死亡率，留下一個(gè)滿(mǎn)是空房子的星球，只有大約20億人類(lèi)居住在一個(gè)更安靜、更綠色、更老齡化和更機器人化的地球上。與馬爾薩斯主義相反，這種人口下降情景是源于共同富裕而非擴大的貧困。也許這最終會(huì )成為人工智能在緩解氣候變化的主要貢獻之一。烏托邦還是反烏托邦，取決于觀(guān)察者的視角。
對于人工智能末日論者（這個(gè)詞有時(shí)帶有自豪感，有時(shí)則帶有貶義，他們的重點(diǎn)是保護未來(lái)免受迫在眉睫、可能發(fā)生或不可避免的人工智能災難）來(lái)說(shuō)，競相闡述極端和令人沮喪的結果會(huì )帶來(lái)某種滿(mǎn)足感。蠢人才會(huì )滿(mǎn)懷希望。
這場(chǎng)精英預備運動(dòng)的成員以開(kāi)玩笑口吻談?wù)揜oko的 basilisk思想實(shí)驗和類(lèi)似的思想：末世論、道德化、自我恭維。末日論話(huà)語(yǔ)吸引了許多與人工智能行業(yè)密切相關(guān)的人，因為它暗示了一種想法：如果人工智能真的讓人類(lèi)瀕臨滅絕。那么它的掌控者一定是非常重要的人物。我們的未來(lái)掌握在這些終極角色的手中。誰(shuí)不會(huì )相信這種論調呢?
科技文化戰的另一面。還有一種常見(jiàn)的人工智能抑郁類(lèi)型來(lái)自法律、政府和人文科學(xué)的學(xué)術(shù)機構的綜合發(fā)言。他們將人工智能視為對自身作為學(xué)術(shù)機構所擁有的權力和責任的威脅，包括對社會(huì )的監管權和敘事權。從《大西洋月刊》到《邏輯》，從哈佛法學(xué)院的伯克曼克萊因中心（Berkman Klein Center ）到蘭德公司，他們想象自己是與權力作斗爭的民主弱者， 卻從未想過(guò)他們所擁有的根深蒂固的文化和制度地位，比起來(lái)自加州的這些科技企業(yè)尚未成雛形的篡權，自己才是真正無(wú)可撼動(dòng)的權力機構。
對其他陣營(yíng)來(lái)說(shuō)， 高度末日論的基本原則可能與尼克·博斯特羅姆（Nick Bostrom）以及牛津大學(xué)人類(lèi)未來(lái)研究所有關(guān) -—— 但他們原本關(guān)于存在風(fēng)險的研究明確聚焦于低概率災難，而現在，低概率部分被擱置一旁，轉而支持不僅是高概率失控的人工智能，而且是終將失控的超智能人工智能。
為什么會(huì )出現這種轉向? 也許是因為終將失控的超智能人工智能在流行話(huà)語(yǔ)中已經(jīng)是一個(gè)重要角色，所以把這項詞語(yǔ)納入議程更多是出于對它的不可避免性的考慮，而非遙遠性。對此，博斯特羅姆要感謝雷·庫茲韋爾（Ray Kurzweil），在大多數人認真對待人工智能之前，他多年來(lái)一直將相互加強的技術(shù)融合觀(guān)察與福音派超人類(lèi)主義（evangelical transhumanist）超越結合在一起。抑郁(或興奮)是對預想中的現實(shí)的理性反應，即使預定論并不是對該現實(shí)的理性解釋。
在不可避免和可避免之間的這種搖擺，可能是理解抑郁形式的人工智能悲傷的關(guān)鍵。回想一下，另一種類(lèi)型的抑郁是躁郁癥，表現為在極度興奮和絕望之間來(lái)回波動(dòng)的傾向。政治中的馬蹄鐵理論指的是極左和極右政治立場(chǎng)以可預測和驚人的方式趨同的傾向。人工智能抑郁的馬蹄鐵理論將未來(lái)的彌賽亞式悲傷和莊嚴狂喜之間的波動(dòng)視為一體，常常在同一個(gè)人、同一個(gè)博客、同一個(gè)亞文化中表現出來(lái)，那些為人工智能超越即將到來(lái)的信息鼓掌的觀(guān)眾，當救贖的承諾轉變?yōu)槟┤盏某兄Z時(shí)，會(huì )鼓掌得更加熱烈。
接受
癥狀性陳述：機器智能的出現可能是超越傳統認知范圍的、更深層次力量所推動(dòng)的進(jìn)化；長(cháng)遠看，這種技術(shù)對地球的影響將無(wú)法用語(yǔ)言描述。被迫接受，也是一種破罐子破摔。接受在當下有限的敘事中認知未來(lái)。不同于其他心態(tài)著(zhù)眼于人工智能所帶來(lái)的混亂，這種心態(tài)看到的則是必然性。
根據原有定義，接受是悲傷五個(gè)階段中最后一個(gè)階段，但這不等同于最終形態(tài)。此外，這種心態(tài)也不一定優(yōu)于其他心態(tài)。接受什么？從其他階段的心態(tài)來(lái)看，這可能意味著(zhù)接受某種不真實(shí)的東西，某種非人化的東西，某種主宰的東西，某種預示厄運的東西，某種需要嚴厲批評的東西。或者接受“機器智能進(jìn)化和自然智能進(jìn)化受到同等程度的政治控制”這類(lèi)的反常識。其“人工性”是真實(shí)的、基本的、多形態(tài)的，也是智能復雜化的一部分，正如已故的丹尼爾·丹尼特（Daniel Dennett）所說(shuō)，從“細菌到巴赫，在往復”，這種復雜化驅動(dòng)著(zhù)人類(lèi)社會(huì )，而不是由它們驅動(dòng)。
這種心態(tài)的內部核心矛盾是這樣的：人工智能出現是人類(lèi)文明進(jìn)化所帶來(lái)的必然嗎？如果是的，那么人類(lèi)的進(jìn)化是否其實(shí)是一種超出傳統宇宙觀(guān)的生物技術(shù)進(jìn)化過(guò)程呢？那么，我們的文化是物質(zhì)世界的原因還是結果？此外，人類(lèi)通過(guò)語(yǔ)言對智能的人工化（如 LLM）有多少成分是真正在創(chuàng )造機器智能，又有多少成分是在發(fā)現智能的通用品質(zhì)，是隨便誰(shuí)只要到了這一步就都能發(fā)現的嗎？
如果是后者，那么人工智能的出現就不再那么偶發(fā)，不再那么有迎合社會(huì )主流價(jià)值的嫌疑。如果說(shuō)智能所具有的通用品質(zhì)是一個(gè)個(gè)碎片，那么偉大的頭腦就是縫合這些碎片的必要條件，但很少有人能做到這一點(diǎn)。其發(fā)明者不再是普羅米修斯式的超級天才，而只是那些在有啟示性的關(guān)鍵時(shí)刻恰好在場(chǎng)的人。
抱有接受心態(tài)的人收到的困擾，不僅是關(guān)于這些矛盾本身，更是這些矛盾所引申的、更深遠的問(wèn)題。如果真要闡明這些核心矛盾，我們需要回溯多久的技術(shù)歷史才能證明，人工智能的出現并非偶發(fā)性，而是一塊塊碎片恰好在此刻完成了拼接。
從微積分到數據中心，和這些復雜技術(shù)一樣，人工智能是由許多之前就存在的、更簡(jiǎn)單的技術(shù)構建的。很大一部分的這些技術(shù)都是偶然的，但是，這些微小的偶發(fā)隨著(zhù)時(shí)間的推移會(huì )組成更宏觀(guān)的結構。偶然會(huì )不可避免地匯成唯一的確定。
如果你有恰好有計算機，有對生物神經(jīng)網(wǎng)絡(luò )的理解，加上足夠的數據來(lái)標記語(yǔ)言形態(tài)，加上廉價(jià)且快速的硬件來(lái)運行自遞歸模型，并且有任何數量的開(kāi)發(fā)人員在其上工作，那么某種真正意義上的人工化的智能在無(wú)生命的基質(zhì)上能真正實(shí)現嗎？這并不一定得是現有的AI或者類(lèi)似的東西，而是那種最終的、真正的智能。
對于 AI 接受階段，最重要的自我安慰話(huà)術(shù)就是“必然性”。因為別無(wú)選擇，所以世界只能是現在的樣子。這種如釋重負的感覺(jué)到底是接受還是順從？這是意圖的人類(lèi)能動(dòng)性（現在是結果）與行星過(guò)程（現在是原因）之間因果關(guān)系的哥白尼式反轉嗎——還是這是對這些結果的過(guò)于人性化的自然化，認為它們是神定的？根據庫布勒-羅斯的悲傷五階段理論，這是否是一個(gè)悲傷者的接受？究竟在為誰(shuí)悲傷？他們自己的存在目的？
對悲傷的創(chuàng )傷反應是相信現狀必然如此。因為沒(méi)有選擇的余地，所以不會(huì )有罪惡感；因為別無(wú)他選，所以無(wú)需失望。但這并不是認識到現在不是獨立于過(guò)去和未來(lái)的唯一方式，即使看似非常有力的決定也是在決定性的約束下做出的。
我們可以稱(chēng)之為"非悲傷"。它得出的結論非常不同。不是說(shuō)我們現在擁有的人工智能形式是不可避免的，而是我們現在擁有的人工智能肯定不等同于未來(lái)人工智能的形式。教訓是不要將現在物化，既不作為結果，也不作為原因。
不再悲傷
悲傷的每個(gè)階段不僅表達了人們對人工智能及其未來(lái)的憂(yōu)慮，也顯示了人們的洞察力，即使其主張有時(shí)偏離目標。當我們幾年后再回顧這些年的想法時(shí)，可能會(huì )看到不同的東西。“要是我們當初聽(tīng)從了卡桑德拉（Cassandras）的警告就好了!” 或者，“他們到底在想什么，為什么要說(shuō)這些胡話(huà)?”有一些“非悲傷”的方式來(lái)思考人工智能哲學(xué)，既不樂(lè )觀(guān)也不悲觀(guān)，既不烏托邦也不反烏托邦。它們強調將人工智能的“哥白尼創(chuàng )傷”與對“生命”、“技術(shù)”和“智能”的新理解相協(xié)調。
探索這些術(shù)語(yǔ)之間不斷崩塌的界限是我指導的安提基特拉研究計劃 （Antikythera research program）的一部分工作，該計劃由伯格魯恩研究所（Noema的出版商）孵化。特別是我們與天體生物學(xué)家和理論物理學(xué)家薩拉·沃克（Sara Walker）的合作，她在Noema上發(fā)表了一篇名為“人工智能就是生命”（AI Is Life）的佳作。這里的“生命”不是單個(gè)有機體的獨特品質(zhì)，而是指數十億年來(lái)的進(jìn)化譜系過(guò)程。但“技術(shù)”也在進(jìn)化，它在本體論上并不與生物進(jìn)化分離，而是其中的一部分，從核糖體到機器人技術(shù)。
任何技術(shù)的存在都是因為使其成為可能的生命形式存在——但同時(shí)，技術(shù)也使某些沒(méi)有它們就不可能存在的事物存在。在沃克看來(lái)，這一切都關(guān)乎于“選擇”——這當然包括人類(lèi)，人造物，當然也包括創(chuàng )造人類(lèi)的東西。她寫(xiě)道：“就像我們將一些感官知覺(jué)外包給我們幾個(gè)世紀以來(lái)建立的技術(shù)一樣，我們現在正在將我們自己思維的一些功能外包出去。”
詹姆斯·拉夫洛克（James Lovelock）在寫(xiě)他的最后一本書(shū)《新星紀:超智能時(shí)代的到來(lái)》（ Novacene: The Coming Age of Hyperintelligence）時(shí)知道自己快要死了，他以一章可能會(huì )讓一些更具神秘主義傾向的蓋亞理論（Gaia theory）崇拜者感到震驚的內容結束了自己一生的工作。他平靜地報告說(shuō)，我們所知道的地球生命可能正在讓位給非生物形式的生命或智能，就他而言，這很好。他直接告訴我們，他很高興在知道人類(lèi)作為復雜智能基質(zhì)的時(shí)代正在讓位于其他東西的情況下離開(kāi)這個(gè)塵世—— 不是作為超越，不是作為魔法，不是作為升級，而只是同一持續進(jìn)行的選擇、復雜化和聚合過(guò)程中的一個(gè)相變，這個(gè)過(guò)程就是“生命”，就是我們。
我認為，使拉夫洛克對他的結論感到平靜的部分原因是，無(wú)論人工智能的哥白尼創(chuàng )傷意味著(zhù)什么，它并不意味著(zhù)人類(lèi)是無(wú)關(guān)緊要的，是可被取代的，或者是在與自己的創(chuàng )造物作戰。先進(jìn)的機器智能并不意味著(zhù)我們的滅絕，既不是高尚的退位，也不是蟲(chóng)子在虛空中尖叫。
然而，這確實(shí)意味著(zhù)人類(lèi)智能并不是人類(lèi)智能一直以為的那樣。它既是我們擁有的東西，但更多地是擁有我們的東西。它不僅存在于個(gè)體的大腦中， 更多地存在于它們之間持久的交流結構中，例如，以語(yǔ)言的形式。
像“生命”一樣，智能是模塊化的、靈活的和可擴展的，延伸到亞細胞生命機器的巧妙工作，貫穿進(jìn)化時(shí)間的深處。它還延伸到更大的聚合體， 我們每個(gè)人都是其中的一部分，也是一個(gè)實(shí)例。沒(méi)有理由相信故事會(huì )或應該以我們結束；末世論是無(wú)用的。智能的進(jìn)化不會(huì )在一個(gè)改造地球的游牧靈長(cháng)類(lèi)物種身上達到頂峰。
這已經(jīng)是最好的消息。像拉夫洛克一樣，我感受到的不是悲傷。
021yin.com/the-five-stages-of-ai-grief/
[1].
[2].
[3].
[4].
