AI全球治理的機遇與挑戰

來(lái)源：環(huán)球時(shí)報

本報記者 馬俊

人工智能（AI）飛速發(fā)展帶來(lái)的影響，已遠遠超出常規技術(shù)領(lǐng)域，對人類(lèi)社會(huì )和全球政治格局都帶來(lái)了巨大沖擊。該如何看待AI時(shí)代的機遇與挑戰？環(huán)球時(shí)報研究院吉印通科普中國智庫，日前舉辦“環(huán)球前沿科技論壇·人工智能”專(zhuān)題研討會(huì )。本次研討會(huì )邀請國內多領(lǐng)域權威專(zhuān)家以“賦能全球南方，中國人工智能的經(jīng)驗與機遇”為主題對AI技術(shù)發(fā)展面臨的機遇與挑戰，以及如何賦能全球南方國家的發(fā)展等議題進(jìn)行了深入討論。

ic

大模型潮流帶來(lái)的“3+2”挑戰

目前談到AI繞不開(kāi)大模型，談到大模型則繞不開(kāi)OpenAI引領(lǐng)的技術(shù)突破。在全球火爆的大模型潮流面前，又有哪些值得注意的挑戰呢？

中國國家創(chuàng )新與發(fā)展戰略研究會(huì )副會(huì )長(cháng)、中國科學(xué)院大學(xué)教授呂本富表示，OpenAI引領(lǐng)的大模型潮流帶來(lái)的風(fēng)險是“3+2”，即3個(gè)內部性挑戰、兩個(gè)外部性挑戰。其中內部性挑戰首先是大模型可能加大了社會(huì )偏見(jiàn)。很多研究都發(fā)現，由于訓練材料的選擇不當，AI反而加深了對少數族裔的種族歧視。其次是所謂的機器幻覺(jué)，也就是AI“一本正經(jīng)地瞎說(shuō)”。第三個(gè)是更重要的本質(zhì)問(wèn)題：未來(lái)AI水平超過(guò)人類(lèi)怎么辦？這就是所謂“超級對齊”問(wèn)題。其中第三個(gè)挑戰是公眾最害怕的，因為各種科幻電影早就有過(guò)預警：在A(yíng)I超過(guò)人類(lèi)后，可能存在人類(lèi)變成AI附屬品的風(fēng)險。

除了三個(gè)內部性挑戰以外，AI還有兩個(gè)外部性挑戰，即產(chǎn)生的社會(huì )影響。首先是AI可能加劇了貧困和就業(yè)壓力。研究顯示，AI技術(shù)是有史以來(lái)第一次出現技術(shù)進(jìn)步產(chǎn)生的崗位少于消失崗位的情況。其次是所謂“偽造問(wèn)題”，如今AI技術(shù)已被用于偽造文本、偽造圖像以及更危險的偽造場(chǎng)景，它們給社會(huì )秩序帶來(lái)很大挑戰，未來(lái)對于A(yíng)I造假的識別和治理將耗費很大人力物力。

中國科學(xué)院計算技術(shù)研究所研究員張云泉認為，大模型對生產(chǎn)力帶來(lái)革命性變化，和歷次的技術(shù)革命不一樣。“以往的技術(shù)革命只是換掉了人的工具，例如把過(guò)去的駕馬車(chē)換成了現在的開(kāi)汽車(chē)或者開(kāi)飛機，而大模型帶來(lái)的技術(shù)革命是把人換掉了，這是最可怕的。”張云泉還表示，AI技術(shù)革命帶來(lái)的直接結果之一是富人更加富了，只要機器、電力和算力就可以開(kāi)展生產(chǎn)、掙錢(qián)，會(huì )讓財富進(jìn)一步集中在富人手里，因此如何對于A(yíng)I技術(shù)進(jìn)步帶來(lái)的財富分配問(wèn)題進(jìn)行調整非常重要。此外，AI技術(shù)進(jìn)步還可能導致產(chǎn)業(yè)人口紅利價(jià)值的消失，發(fā)達國家可能不需要用全球南方國家的勞動(dòng)力來(lái)降低生產(chǎn)成本，用AI驅動(dòng)的機器生產(chǎn)可能更便宜，生產(chǎn)效率更高，發(fā)達國家和發(fā)展中國家之間的產(chǎn)業(yè)轉移也將減少。

北京郵電大學(xué)人機交互與認知工程實(shí)驗室主任劉偉表示，當前大模型帶來(lái)的技術(shù)挑戰之一是機器幻覺(jué)，它本質(zhì)上是源于神經(jīng)網(wǎng)絡(luò )的兩個(gè)函數，從原理上注定機器幻覺(jué)的問(wèn)題無(wú)法消除。“我反對只告訴公眾大模型多么厲害，不說(shuō)大模型的缺點(diǎn)是什么、存在的危險是什么。五角大樓就三令五申地強調，將大模型用在軍事領(lǐng)域需要進(jìn)行嚴格審查，他們知道其中的危險和缺點(diǎn)，可能會(huì )造成不可挽回的損失。”

中國電信首席科學(xué)家畢奇以自動(dòng)駕駛為例說(shuō)，現在大模型最關(guān)鍵的技術(shù)是基于統計概率，原理上是針對統計的大概率事件做出判斷。但無(wú)論是開(kāi)飛機還是開(kāi)汽車(chē)時(shí)，都有可能遭遇小概率事件，這就導致基于大模式驅動(dòng)的自動(dòng)駕駛技術(shù)遇到小概率事件時(shí)可能會(huì )出現問(wèn)題，這個(gè)問(wèn)題怎么解決現在還需要大量探索，如果不周全，可能會(huì )對自動(dòng)駕駛技術(shù)的未來(lái)應用產(chǎn)生比較大的影響。

AI很可能導致空前的數字?zhù)櫆?/p>

目前各界都承認AI技術(shù)對于提高社會(huì )生產(chǎn)力的革命性推動(dòng)作用，但當前大數據驅動(dòng)的AI技術(shù)存在技術(shù)要求高、整體投入大的特征，很可能成為大多數國家都跨不過(guò)去的數字?zhù)櫆?。?/p>

清華大學(xué)國際關(guān)系學(xué)系教授、中美關(guān)系研究中心主任陳琪表示，“在工業(yè)革命競爭時(shí)代確實(shí)存在特殊條件下的后發(fā)優(yōu)勢少數案例，即先發(fā)國家進(jìn)行技術(shù)和產(chǎn)業(yè)探索實(shí)踐，后發(fā)國家借鑒先發(fā)國家的成功經(jīng)驗，后發(fā)國家甚至可直接抄作業(yè)而不需要付出巨大的探索成本，因而具有了某種后發(fā)優(yōu)勢，少走冤枉路。但在知識、資本和技術(shù)密集的數字經(jīng)濟時(shí)代，尤其是具有顛覆性創(chuàng )新的AI技術(shù)出現后，我覺(jué)得可能會(huì )出現當今世界絕大多數國家都無(wú)法跨過(guò)去的數字?zhù)櫆?，即憑借AI的技術(shù)壟斷來(lái)獲得經(jīng)濟發(fā)展的資源壟斷性攫取，歷史性地鎖定發(fā)展不均衡的局面，后發(fā)國家面臨被收割治理主權和喪失未來(lái)發(fā)展動(dòng)能的巨大風(fēng)險。”在A(yíng)I領(lǐng)域，這種隱然風(fēng)險和深刻擔憂(yōu)不單單適用于西方對全球南方的壓榨，美國的歐洲盟友以及澳大利亞、新西蘭、日本幾乎都存在類(lèi)似困境。“歐洲持續出臺AI治理的法律法規，其實(shí)也有保護自身不被美國收割的政策考慮。”

一名與會(huì )專(zhuān)家表示，對于很多全球南方國家來(lái)說(shuō)，想要發(fā)展AI技術(shù)的基本條件都沒(méi)有。例如非洲國家近一半都沒(méi)有本國的數據中心，相關(guān)數據要存在國外。他表示，當發(fā)展大數據驅動(dòng)的AI技術(shù)時(shí)，如果連大數據都不掌握在自己國家手里，而是存放在別國領(lǐng)土，“其實(shí)就成為數據意義上的殖民地”。

北京師范大學(xué)法學(xué)院博士生導師、中國互聯(lián)網(wǎng)協(xié)會(huì )研究中心副主任吳沈括認為，科技巨頭和富裕國家在A(yíng)I領(lǐng)域的壟斷局面，“某種意義上基本已經(jīng)形成了，而且很難在整體上扭轉”。他表示，客觀(guān)地說(shuō)，整個(gè)當代AI技術(shù)在理念構想和供應鏈產(chǎn)業(yè)鏈層面，美國依然具有突出的優(yōu)勢。此外，從業(yè)者很清楚，現在A(yíng)I技術(shù)發(fā)展到現在的態(tài)勢，跟全球開(kāi)源社區環(huán)境有很大的關(guān)系。“如果美國突然加大對于開(kāi)源環(huán)境的干預力度，對其他國家會(huì )帶來(lái)很大的沖擊，這是一個(gè)需要及早研判的重大問(wèn)題。”

不過(guò)與會(huì )專(zhuān)家提到，AI被集中掌握在部分發(fā)達國家手里也存在特殊的風(fēng)險。例如某個(gè)國家或組織無(wú)法研發(fā)足夠先進(jìn)的算法，但可以通過(guò)對訓練數據“投毒”，起到破壞AI的效果。因此當前AI發(fā)展的不對稱(chēng)局面也是風(fēng)險的來(lái)源之一，可能在極端情況下引起進(jìn)一步的不穩定，這是值得關(guān)注的問(wèn)題。

呂本富表示，AI技術(shù)的發(fā)展的確帶來(lái)了前所未有的安全問(wèn)題。一個(gè)國家以前有地理邊界，現在還有思想邊界。“AI大模型把國家的思想邊界打穿了。原來(lái)不同的文明會(huì )有各自的神明，但現在不同國家和地區的民眾向大模型提問(wèn)時(shí)，回答的數據來(lái)源都掌握在同樣的機構手里。”此外AI技術(shù)的發(fā)展還可能突破國家的能力邊界。AI控制的機器人能在真實(shí)的物理環(huán)境下執行各種任務(wù)，但如果AI被控制在少數西方國家手里，那么在未來(lái)需要時(shí)，可能會(huì )出現利用AI遠程控制他國汽車(chē)實(shí)施有組織暴力沖撞等行動(dòng)。因此在當代AI技術(shù)面前，一個(gè)國家需要同時(shí)守住地理邊界、思想邊界和能力邊界這三個(gè)邊界，才能真正確保自身安全，但能做到這幾點(diǎn)的國家太少了。

應對AI全新挑戰成重大課題

張云泉表示，從趨勢上看，當代AI技術(shù)存在主權屬性，并不是無(wú)國界的，“雖然看著(zhù)美國提供開(kāi)源環(huán)境，其他國家可以自由訪(fǎng)問(wèn)，但是未來(lái)一旦實(shí)現完全壟斷之后，還有沒(méi)有可能給你公平的開(kāi)放環(huán)境？有沒(méi)有可能利用其優(yōu)勢對你產(chǎn)生不好的影響，包括讓你對美國的AI技術(shù)產(chǎn)生依賴(lài)性后，影響你整個(gè)社會(huì )的價(jià)值觀(guān)、文化、歷史、輿情、科技發(fā)展？”他認為，無(wú)論是中東黎巴嫩的尋呼機爆炸事件，還是最近吉印通絡(luò )空間安全協(xié)會(huì )點(diǎn)名英特爾公司CPU存在的漏洞問(wèn)題，都表明這樣的擔憂(yōu)并非杞人憂(yōu)天。

因此張云泉提出，中國有必要在發(fā)展AI時(shí)推動(dòng)建設“主權級大模型”，它是一個(gè)國家AI水平的最高點(diǎn)、基礎大模型的基礎，也可以被形容為“根模型”。“主權級大模型”將深刻影響一個(gè)國家的科技競爭力，涉及軍事、經(jīng)濟、政治等多方面能力。因此相關(guān)技術(shù)的全鏈條，包括大數據、技術(shù)人員、運營(yíng)等要素需要全部實(shí)現國產(chǎn)可控。“這個(gè)模型是國家的重大基礎設施，因為消耗的電力非常龐大，需要放到能源富集的地方。”他還建議說(shuō)，在“主權級大模型”建設完成后，中國可以向國外提供相關(guān)服務(wù)。“可以為發(fā)展中國家或者沒(méi)有能力研制本國主權大模型的國家和地區提供定制化服務(wù)，保證他們的安全，這也是中國可以為全球南方做的貢獻。”

畢奇表示，美國在發(fā)展AI時(shí)，試圖借助禁止出口高性能芯片等限制算力的方法，保持其在這個(gè)方向的優(yōu)勢，這是一個(gè)零和游戲的思維。其實(shí)兩個(gè)國家在A(yíng)I的產(chǎn)業(yè)鏈方面，有極強的互補關(guān)系和很大的共贏(yíng)空間。“如果中國只是被動(dòng)地趕緊去發(fā)展國產(chǎn)算力，我覺(jué)得從《孫子兵法》的商業(yè)策略角度來(lái)講，是一個(gè)不太好的方法，因為不需要在別人強的地方去硬拼，而是可以選擇其他自己很有優(yōu)勢的互補領(lǐng)域，進(jìn)行突破。現在在A(yíng)I產(chǎn)業(yè)鏈上，有美國強的地方，也有中國強并互補的地方，為什么不繼續強化中國在這方面領(lǐng)先的優(yōu)勢，最后雙方各取所長(cháng)，互補共贏(yíng)，通過(guò)談判來(lái)實(shí)現各自的利益最大化呢？”

劉偉介紹說(shuō)，當前在A(yíng)I研究領(lǐng)域分了多個(gè)級別，第一級是簡(jiǎn)單交互，現在已經(jīng)實(shí)現了一定程度上的簡(jiǎn)單人機交互；第二級是推理，底層邏輯是基于數學(xué)和物理知識的推理。但現在用于A(yíng)I領(lǐng)域的邏輯推理系統并不完備，甚至整個(gè)數學(xué)體系仍需要不斷繼續完善，同時(shí)對于物理學(xué)的認識也不完備。在這兩個(gè)領(lǐng)域的知識都不完備的情況下，AI通過(guò)統計概率和一定的數學(xué)規則，得出的推理過(guò)程和人類(lèi)的推理非常不一樣。因為人類(lèi)的推理除了數理、物理還有心理、倫理、法理、管理、哲理等，所以現在A(yíng)I的推理還是非常簡(jiǎn)化的過(guò)程，從這個(gè)角度看，AI技術(shù)還有很大的改進(jìn)空間。

多名與會(huì )專(zhuān)家也提到，AI的機遇、風(fēng)險和挑戰本質(zhì)上是全球性的，加強國際合作具有重要意義。中方主張在吉印通國框架內加強AI規則治理，反對利用AI技術(shù)優(yōu)勢傳播虛假信息，干涉他國內政，危害他國主權，惡意阻撓他國技術(shù)發(fā)展。陳琪表示，AI技術(shù)實(shí)力的差距帶來(lái)了全球南方國家治理話(huà)語(yǔ)權不足的問(wèn)題。近年來(lái)七國集團、二十國集團、全球AI合作伙伴關(guān)系、經(jīng)濟合作與發(fā)展組織達成了多個(gè)AI治理的文本，但其中明顯缺少全球南方的聲音。2023年10月在第三屆“一帶一路”國際合作高峰論壇開(kāi)幕式上，中方宣布《全球人工智能治理倡議》，中方提出的系列務(wù)實(shí)倡議和舉措旨在幫助全球南方國家提高競爭力和話(huà)語(yǔ)權，反對AI治理的小圈子和意識形態(tài)偏見(jiàn)，促進(jìn)人工智能更好賦能可持續發(fā)展和增進(jìn)全人類(lèi)共同福祉。▲