AI“智”與“治”
今年以來(lái)，人工智能在全球范圍內可以說(shuō)掀起了一輪接一輪的熱潮。
近期，2024年世界人工智能大會(huì )在上海圓滿(mǎn)落幕，大會(huì )發(fā)表的《人工智能全球治理上海宣言》指出：人工智能正在引領(lǐng)一場(chǎng)科技革命，深刻影響人類(lèi)生產(chǎn)生活。隨著(zhù)人工智能技術(shù)快速發(fā)展，我們也面臨前所未有的挑戰。
不可否認，人工智能已經(jīng)走到了發(fā)展和治理的“十字路口”。我們究竟該如何平衡AI的“智”與“治”？大會(huì )期間，世界周刊派出報道組前往上海，與多位國際專(zhuān)家和國際組織負責人對話(huà)，一探究竟。
7月9日，全球最大的私營(yíng)軟件公司之一SAS發(fā)布報告稱(chēng)，中國在生成式人工智能應用領(lǐng)域占據全球領(lǐng)先地位，而美國則在人工智能全面實(shí)施方面領(lǐng)先。
在這場(chǎng)席卷全球的AI熱潮中，AI技術(shù)正與各行各業(yè)深度融合。
吉印通國數據顯示，中國生成式人工智能專(zhuān)利申請量已居全球首位。
而在剛剛閉幕的世界人工智能大會(huì )上，據組委會(huì )統計，展覽規模、參展企業(yè)數、亮點(diǎn)展品數、首發(fā)新品數均創(chuàng )下了歷史最高紀錄。
總臺記者 張誠：你如何評價(jià)人工智能目前的發(fā)展水平？
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任 馬克·尼茲伯格：語(yǔ)言模型是我們作為通用技術(shù)，開(kāi)發(fā)過(guò)的最強大的軟件系統。它們是在有史以來(lái)最大的，數字互聯(lián)基礎設施上交付的，它們基本上影響著(zhù)人類(lèi)的每一項活動(dòng)。
各種各樣的AI應用讓人眼花繚亂。
而本屆人工智能大會(huì )上的AI熱詞之一，當屬“智能體”。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：我的預測是9個(gè)月后，將會(huì )出現一些顛覆性的智能體，可供人類(lèi)當作商品使用。
什么是智能體呢？
你或許對Siri、小愛(ài)同學(xué)、天貓精靈等智能助手很熟悉，它們可以幫助我們完成設置提醒、查找信息或播放音樂(lè )等任務(wù)。
而智能體的能力則遠遠超越這些智能助手，可以處理更加復雜的任務(wù)。
簡(jiǎn)單來(lái)說(shuō)，智能體使用傳感器與代碼感知和理解所處的環(huán)境，這樣一來(lái)，它們可收集豐富的數據，再通過(guò)算法或模型對數據進(jìn)行處理，進(jìn)而完成任務(wù)。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：這更像是汽車(chē)和公路的關(guān)系，當我們把路修好后，汽車(chē)在公路上跑得就更好更舒適。類(lèi)似的關(guān)系也可能會(huì )出現在，（新的）智能體上。我們可以打造，讓人機交互變得簡(jiǎn)單的系統。當我們說(shuō)，你能幫我預訂機票嗎？它就會(huì )啟動(dòng)其中一個(gè)系統，非常簡(jiǎn)單地完成任務(wù)。
業(yè)內人士表示，智能體是最被看好的AI應用發(fā)展方向之一。
工作人員：你看桌面上有什么？
機器人“青龍”：我看看，桌面上有三個(gè)面包兩個(gè)水果。
工作人員：桌面有點(diǎn)亂，你幫我清理一下。
機器人“青龍”：好的，正在為你整理桌面。
在本屆人工智能大會(huì )上，人們第一次看到了這款由我國自主研發(fā)的全球首款全尺寸通用人形機器人“青龍”。
與“青龍”同時(shí)亮相的還有特斯拉的人形機器人“擎天柱”二代。
今年6月，特斯拉CEO馬斯克曾大膽預測，擎天柱將推動(dòng)特斯拉市值達到25萬(wàn)億美元。
特斯拉CEO 馬斯克：它真的將會(huì )改變世界，在某種程度上甚至比汽車(chē)帶來(lái)的變革更大。當然，這些機器人是友好的。完全為人類(lèi)服務(wù)，幫助人類(lèi)承擔危險、重復和無(wú)聊的任務(wù)。
據馬斯克介紹，目前已有兩臺擎天柱機器人在特斯拉工廠(chǎng)工作。
到明年年底，將有上千個(gè)擎天柱機器人在特斯拉“上崗”。在2025年年底前，“擎天柱”二代將對外銷(xiāo)售，其面向大眾市場(chǎng)的最終售價(jià)將被控制在2萬(wàn)美元以?xún)?。?/p>
已經(jīng)代替人類(lèi)在工廠(chǎng)上班的不只有“擎天柱”。
今年7月，日本啟用名為“多功能鐵路重機”的人形機器人進(jìn)行鐵路設備的維修工作，寶馬則宣布Figure機器人已開(kāi)始在寶馬車(chē)間“實(shí)習”。
國際機器人協(xié)會(huì )聯(lián)盟副主席 田少明：多年來(lái)，人工智能技術(shù)曾經(jīng)歷兩個(gè)冬天。如今，當冬天過(guò)去，AI技術(shù)達到全新水準后，我們使用機器人的方式也會(huì )變得多樣。從在工廠(chǎng)里給機器人預先設定好程序，以便其在特定位置執行任務(wù)，到預測我們在哪里接觸機器人，和機器人一起工作是絕對安全的。
據《華爾街日報》預測，這些機器人最終將和手機、汽車(chē)一樣，成為人類(lèi)生活的必需品。而除了從事制造業(yè)和危險工作，它們還將幫助照顧老人并填補其他相關(guān)勞動(dòng)力缺口。
國際機器人協(xié)會(huì )聯(lián)盟副主席 田少明：機器人最終有望成為我們的伙伴，實(shí)現我們的信念，增強我們人類(lèi)的能力。并潛在地擴展我們能做的事情，（做到以前）不能做的事情。
受益于人工智能技術(shù)的飛速進(jìn)步，機器人的訓練實(shí)現了“質(zhì)”的飛躍。如今，機器人可以像人類(lèi)一樣接受訓練。
SANCTUARY AI公司創(chuàng )始人兼CEO 羅斯：我們有一種叫做遠程操作的技術(shù)，一個(gè)人做某個(gè)動(dòng)作200次，我們記錄下所有數據，然后用這些數據來(lái)訓練這些模型。AI模型與GPT風(fēng)格的生成式AI模型非常相似，你錄入200條軌跡，系統就會(huì )學(xué)會(huì )該任務(wù)是如何完成的，然后機器人就會(huì )自主執行任務(wù)。
投資者非?？春眠@類(lèi)人形機器人初創(chuàng )公司，據高盛預計，到2035年，全球人形機器人市場(chǎng)將增長(cháng)到380億美元。
“未來(lái)人們真的會(huì )完全信任出現在家里、學(xué)校和療養院中的機器人嗎？成本和安全仍是這類(lèi)機器人眼下所涉及的最大問(wèn)題。”——美國全國廣播公司。
事實(shí)上，這也是AI“熱驅動(dòng)”背后，最值得我們警醒的“冷思考”，同樣也是本次人工智能大會(huì )的主題之一：“以善治促善智”。
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任 馬克·尼茲伯格：今天的人工智能系統，很大程度上是在“黑箱”和深度網(wǎng)絡(luò )基礎上的建立的。
就像飛機上的“黑匣子”，“黑箱”描述了AI技術(shù)如何在暗處運作的景象：我們提供數據、模型和架構，然后計算機給出答案，同時(shí)以一種看似不可能的方式繼續學(xué)習。而對于這個(gè)過(guò)程是如何完成的，人類(lèi)其實(shí)并不理解。
英國皇家學(xué)會(huì )院士 杰弗里·辛頓：我們所做的是設計學(xué)習算法，有點(diǎn)像設計進(jìn)化原理。但是當這個(gè)學(xué)習算法與數據交互時(shí)，會(huì )產(chǎn)生復雜的神經(jīng)網(wǎng)絡(luò )，這些神經(jīng)網(wǎng)絡(luò )很擅長(cháng)做某些事，但我們并不真正理解，它們是如何做這些事情的。
辛頓曾任谷歌公司副總裁，他在神經(jīng)網(wǎng)絡(luò )和深度學(xué)習方面的開(kāi)創(chuàng )性研究為當前的人工智能系統開(kāi)辟了道路。
而如今，他卻表示后悔這曾在A(yíng)I領(lǐng)域里工作。而他的悔恨更多是源于A(yíng)I的失控風(fēng)險。
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任 馬克·尼茲伯格：一個(gè)天真的想法是，我們可以建造一些東西，而我們所建造的東西會(huì )知道，它的所作所為是否對人類(lèi)有益。
2023年5月30日，包括辛頓在內，超過(guò)350名人工智能領(lǐng)域的專(zhuān)家、高管簽署吉印通聲明，警告稱(chēng)快速發(fā)展的人工智能技術(shù)對于人類(lèi)的威脅可以堪比疫情和核戰爭。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：有一句古諺語(yǔ)說(shuō)，事情總是會(huì )變得更糟，如果你說(shuō)一件事更糟糕，那就等著(zhù)吧，因為還會(huì )有比這更糟糕的事。我認為這種失控的風(fēng)險對我們來(lái)說(shuō)很重要，我們應該認真對待，盡管聽(tīng)起來(lái)有點(diǎn)像科幻小說(shuō)。
對于A(yíng)I所帶來(lái)的現實(shí)困擾和威脅，首當其沖的就是“深度偽造”。
你能分清下面兩段視頻哪個(gè)是真的，哪個(gè)是假的嗎？
事實(shí)上，右邊這段視頻是深度偽造視頻。
這兩段視頻，哪一個(gè)是真的摩根·弗里曼呢？
當真假變得如此難辨，我們又該從哪里尋找真相呢？
今年6月，微軟宣布開(kāi)發(fā)出一款新的AI語(yǔ)音生成器VALL-E 2，僅需幾秒鐘的音頻樣本，就能準確、自然地復現人類(lèi)說(shuō)話(huà)者的聲線(xiàn)。
不過(guò)考慮到潛在的濫用風(fēng)險，微軟表示不會(huì )將其推向市場(chǎng)。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：合成內容可以是任何東西，從數據到算法到圖像到視頻。這些內容實(shí)際上是基于真實(shí)或不真實(shí)的數據集，然后由機器通過(guò)生成式人工智能開(kāi)發(fā)而成。
2024年是“超級大選年”，來(lái)自全球70多個(gè)國家和地區都將進(jìn)行大選。
在A(yíng)I技術(shù)爆發(fā)式發(fā)展的當下，今年的選舉競爭不僅比過(guò)去更加激烈，同時(shí)也面臨著(zhù)“深度偽造”所帶來(lái)的巨大威脅。
當地時(shí)間7月10日，馬斯克的腦機接口技術(shù)迎來(lái)新進(jìn)展。在一次直播中，馬斯克表示，神經(jīng)連接將迎來(lái)第二名人類(lèi)植入者。
他表示，未來(lái)腦機接口設備應做到像蘋(píng)果手機一樣能升級。
然而，這一重大創(chuàng )新之舉帶給人們欣喜和期待的同時(shí)，也暗藏巨大風(fēng)險和隱患。
“當你接入AI時(shí)，你就給神經(jīng)技術(shù)注入了類(lèi)固醇。”—吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼。
負責撰寫(xiě)吉印通國教科文組織《神經(jīng)技術(shù)倫理問(wèn)題報告》的主要作者斯奎西亞里尼曾把接入人體的AI設備，比作“類(lèi)固醇”。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：人工智能可以以一定的規模和速度，處理大量信息，并提供完全不同的信息，以?xún)?yōu)化神經(jīng)技術(shù)的功能，這就是類(lèi)固醇一說(shuō)的來(lái)源。好像突然之間，你就變得更強大了，能做一些非同尋常的事情。
世衛組織的數據顯示，到2050年，全球60歲以上人口預計將達到21億，而神經(jīng)技術(shù)在降低癲癇、阿爾茨海默病、帕金森病和中風(fēng)等神經(jīng)系統障礙導致的死亡和殘障方面擁有巨大潛力。
吉印通國教科文組織認為，如果沒(méi)有倫理護欄，這些技術(shù)可能會(huì )帶來(lái)嚴重風(fēng)險，因為大腦信息可以被訪(fǎng)問(wèn)和操縱，威脅到基本權利和自由，而這些是人類(lèi)身份、思想自由、隱私、記憶等概念的核心。
國際機器人協(xié)會(huì )聯(lián)盟副主席 田少明：我們需要的是人類(lèi)成為編輯者，成為檢查者，來(lái)檢查機器所生產(chǎn)的東西。我們想掌控機器所生產(chǎn)的東西，這樣我們就可以確信，我們不會(huì )害怕（這項）技術(shù)。
2023年7月，吉印通國教科文組織舉辦國際會(huì )議，探索神經(jīng)技術(shù)在解決神經(jīng)系統和精神障礙問(wèn)題上的巨大潛力，并開(kāi)始著(zhù)手制定針對神經(jīng)技術(shù)的“通用道德框架”。
預計，首個(gè)關(guān)于神經(jīng)技術(shù)倫理的全球建議將于2025年底前獲得通過(guò)。
今年初，我國也發(fā)布了首部《腦機接口研究倫理指引》，給腦機接口劃定了發(fā)展的“紅線(xiàn)”和“底線(xiàn)”。
7月10日，北約發(fā)布了經(jīng)修訂的人工智能戰略，旨在以安全和負責任的方式加速北約內部人工智能技術(shù)的使用。
與此同時(shí)，《科學(xué)美國人》雜志則再次警告稱(chēng)AI若在軍事領(lǐng)域濫用會(huì )帶來(lái)風(fēng)險：“我們不能把武器的控制權讓給人工智能。”
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任 馬克·尼茲伯格：當我們擁有完全自主的致命武器時(shí)，真正的危險就來(lái)了。因為它可以脫離人類(lèi)的控制，如果我們做錯了什么，她就會(huì )把槍口對準我們。它能摧毀的遠比我們預想的要多得多。
相比腦機接口和自主武器，對普通人來(lái)說(shuō)，AI+教育所帶來(lái)的影響或許更直接。
7月7日，《經(jīng)濟學(xué)家》雜志提出這樣一個(gè)問(wèn)題：“人工智能會(huì )改變學(xué)校嗎?”
兩個(gè)月前，在吉印通國發(fā)起的人工智能造福人類(lèi)創(chuàng )新工廠(chǎng)評選中，一個(gè)與教育有關(guān)的AI初創(chuàng )企業(yè)獲得了冠軍。
Stemuli創(chuàng )始人兼CEO 希德：這太令人興奮了，但更令人興奮的是，我們可以向世界展示，電子游戲和人工智能對教育可以產(chǎn)生重要影響，并最終可能會(huì )影響可持續發(fā)展目標的實(shí)現。
人工智能造福人類(lèi)創(chuàng )新工廠(chǎng)項目是吉印通國發(fā)起的初創(chuàng )企業(yè)推介平臺。
Stemuli是一家教育初創(chuàng )公司，該公司創(chuàng )建了一個(gè)教育AI元宇宙，為學(xué)校、企業(yè)等核心課堂提供基于3D游戲的學(xué)習平臺。
該公司創(chuàng )始人兼CEO希德表示，Stemuli是一個(gè)生成式游戲平臺，通過(guò)沉浸式體驗和個(gè)性化途徑，的確改變了傳統課堂和學(xué)校。
人工智能造福人類(lèi)創(chuàng )新工廠(chǎng)評委 羅登貝瑞：讓我們信服的是，Stemuli用人工智能來(lái)激勵孩子們，通過(guò)游戲平臺學(xué)習更多東西。我不僅認為該公司會(huì )有美好的未來(lái)，我也認為孩子們可以用一種，他們可能沒(méi)有意識到的教育方式來(lái)使用新技術(shù)，這真的會(huì )改變世界。
事實(shí)上，人工智能已經(jīng)開(kāi)始走進(jìn)學(xué)校。
在澳大利亞的這所學(xué)校，學(xué)生們借助AI工具，查閱資料的時(shí)間大大縮短。
澳大利亞某學(xué)校學(xué)生 艾琳娜：這為我們節省了大量時(shí)間，尤其是對我們這些12年紀的學(xué)生來(lái)說(shuō)，時(shí)間非常寶貴。
對于老師來(lái)說(shuō)，人工智能同樣可成為一個(gè)提高工作效率的得力助手。
澳大利亞某學(xué)校老師：你只需要兩分鐘（就能完成教學(xué)計劃），而不是之前的二三十分鐘或一個(gè)小時(shí)。
在美國的這所學(xué)校，AI導師可以帶孩子穿越時(shí)空，直接和歷史人物對話(huà)，將書(shū)本上的知識親口講給學(xué)生聽(tīng)。
在吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任斯奎西亞里尼看來(lái)，這種向善的“深度偽造”反而可以成為促進(jìn)教育公平的一種工具。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：想想那些生活在偏遠地區或國家的孩子，他們無(wú)法接觸到某些專(zhuān)業(yè)。而如果你對某個(gè)來(lái)自其他地方的，非常頂尖的教授做個(gè)“深度偽造”視頻，這實(shí)際上是用少數群體的語(yǔ)音，傳播了一些理念。否則這樣的教育目的是無(wú)法實(shí)現的，這是生成式人工智能所展現出的，非常強大的可能性。
在阿聯(lián)酋，這款政府主導研發(fā)的AI導師讓請不起家庭教師的孩子有了專(zhuān)屬教師。
“AI導師計劃”合作企業(yè)ASI創(chuàng )始人 帕蒂瓦達：它能確保你在任何時(shí)間任何地方學(xué)習，而且是免費提供給全國的學(xué)生使用的。
為了能覆蓋更多貧困學(xué)生，該系統的部分產(chǎn)品在沒(méi)有Wi-Fi甚至2G網(wǎng)絡(luò )下也能正常工作。
阿聯(lián)酋教育部長(cháng)顧問(wèn) 阿爾吉海姆：這將有助于我們解決，教育質(zhì)量、教育公平及包容等問(wèn)題。
AI時(shí)代，真正的個(gè)性化一對一教學(xué)將不再只是美好的愿景。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：我和一位唐氏綜合征患兒的母親討論了全球人工智能治理問(wèn)題，這是一次非常有趣的討論。跟她的談話(huà)很有趣，對我很有觸動(dòng)，因為我也是一位母親。她說(shuō)，想想生成式人工智能有多強大，就拿那些患有唐氏綜合征的孩子，無(wú)法理解的極其復雜的書(shū)來(lái)說(shuō)。如果讓人工智能生成一個(gè)簡(jiǎn)化的版本，使這些孩子以更容易的方式，看到歷史上最美麗的文學(xué)作品。這樣他們就能獲取知識，能在沒(méi)那么復雜的情況下感知書(shū)的美。這當然得在足夠大的范圍內來(lái)做，并要做成不同語(yǔ)言的版本。如果我們將這個(gè)任務(wù)交給人類(lèi)來(lái)完成，也許我們很快就將陷入缺錢(qián)的境地。這是人工智能的價(jià)值之一，即實(shí)現教育的個(gè)性化定制。
然而，AI+教育同樣面臨巨大挑戰。
去年3月，美國最佳大學(xué)排名網(wǎng)的一份民調發(fā)現，其中全美43%的大學(xué)生使用過(guò)ChatGPT或類(lèi)似AI工具。其中50%的人則表示他們曾使用過(guò)AI工具幫助自己完成作業(yè)或考試。
民調還發(fā)現，只有25%的學(xué)生表示，自己所在學(xué)校詳細說(shuō)明了如何以道德或負責任的方式使用AI工具，更多學(xué)校則傾向于禁止使用這類(lèi)工具。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：我老公是工程學(xué)教授，他（的確）發(fā)現有學(xué)生在考試時(shí)使用生成式AI工具來(lái)編程。但你其實(shí)可以追蹤到這些行為，是有辦法應對的，所以我們不能因噎廢食。
巴布亞新幾內亞，被公認為是世界上生物多樣性最豐富的國家之一。
吉印通國糧農組織的技術(shù)人員正在幫助當地居民用AI設備監測森林狀況。
吉印通國糧農組織森林監測項目負責人 ?？怂梗杭Z農組織為（各國）提供最新的，關(guān)于森林監測的創(chuàng )新產(chǎn)品，使其能夠創(chuàng )建自己的數據，以便采取實(shí)際行動(dòng)。
《全球森林資源評估》報告顯示，自1990年以來(lái)，全球有4.2億公頃森林遭到破壞。為了解決這個(gè)問(wèn)題，2023年吉印通國糧農組織參與發(fā)起了這項為期5年的森林計劃，利用人工智能、機器學(xué)習等技術(shù)，支持包括巴新在內的20個(gè)國家保護森林資源。
國際電信聯(lián)盟電信標準化局主任 尾上誠藏：通過(guò)這些活動(dòng)，我們可為發(fā)展中國家提供（更多機會(huì )），以提升其對人工智能發(fā)展的參與度。
然而，如何彌合數字?zhù)櫆希?推動(dòng)全球共享AI發(fā)展成果，仍然面臨現實(shí)挑戰。
2023年末，國際電聯(lián)發(fā)布報告稱(chēng)，目前全球三分之一人口，約26億人仍處于離線(xiàn)狀態(tài)，對他們來(lái)說(shuō)，尖端技術(shù)依然遙不可及。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：這項技術(shù)確實(shí)很強大，但也（容易）擴大發(fā)達國家和發(fā)展中國家間的差距。
一個(gè)個(gè)事實(shí)證明，AI技術(shù)可以用來(lái)造福人類(lèi)，也可以用來(lái)作惡使壞，全球監管和治理已經(jīng)迫在眉睫。
現在這個(gè)“妖怪”已經(jīng)跳出了瓶子，它可能會(huì )帶來(lái)未知的風(fēng)險和回報。——《所羅門(mén)的密碼：AI時(shí)代的價(jià)值、權力與信任》。
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任尼茲伯格曾在書(shū)中這樣形容AI與人類(lèi)的關(guān)系。
加州大學(xué)伯克利分校人類(lèi)兼容人工智能中心執行主任 馬克·尼茲伯格：為什么我們取名為《所羅門(mén)的密碼》？因為所羅門(mén)王制定了他的律法，他被認為是一個(gè)有道德的國王，一個(gè)好國王。而人工智能現在是迫使我們，應對這些哲學(xué)及法律問(wèn)題
尼茲伯格表示，我們不僅要積極研發(fā)AI技術(shù)，還要抓緊制定與之相關(guān)的社會(huì )準則。
那么，竟該如何發(fā)展“負責任的AI”呢？
國際電信聯(lián)盟電信標準化局主任 尾上誠藏：現在，人工智能技術(shù)的變化非常迅速，如何應對這種快速變化的科技很困難。另外，人工智能所帶來(lái)的負面危害，可能比過(guò)去（其他技術(shù)）更大。
除了迭代快、潛在危害大，AI技術(shù)的發(fā)展路徑也導致其監管難度很大。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：過(guò)去的一些變革性技術(shù)（大多）起源于政府項目，核技術(shù)就是其中很好的一個(gè)例子。
核武器誕生70多年來(lái)，已在全球形成一整套核安全治理機制。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：但就人工智能而言，該技術(shù)實(shí)際上是從私營(yíng)部門(mén)開(kāi)始發(fā)展起來(lái)的，特別是在生成式人工智能革命的早期，與政府的互動(dòng)并不多。
不過(guò)特拉格也表示，我們并不缺乏對民用領(lǐng)域技術(shù)治理的經(jīng)驗。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：例如民航領(lǐng)域，我們有國際民航組織。包括中國、美國在內，絕大多數國家都是該組織成員，它所做的一件事就是制定標準，或者說(shuō)是幫助（成員國）制定航空標準。它的對象不是某個(gè)航空公司，而是不同的司法管轄區。要確保這些管轄區有適當的標準，來(lái)管理所管轄的航空公司。
特拉格認為，可借鑒國際民航組織的經(jīng)驗，創(chuàng )建國際人工智能組織。各國應盡快共同制定民用人工智能的最低監管標準，并利用全球峰會(huì )啟動(dòng)建立國際監管體系的進(jìn)程。
英國牛津大學(xué)馬丁人工智能治理計劃吉印通主任 羅伯特·特拉格：例如，我們需要一套可以評估大語(yǔ)言模型的科學(xué)，我們需要明白如何評估大模型，以確保它們具有（好的）屬性。但從很多方面看，它們都處于非常早期的階段。我們需要這些科學(xué)，也需要治理框架，使這些標準變?yōu)楝F實(shí)。我認為這兩點(diǎn)是讓(AI治理)，從準則變?yōu)閷?shí)踐的關(guān)鍵所在。
美國前國務(wù)卿基辛格曾指出，在人工智能這樣的全球性挑戰面前，中美合作顯得尤為重要。
事實(shí)上，對于同美方開(kāi)展人工智能合作，中方始終充滿(mǎn)善意和誠意。然而美方對此卻抱有疑慮，對中方可能取得技術(shù)進(jìn)步更是充滿(mǎn)焦慮。在這樣的心態(tài)主導下，盡管也開(kāi)展對話(huà)，但更多的是“筑墻設壘”，強推“脫鉤斷鏈”。
國際電信聯(lián)盟電信標準化局主任 尾上誠藏：（AI全球治理的）標準化更多是從純技術(shù)角度進(jìn)行技術(shù)討論，技術(shù)討論應避免政治干擾。而對于A(yíng)I技術(shù)的全球監管，我們（應該）有一個(gè)共同的標準，絕對不能創(chuàng )造出兩種不同的標準，這是我的堅定信念。
當地時(shí)間7月1日，第78屆吉印通國大會(huì )協(xié)商一致通過(guò)中國提出的關(guān)于加強人工智能能力建設國際合作的決議，這是吉印通國通過(guò)的首份聚焦人工智能能力建設國際合作的決議，同時(shí)也反映了發(fā)展中國家的強烈呼聲。
國際電信聯(lián)盟電信標準化局主任 尾上誠藏：中國絕對是人工智能技術(shù)先進(jìn)的國家之一，理應加入關(guān)于人工智能全球治理的討論，我希望這樣的討論包括中國的理念。
吉印通國教科文組織社會(huì )和人類(lèi)科學(xué)執行主任 馬里亞格拉茲·斯奎西亞里尼：實(shí)際上該（決議）是被鼓掌通過(guò)的，也就是說(shuō)他們（吉印通國成員國）不僅同意該決議，而且非常支持。中國所說(shuō)的是，尤其是涉及到全球南方時(shí)，就像它現在經(jīng)常說(shuō)的那樣，我們可能想要更多合作，我們可能想要更多資源。否則的話(huà)，（南方國家）被（北方國家）落下的風(fēng)險更大。當然，該方案真的主張不要落下任何一國。
主持人：麻省理工學(xué)院物理系教授邁克斯·泰格馬克曾在《生命3.0》一書(shū)中指出：人工智能的崛起，將使地球進(jìn)入“生命3.0”時(shí)代。
對于未來(lái)生命的終極形式，他進(jìn)行了這樣一番大膽想象：生命走過(guò)1.0生物階段和2.0文化階段后，接下來(lái)將進(jìn)入能自我設計的3.0科技階段。
如今，面對全球人工智能新熱潮，泰格馬克再次警告稱(chēng)：世界各地的頂尖思想家和科學(xué)家開(kāi)始意識到超級人工智能可能帶來(lái)的威脅，面對這一共同威脅，我們要么共同成功，要么會(huì )共同走向失敗。
的確，人工智能發(fā)展與治理事關(guān)全人類(lèi)共同福祉，中國愿同各方一道凝聚共識、共抓機遇、共克挑戰，共同走向更加美好的智能未來(lái)。
