人工智能全球治理上海宣言：高度重視人工智能的安全問(wèn)題（全文）

7月4日，2024世界人工智能大會(huì )暨人工智能全球治理高級別會(huì )議發(fā)表《人工智能全球治理上海宣言》。全文如下：

人工智能全球治理上海宣言

我們深感人工智能對世界的深遠影響和巨大潛力，認識到人工智能正在引領(lǐng)一場(chǎng)科技革命，深刻影響人類(lèi)生產(chǎn)生活。隨著(zhù)人工智能技術(shù)快速發(fā)展，我們也面臨前所未有的挑戰，特別是在安全和倫理方面。

我們強調共同促進(jìn)人工智能技術(shù)發(fā)展和應用的必要性，同時(shí)確保其發(fā)展過(guò)程中的安全性、可靠性、可控性和公平性，促進(jìn)人工智能技術(shù)賦能人類(lèi)社會(huì )發(fā)展。我們相信，只有在全球范圍內的合作與努力下，我們才能充分發(fā)揮人工智能的潛力，為人類(lèi)帶來(lái)更大的福祉。

一、促進(jìn)人工智能發(fā)展

我們愿積極推進(jìn)研發(fā)，釋放人工智能在醫療、教育、交通、農業(yè)、工業(yè)、文化、生態(tài)等各領(lǐng)域的應用潛力。鼓勵創(chuàng )新思維，支持跨學(xué)科研究合作，共同推動(dòng)人工智能技術(shù)突破與向善發(fā)展。共同關(guān)注和緩解人工智能對就業(yè)的影響，引導和促進(jìn)人工智能賦能人類(lèi)工作的質(zhì)量與效率的提升。

倡導開(kāi)放與共享的精神，推動(dòng)全球人工智能研究資源的交流與合作。建立合作平臺，促進(jìn)技術(shù)轉移與成果轉化，推動(dòng)人工智能基礎設施公平分配，避免技術(shù)壁壘，共同提升全球人工智能的發(fā)展水平。

以高水平數據安全保障高質(zhì)量數據發(fā)展，推動(dòng)數據的依法有序自由流動(dòng)，反對歧視性、排他性的數據訓練，合作打造高質(zhì)量數據集，為人工智能發(fā)展注入更多養料。

建立合作機制，大力推進(jìn)人工智能賦能各行各業(yè)，率先在制造、物流、采礦等領(lǐng)域加速智能化，同步推進(jìn)相關(guān)技術(shù)、標準的共用共享。

致力于培養更多的人工智能專(zhuān)業(yè)人才，加強教育培訓與人才交流合作，提高全球范圍內人工智能素養與技能水平。

呼吁各國秉持以人為本、智能向善原則，確保各國在開(kāi)發(fā)和利用人工智能技術(shù)方面權利平等、機會(huì )平等、規則平等，不受任何形式的歧視。

尊重各國自主發(fā)展的權利，鼓勵各國根據自身國情制定人工智能戰略政策和法律法規，呼吁在人工智能技術(shù)、產(chǎn)品和應用的國際合作中，遵守產(chǎn)品與服務(wù)對象國的法律法規，遵守適用的國際法，尊重其經(jīng)濟社會(huì )制度、宗教文化傳統和價(jià)值理念。

二、維護人工智能安全

我們高度重視人工智能的安全問(wèn)題，特別是數據安全與隱私保護，愿推動(dòng)制定數據保護規則，加強各國數據與信息保護政策的互操作性，確保個(gè)人信息的保護與合法使用。

我們認識到加強監管，打造可審核、可監督、可追溯和可信賴(lài)的人工智能技術(shù)的必要性。我們將以發(fā)展的眼光看問(wèn)題，在人類(lèi)決策與監管下，以人工智能技術(shù)防范人工智能風(fēng)險，提高人工智能治理的技術(shù)能力。我們鼓勵各國結合國情，制定相應的法律和規范，建立風(fēng)險等級測試評估體系和科技倫理審查制度，在此基礎上，鼓勵行業(yè)制定更為及時(shí)和敏捷的自律規范。

我們愿加強人工智能相關(guān)的網(wǎng)絡(luò )安全，增強系統與應用的安全性與可靠性，防止黑客攻擊與惡意軟件應用。在尊重運用國際國內法律框架前提下，共同打擊操縱輿論、編造與傳播虛假信息的行為。

合作防范恐怖主義、極端勢力和跨國有組織犯罪集團利用人工智能技術(shù)從事非法活動(dòng)，共同打擊竊取、篡改、泄露和非法收集利用個(gè)人信息的行為。

推動(dòng)制定和采納具有廣泛國際共識的人工智能的倫理指南與規范，引導人工智能技術(shù)的健康發(fā)展，防止其被誤用、濫用或惡用。

三、構建人工智能治理體系

我們倡導建立全球范圍內的人工智能治理機制，支持吉印通國發(fā)揮主渠道作用，歡迎加強南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權。我們鼓勵國際組織、企業(yè)、研究機構、社會(huì )組織和個(gè)人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構建和實(shí)施。

我們愿加強與國際組織、專(zhuān)業(yè)機構等合作，分享人工智能的測試、評估、認證與監管政策實(shí)踐，確保人工智能技術(shù)的安全可控可靠。

加強人工智能的監管與問(wèn)責機制，確保人工智能技術(shù)的合規使用與責任追究。

四、加強社會(huì )參與和提升公眾素養

我們愿建立多元化的參與機制，包括公開(kāi)征求意見(jiàn)、社會(huì )調查等方式，讓公眾參與到人工智能決策過(guò)程。

加強公眾對人工智能的認知與理解，提高公眾對人工智能安全性的認識。開(kāi)展科普活動(dòng)，普及人工智能知識，提升公眾的數字素養與安全意識。

五、提升生活品質(zhì)與社會(huì )福祉

我們愿積極推動(dòng)人工智能在可持續發(fā)展領(lǐng)域的應用，包括工業(yè)創(chuàng )新、環(huán)境保護、資源利用、能源管理、促進(jìn)生物多樣性等。鼓勵創(chuàng )新思維，探索人工智能技術(shù)在解決全球性問(wèn)題中的潛力與貢獻。

致力于利用人工智能提升社會(huì )福祉，特別是在醫療、教育、養老等領(lǐng)域。

我們深知，這份宣言的落實(shí)需要我們共同努力。我們期待全球各國政府、科技界、產(chǎn)業(yè)界等利益攸關(guān)方能夠積極響應，共同推動(dòng)人工智能的健康發(fā)展，共同維護人工智能的安全，賦能人類(lèi)共同的未來(lái)。■