人工智能監管的路徑選擇（一）——歐盟《人工智能法》背景及進(jìn)程
編者按
作為全球首部全面規制人工智能的重點(diǎn)法律，歐盟《人工智能法》的重要性不言而喻。一方面，它具有域外效力，將對包括在歐盟以外運營(yíng)、開(kāi)發(fā)和使用 AI 系統或模型的企業(yè)產(chǎn)生重大影響；另一方面，我國已將“人工智能立法”提上日程，歐盟《人工智能法》在A(yíng)I監管領(lǐng)域的先行探索，或將影響我國立法的監管路徑。
《互聯(lián)網(wǎng)法律評論》本次刊登北京航空航天大學(xué)法學(xué)院副教授王天凡的文章《人工智能監管的路徑選擇——歐盟人工智能法的范式、爭議及影響》（經(jīng)作者授權，轉載自《歐洲研究》2024年第3期）。該文對歐盟《人工智能法》進(jìn)行了全面解析，篇幅較長(cháng)，本文將分為三個(gè)主題進(jìn)行刊載。今日刊載第一部分——歐盟《人工智能法》背景及進(jìn)程。
通過(guò)對歐盟“數字十年”和人工智能戰略的分析，以及對《人工智能法》的立法進(jìn)程的梳理，作者王天凡認為，歐盟對人工智能技術(shù)雖然打著(zhù)“強規制”的旗號，其背后的根本態(tài)度依然是“促進(jìn)”。這一洞見(jiàn)，對于深刻理解《人工智能法》具體監管規則的廣泛性和靈活性、制定相應的合規體系將大有裨益。
此外，今日《互聯(lián)網(wǎng)法律評論》二條提供了2份關(guān)于歐盟《人工智能法》的資料（iapp整理），一份是《人工智能法》實(shí)施的后續步驟，一份是《人工智能法》與其他法律文件形成的監管交叉網(wǎng)絡(luò )圖。希望能夠為讀者學(xué)習和研究《人工智能法》提供便利。
人工智能及其監管對人類(lèi)而言是新生事物，世界各主要法域都在嘗試制定監管規則以應對這一挑戰。中國《國務(wù)院2024年度立法工作計劃》也已將人工智能立法列入預備提請審議項目。目前，立法應采用何種監管路徑尚無(wú)定論，而各法域的前期探索對這一問(wèn)題具有參考價(jià)值。
歐盟《人工智能法》（AI Act）的制定集合了歐盟范圍內科技界、產(chǎn)業(yè)界、宗教界、法學(xué)界、哲學(xué)界、政治界等諸多領(lǐng)域及人群的代表性觀(guān)點(diǎn)、權衡以及妥協(xié)，也在很大程度上反映了歐盟民眾對待人工智能的社會(huì )心理，可以說(shuō)是最前沿、最具代表性的立法嘗試之一。深入研究歐盟人工智能立法的背景、監管范式、規制要點(diǎn)及立法過(guò)程中的核心爭議等，有助于學(xué)界理解人工智能法律規制的核心問(wèn)題，對中國人工智能的立法和研究亦有所裨益。
一、歐盟的數字立法版圖
從歷史圖景來(lái)看，歐洲私法為了適應社會(huì )數字化發(fā)展經(jīng)歷了三波浪潮：
第一波始于20世紀90年代末，旨在使法律規則適應電子商務(wù)的要求；
第二波目前方興未艾，主要是為了應對新技術(shù)條件下商業(yè)模式的法律規制，包括對數字內容或服務(wù)和智能產(chǎn)品交易的規制；
第三波則初露端倪，主要聚焦于私法如何應對自主運行的人工智能。
圖片：歐盟數字十年指南針（來(lái)源：歐盟官網(wǎng)）
在戰略層面，歐盟將2020-2030年定為“數字十年”，制定了明確的數字戰略目標，指出了提高數字技能、實(shí)現行政和商業(yè)數字化、促進(jìn)研究和創(chuàng )新、縮小數字差距以及升級數字基礎設施等發(fā)展方向。與此同時(shí)，歐盟在個(gè)人信息保護、數字市場(chǎng)治理和數據資源利用等數字化發(fā)展的關(guān)鍵領(lǐng)域不斷推進(jìn)立法，意圖在數字化未來(lái)的法律規制方面發(fā)揮領(lǐng)導作用。
在個(gè)人信息保護、數據隱私和數字身份方面，自2018年《一般數據保護條例》（GDPR）生效后，歐盟委員會(huì )于2021年提出《數字身份條例框架》草案（eID），據此，所有歐盟公民、居民和企業(yè)都可以使用歐洲數字身份錢(qián)包。新框架修訂了2014年生效的歐盟《內部市場(chǎng)電子交易的電子識別和信任服務(wù)條例》（eIDAS），這一條例為歐盟安全獲取公共服務(wù)和進(jìn)行在線(xiàn)跨境交易奠定了基礎。2023年，歐盟理事會(huì )和歐洲議會(huì )就歐盟數字身份問(wèn)題達成臨時(shí)協(xié)議，這標志著(zhù)歐盟朝著(zhù)“2030數字十年”公共服務(wù)數字化目標邁出了重要一步，被認為是歐盟成為數字領(lǐng)域全球參考樣本、保護歐盟的民眾權利和價(jià)值觀(guān)的關(guān)鍵進(jìn)展。
在數字市場(chǎng)治理方面，隨著(zhù)2022年《數字市場(chǎng)法》和《數字服務(wù)法》的通過(guò)，歐盟在數字平臺監管與數字市場(chǎng)競爭方面樹(shù)立了監管標桿。前者對大型平臺課以“守門(mén)人”義務(wù)，防止其對其他企業(yè)和消費者施加不公平條件。后者對施行逾20年的歐盟《電子商務(wù)指令》（2000/31/EC）進(jìn)行了重大修訂，從內容管理、廣告推送、透明度等方面構建數字平臺“階梯式”監管模式，力圖使歐盟的單一市場(chǎng)在數字領(lǐng)域更加體現公平、消費者友好和競爭力。
在數據資源的利用方面，2022年，歐盟委員會(huì )提出了歐盟《數據法案》（Data Act）草案，并于2023年12月正式獲得通過(guò)并發(fā)布。該法案是繼2022年的《數據治理法案》（Data Governance）后，歐盟委員會(huì )在“歐洲數據戰略”之下的第二項主要立法舉措。歐盟《數據法案》規定了數據持有者在符合條件時(shí)向用戶(hù)和第三方提供數據的義務(wù)、向公共部門(mén)和機構提供數據的義務(wù)、用戶(hù)在不同的數據處理提供商之間切換的權利、非個(gè)人數據的國際傳輸、禁止不公平合同條款等。該法案旨在通過(guò)促進(jìn)跨部門(mén)和利益相關(guān)者的數據共享，確保數字環(huán)境中參與者之間數據價(jià)值分配的公平性，刺激數據市場(chǎng)競爭，使歐盟成為數據驅動(dòng)型社會(huì )的領(lǐng)導者。
二、《人工智能法》的立法背景：歐盟的人工智能戰略
作為已經(jīng)展開(kāi)的數字立法版圖的“第三步”，歐盟在過(guò)去五年間密集出臺了數十份涉及人工智能的法規（Regulation）、指令（Directive）、準則（Guideline）、決議（Resolution）等。尤其在2020年之后，相關(guān)內容更是呈現“井噴”之勢，盡顯歐盟對人工智能關(guān)注之密切。歐盟對人工智能技術(shù)的態(tài)度在此期間也發(fā)生了轉變，由一邊倒的“促進(jìn)”和“推動(dòng)”轉變至“促進(jìn)與規制并舉”。
2018年，歐盟委員會(huì )先后出臺了兩份關(guān)于人工智能的重磅文件——“歐洲人工智能戰略”及“人工智能協(xié)調計劃”。二者的核心目標均在于促進(jìn)人工智能在歐洲的發(fā)展。
在“歐洲人工智能戰略”中，歐盟委員會(huì )指出，人工智能是歐盟委員會(huì )“工業(yè)數字化戰略”和“新產(chǎn)業(yè)政策戰略”的一部分，計算能力的增長(cháng)、數據的可用性和算法的進(jìn)步使人工智能成為21世紀最具戰略意義的技術(shù)之一。歐洲領(lǐng)導人已將人工智能列為首要議程，認為歐盟應該采取協(xié)調一致的方法，充分利用人工智能提供的機遇并應對其帶來(lái)的新挑戰。歐洲保持競爭力的主要挑戰之一是確保人工智能技術(shù)在其工業(yè)經(jīng)濟中的應用。歐盟委員會(huì )認為，歐洲可以憑借其價(jià)值觀(guān)和工業(yè)優(yōu)勢，包括利用世界一流的研究人員、實(shí)驗室和初創(chuàng )公司、數字單一市場(chǎng)、豐富的工業(yè)、研究和公共部門(mén)數據等，在開(kāi)發(fā)和使用人工智能方面發(fā)揮帶頭作用。“歐洲人工智能戰略”的三大支柱分別是：增加對人工智能的公共和私人投資，為社會(huì )經(jīng)濟變革做好準備，以及確保人工智能的開(kāi)發(fā)和應用在符合歐洲價(jià)值觀(guān)的框架內進(jìn)行，包括尊重基本權利、倫理規則、透明度及責任承擔等。這一戰略制定了雄心勃勃的目標：歐盟必須加大對人工智能的公共和私人投資，以實(shí)現未來(lái)十年每年投資超過(guò)200億歐元的目標。
歐盟委員會(huì )在“人工智能協(xié)調計劃”中指出，歐洲目前在人工智能領(lǐng)域的私人投資方面處于落后地位。如果不做出重大努力，歐盟就有可能失去人工智能帶來(lái)的機遇，面臨人才流失的挑戰，只能成為其他國家開(kāi)發(fā)的解決方案的消費者。而監管機構的重要職責則在于消除分散市場(chǎng)造成的障礙，避免人工智能等戰略領(lǐng)域的市場(chǎng)碎片化。該計劃在政策層面上包括：建立歐洲人工智能公私合作模式，為初創(chuàng )企業(yè)和創(chuàng )新型中小企業(yè)提供更多融資；提高國家研究能力，促進(jìn)歐洲最好的研究團隊之間的合作；促進(jìn)人工智能在經(jīng)濟中最廣泛的應用；調整教育與職業(yè)培訓體系，吸引人才，支持勞動(dòng)力市場(chǎng)轉型；以《一般數據保護條例》為支柱，建立包括公共部門(mén)在內的對人工智能發(fā)展至關(guān)重要的歐洲數據空間，解決數據訪(fǎng)問(wèn)、非個(gè)人數據流動(dòng)等問(wèn)題，并以“歐洲高性能計算計劃”（EuroHPC）和“歐洲處理器計劃”為保障；制定具有全球視野的倫理準則，確保相關(guān)法律框架有利于創(chuàng )新、人工智能應用和基礎設施的安全，并促進(jìn)國際安全。
2019年由歐盟人工智能高級別專(zhuān)家組起草的“值得信賴(lài)的人工智能倫理準則”，正是為回應前述文件中對人工智能監管之需要而擬定。這標志著(zhù)歐盟對人工智能的規制開(kāi)始“加碼”。該準則提出，要實(shí)現“可信賴(lài)的人工智能”，必須具備三個(gè)要素：（1）合法；（2）符合道德原則；（3）穩健。以此為核心，該準則列明了七項關(guān)鍵要求：人工機構和監督、技術(shù)魯棒性和安全性、隱私和數據管理、透明度、多樣性和非歧視及公平性、環(huán)境和社會(huì )福祉、問(wèn)責制。需要注意的是，該準則不具有約束力，因此不會(huì )產(chǎn)生新的法律義務(wù)。歐盟的許多現有法律已經(jīng)反映了其中一項或多項關(guān)鍵要求，例如安全、個(gè)人數據保護、隱私或環(huán)境保護等。
2020年，歐盟委員會(huì )發(fā)布《人工智能白皮書(shū)》。白皮書(shū)中明確指出，盡管在發(fā)布上述倫理準則時(shí)采用了軟法方式，但歐盟委員會(huì )認為，適用于人工智能系統的道德準則和現有法律已不足以解決人工智能開(kāi)發(fā)和部署所帶來(lái)的風(fēng)險，因此，歐盟決定轉向強制立法，并呼吁制定一項新的針對人工智能的強制性法規。白皮書(shū)重申“人工智能應該為人類(lèi)服務(wù)，成為社會(huì )造福的力量”，其指導原則是創(chuàng )建卓越生態(tài)系統（“政策框架”）和信任生態(tài)系統（“監管框架”）。在規制的強度方面，白皮書(shū)認為應以“有效性”和“不過(guò)分規范”為標準。雖未涉及具體措施，但白皮書(shū)認為應遵循基于風(fēng)險的方法，確保干預適當并足夠靈活，以適應技術(shù)進(jìn)步并精確提供法律之確定性。但該白皮書(shū)也遭到了諸多批評，如有觀(guān)點(diǎn)認為白皮書(shū)以及整個(gè)歐盟的戰略模棱兩可缺乏遠見(jiàn)。
2022年，歐盟委員會(huì )發(fā)布了《人工智能責任指令》草案，建議引入專(zhuān)門(mén)針對人工智能系統所造成損害的新規則，對歐盟責任框架進(jìn)行補充和現代化，包括構建“同等保護”原則、“因果關(guān)系推定”規則等。這一指令出臺的直接原因是，鑒于人工智能侵權案件與傳統侵權案件的不同，歐盟各國國內法院在法律適用上面臨困境和不統一，如果歐盟不及時(shí)采取行動(dòng)，成員國必將各自調整其國家責任規則，這會(huì )進(jìn)一步加劇該領(lǐng)域法律的碎片化，損害歐盟單一市場(chǎng)，并導致跨境貿易企業(yè)和中小企業(yè)成本過(guò)高。另外，鼓勵對新興數字技術(shù)的信任，并為歐盟人工智能產(chǎn)品和服務(wù)的發(fā)展創(chuàng )造必要的投資穩定性，也是歐盟委員會(huì )提議背后的重要動(dòng)因。
上述針對人工智能系統相關(guān)責任問(wèn)題的新規則只是歐盟一系列舉措中的一部分，而通過(guò)《人工智能法》制定適用于所有在歐盟市場(chǎng)投放或使用的人工智能系統的共同規則，正是歐盟關(guān)于人工智能法律規制的重點(diǎn)。
三、歐盟《人工智能法》的立法進(jìn)程
早在2021年4月，歐盟委員會(huì )就提出了全球首個(gè)人工智能法律框架提案——歐盟《人工智能法》草案。為使“歐洲成為值得信賴(lài)的人工智能全球中心”，該草案充分回應了上述歐洲議會(huì )及理事會(huì )的多項呼吁，包括解決某些人工智能系統的不透明性、復雜性、偏差、一定程度的不可預測性和部分自主行為等問(wèn)題。
2024年1月，歐洲議會(huì )正式發(fā)布了《人工智能法》草案的修正案（以下稱(chēng)為“一讀修正案”）。一讀修正案中包含了大量修改，這是三方會(huì )談密集談判的結果，也是對歐盟委員會(huì )草案所受到的各種批評的回應。
2024年3月，歐洲議會(huì )正式通過(guò)了《人工智能法》。議會(huì )通過(guò)版在一讀修正案基礎上又做出大量修改，最終于2024年5月得到歐盟理事會(huì )的批準。
作為一部監管人工智能的全面性、強制性法律，《人工智能法》的立法目標在于：
（1）確保進(jìn)入歐盟市場(chǎng)和使用的人工智能系統是安全的，并尊重有關(guān)基本權利和符合歐盟價(jià)值觀(guān)的現行法律；
（2）實(shí)現法律的確定性，以促進(jìn)人工智能領(lǐng)域的投資和創(chuàng )新；
（3）加強對適用于人工智能系統的基本權利和安全要求的現行法律的管理和有效執行；
（4）促進(jìn)合法、安全和可信的人工智能應用單一市場(chǎng)的發(fā)展，防止市場(chǎng)分散。
在規則的設置上，草案體現出“平衡”與“適度”的監管思想，將干預限制在解決人工智能相關(guān)風(fēng)險和問(wèn)題的最低必要性之上，避免過(guò)度限制或阻礙技術(shù)發(fā)展，或不成比例地增加將人工智能技術(shù)投放市場(chǎng)的成本。
由此，歐盟建構了以《人工智能法》為核心，包括《人工智能責任指令》《產(chǎn)品責任指令》等以特別問(wèn)題為規制對象的指令，針對平臺但也涉及人工智能的法規（如《數字服務(wù)法》和《數字市場(chǎng)法》等），以及不涉及具體人工智能技術(shù)的法規（如《一般數據保護條例》等）作為支柱的對人工智能系統的監管體系。
圖片：歐盟人工智能監管部分大事件（來(lái)源：歐盟官網(wǎng)）
歐盟對待人工智能技術(shù)雖然打著(zhù)“強規制”的旗號，其背后的根本態(tài)度依然是“促進(jìn)”。其“強規制”的實(shí)際目標在于促進(jìn)人工智能技術(shù)達至“可信”，從而為歐盟企業(yè)、公共部門(mén)及民眾對人工智能的接納鋪平道路，拓展歐盟的人工智能技術(shù)市場(chǎng)及數據空間；遠期目標則關(guān)系到歐盟的整體戰略、核心利益、價(jià)值觀(guān)和話(huà)語(yǔ)權的實(shí)現。
（待續）
相關(guān)閱讀
生效！歐盟《人工智能法案》是紙老虎嗎？
全球AI監管丨歐盟《人工智能法案》的通過(guò)“不是歐盟AI立法終點(diǎn)”
吳沈括：歐盟《人工智能法案》的出臺意味著(zhù)什么？
作者：王天凡
《互聯(lián)網(wǎng)法律評論》特約專(zhuān)家
北京航空航天大學(xué)法學(xué)院副教授
【免責聲明】此文僅代表作者個(gè)人觀(guān)點(diǎn)，與本平臺無(wú)關(guān)。本平臺對文中陳述、觀(guān)點(diǎn)判斷保持中立，不對所包含內容的準確性、完整性或可靠性提供任何明示或暗示的保證。
《互聯(lián)網(wǎng)法律評論》提供業(yè)界解決方案
互聯(lián)網(wǎng)法律國際監管動(dòng)態(tài)研究
互聯(lián)網(wǎng)產(chǎn)業(yè)投資和政策監管研究
合作聯(lián)系
021yin.com
互聯(lián)網(wǎng)法律評論
《互聯(lián)網(wǎng)法律評論》是一個(gè)全新的法律自媒體平臺，持續關(guān)注中國及全球互聯(lián)網(wǎng)科技發(fā)展、產(chǎn)業(yè)發(fā)展和法律監管合規問(wèn)題，尤其是數據安全與個(gè)人隱私保護、知識產(chǎn)權、反壟斷等政策監管主題。
該公號運營(yíng)團隊包括：國際國內互聯(lián)網(wǎng)政策和法律研究、財經(jīng)媒體資深主編、互聯(lián)網(wǎng)企業(yè)公關(guān)戰略和品牌運營(yíng)等不同的專(zhuān)業(yè)人士，致力于打造一個(gè)持續輸出政策法律前瞻信息研究、且具有傳播優(yōu)勢的精品平臺。
