施騫 肖超 | 筑牢人工智能安全監管制度防線(xiàn)
圖為特斯拉擎天柱機器人。本報記者 袁婧攝
黨的二十屆三中全會(huì )提出：“加強網(wǎng)絡(luò )安全體制建設，建立人工智能安全監管制度。”這是黨中央統籌發(fā)展與安全，積極應對人工智能安全風(fēng)險作出的重要部署。為了預判和有效應對人工智能技術(shù)發(fā)展產(chǎn)生的風(fēng)險，以及人工智能應用帶來(lái)的真實(shí)影響，有效推進(jìn)人工智能技術(shù)的應用發(fā)展，必須深入解析智能技術(shù)引發(fā)社會(huì )風(fēng)險的全新特征，對社會(huì )風(fēng)險進(jìn)行前瞻預測、科學(xué)約束、正確引導，構建兼顧發(fā)展與安全的人工智能社會(huì )風(fēng)險綜合治理體系，為社會(huì )治理效能提升注入動(dòng)能。
人工智能時(shí)代社會(huì )風(fēng)險的四個(gè)全新特征
當前，全球進(jìn)入具有高度不確定性的“風(fēng)險社會(huì )”時(shí)代，人工智能技術(shù)正在改變現代社會(huì )的運行邏輯與規則，人類(lèi)社會(huì )的價(jià)值理念、行為方式正在被系統化重構，由此產(chǎn)生的社會(huì )風(fēng)險主要呈現為蔓延性、級聯(lián)性、衍生性和滯后性四個(gè)全新特征：
其一，人工智能提升了風(fēng)險信息的擴散速度與范圍，社會(huì )風(fēng)險具有蔓延性。人工智能技術(shù)降低了信息生成難度，提升了信息擴散的廣度和深度，信息擴散使得風(fēng)險事件的影響范圍級數擴大，形成了極強的蔓延性。同時(shí)，人工智能通過(guò)情感分析和行為預測，能夠識別和放大用戶(hù)的情緒和行為。一類(lèi)風(fēng)險事件如果引發(fā)了強烈的諸如恐慌、憤怒等情緒反應，人工智能系統可能會(huì )優(yōu)先推薦和傳播這類(lèi)信息，進(jìn)一步加劇公眾情緒，使得風(fēng)險信息具有極強的感染性和蔓延性，如果不加以有效監管和控制，將對社會(huì )安全和社會(huì )秩序造成極大影響。
其二，人工智能模糊了社會(huì )系統虛實(shí)邊界，社會(huì )風(fēng)險具有級聯(lián)性。人工智能技術(shù)使得人與人、人與物、物與物之間高度耦合，虛擬世界和現實(shí)世界的界限變得模糊，形成一個(gè)復雜的網(wǎng)絡(luò )系統。眾多社會(huì )活動(dòng)通過(guò)虛擬平臺進(jìn)行，又嵌入現實(shí)情境，虛擬世界中的數據泄露可能會(huì )導致現實(shí)世界中的身份盜用，社交媒體上的輿論可以迅速影響現實(shí)世界中的社會(huì )行為和決策。反之，現實(shí)世界中的安全事件也會(huì )通過(guò)數據傳輸影響虛擬世界的安全，虛實(shí)互動(dòng)造成社會(huì )風(fēng)險的級聯(lián)效應。智能技術(shù)賦能下不同社會(huì )系統間高度互聯(lián)，眾多決策過(guò)程實(shí)現自動(dòng)化，然而自動(dòng)化系統的錯誤決策可能引發(fā)一系列連鎖反應，導致風(fēng)險的級聯(lián)性傳播。
其三，人工智能引發(fā)了一系列次生風(fēng)險和風(fēng)險鏈，社會(huì )風(fēng)險具有衍生性。人工智能技術(shù)的應用可能會(huì )引發(fā)初始風(fēng)險，風(fēng)險在解決或緩解過(guò)程中，會(huì )進(jìn)一步引發(fā)一系列次生風(fēng)險，形成復雜的風(fēng)險鏈條。風(fēng)險事件可以在不同領(lǐng)域之間迅速擴散，在多個(gè)層次上傳導，形成次生風(fēng)險。例如網(wǎng)絡(luò )攻擊不僅會(huì )導致信息泄露，還可能通過(guò)影響物聯(lián)網(wǎng)等引發(fā)現實(shí)世界中的事故，如交通堵塞、醫療設備故障等。數據錯誤或算法不當也可能衍生一系列次生風(fēng)險。以算法偏見(jiàn)為例，其所導致的決策機制不公平現象，往往會(huì )引發(fā)社會(huì )的不滿(mǎn)和沖突。而風(fēng)險事件通常又會(huì )造成公眾行為和心理的變化，進(jìn)一步衍生新的次生風(fēng)險，形成風(fēng)險鏈。
其四，人工智能隱匿了部分風(fēng)險事件的影響，社會(huì )風(fēng)險具有滯后性。人工智能技術(shù)依賴(lài)大量數據進(jìn)行訓練和操作，依靠算法進(jìn)行決策，數據泄露或濫用可能不會(huì )立即造成明顯影響，決策過(guò)程和結果可能在短期內看不出問(wèn)題，但隨著(zhù)時(shí)間的推移，數據濫用和算法偏見(jiàn)的累積效應會(huì )逐漸顯現。同時(shí)，人工智能技術(shù)還高度依賴(lài)技術(shù)基礎設施和自動(dòng)化系統，這些系統故障或設計缺陷可能在短期內不易發(fā)現，但隨著(zhù)時(shí)間的推移，問(wèn)題逐漸積累可能導致系統性風(fēng)險。智能技術(shù)的應用對社會(huì )行為和心理有深遠影響。例如，長(cháng)期使用智能推薦系統可能導致信息繭房效應，使用戶(hù)的視野變狹窄，進(jìn)而影響社會(huì )的多樣性和包容性。
實(shí)現“面向人工智能的治理”的四種策略
為有效應對人工智能技術(shù)發(fā)展可能引發(fā)的社會(huì )風(fēng)險及其全新特征，必須有針對性地變更傳統風(fēng)險治理模式，在利用人工智能技術(shù)提升風(fēng)險識別與預警效率，做到“基于人工智能的治理”的同時(shí)，有效防范與預警人工智能技術(shù)應用可能帶來(lái)的風(fēng)險，實(shí)現“面向人工智能的治理”，構建“技術(shù)賦能社會(huì )治理、治理防范技術(shù)濫用”的雙向治理邏輯。
首先，利用多模態(tài)數據識別復雜交互關(guān)系，提升風(fēng)險識別與預警的準確性。多模態(tài)數據是指對于同一描述對象，通過(guò)不同領(lǐng)域或視角獲取的數據，用來(lái)表示不同形態(tài)的數據形式或同種形態(tài)的不同格式。多模態(tài)數據融合技術(shù)能夠充分挖掘和利用數據間的互補信息，更全面地表征對象特征，識別或推斷更復雜的交互關(guān)系，實(shí)現對社會(huì )復雜巨系統的實(shí)時(shí)感知、關(guān)聯(lián)分析和態(tài)勢預測，不僅可以提高風(fēng)險識別的準確性，構建更具靈活性的風(fēng)險評估和預警框架，實(shí)現風(fēng)險管控的前瞻性和動(dòng)態(tài)性，還可以有效整合風(fēng)險預警與響應過(guò)程中彼此獨立的決策過(guò)程，為不同決策主體間的協(xié)同提供基礎方法和工具。因此，可以通過(guò)整合來(lái)自不同領(lǐng)域的不同模態(tài)數據，將文本、圖像、音頻和傳感器數據等不同模態(tài)的數據進(jìn)行綜合分析，應用機器學(xué)習、深度學(xué)習等技術(shù)，識別數據之間的復雜交互關(guān)系。促進(jìn)政府、企業(yè)、社會(huì )組織、學(xué)術(shù)機構等多方協(xié)作，建立跨部門(mén)的信息共享機制，整合多模態(tài)數據資源，構建實(shí)時(shí)預警系統，及時(shí)發(fā)現和預警潛在風(fēng)險。
其次，結合智能技術(shù)發(fā)展應用水平制定個(gè)性化風(fēng)險治理方案，防止出現風(fēng)險應力集中現象。由于不同區域間經(jīng)濟社會(huì )發(fā)展與人工智能技術(shù)應用水平存在差異，進(jìn)而導致風(fēng)險響應能力的不一致，社會(huì )風(fēng)險的跨區域傳播演化呈現不均衡的現象。需要結合區域發(fā)展實(shí)際制定個(gè)性化風(fēng)險治理方案，通過(guò)多主體多區域協(xié)同降低局部應力，避免形成社會(huì )系統的結構性破壞。因此，人工智能技術(shù)的風(fēng)險治理首先要評估不同區域的人工智能技術(shù)應用水平，并分析包括應急資源、技術(shù)基礎設施、管理能力在內的風(fēng)險響應能力，識別區域風(fēng)險應對的強弱點(diǎn)。根據不同區域的具體情況，制定個(gè)性化的風(fēng)險治理策略。例如，經(jīng)濟發(fā)達地區可以重點(diǎn)加強技術(shù)安全和數據保護，而經(jīng)濟欠發(fā)達地區則需要提升基礎設施建設和技術(shù)普及。通過(guò)政策支持和資金投入，推動(dòng)技術(shù)落后地區的智能技術(shù)應用水平提升，縮小區域間技術(shù)差距和風(fēng)險響應能力差異。
再次，平衡技術(shù)發(fā)展與風(fēng)險規制，優(yōu)化風(fēng)險治理總成本，做到數智技術(shù)既“管得住”又“放得活”。人工智能風(fēng)險治理需要兼顧“安全”與“發(fā)展”，既要規避治理失效造成的經(jīng)濟社會(huì )損失，又要防止過(guò)度治理帶來(lái)的經(jīng)濟社會(huì )效益降低。人工智能風(fēng)險治理的成本包括治理機制生效與失效狀態(tài)下風(fēng)險預防成本、社會(huì )失效成本與社會(huì )效益損失成本等眾多成本要素。可根據技術(shù)的成熟度和應用場(chǎng)景，適時(shí)調整監管強度。在技術(shù)初期階段，采用寬松監管，鼓勵創(chuàng )新；在技術(shù)成熟期，加強監管，確保安全和規范。在制定風(fēng)險治理策略時(shí)，需要量化不同成本要素，進(jìn)行成本效益分析，選擇最優(yōu)治理方案，既有效控制風(fēng)險，又避免不必要的治理成本。同時(shí)，為有效降低風(fēng)險治理成本，可提供政策和資金支持，鼓勵企業(yè)和科研機構開(kāi)展安全技術(shù)創(chuàng )新，在推動(dòng)人工智能技術(shù)創(chuàng )新的同時(shí)，確保安全保障措施的同步發(fā)展。
最后，超前研判人工智能技術(shù)發(fā)展可能引發(fā)的社會(huì )風(fēng)險，妥善制定人工智能社會(huì )風(fēng)險監管制度與標準。人工智能技術(shù)的快速發(fā)展迭代往往快于政策和法律的制定和調整，導致面向人工智能的治理政策標準具有一定的滯后性。因此，需要將人工智能技術(shù)應用嵌入社會(huì )治理中，面向人工智能社會(huì )風(fēng)險制定相關(guān)的安全監管制度與行業(yè)標準，在推動(dòng)智能技術(shù)應用場(chǎng)景建設與發(fā)展的同時(shí)，確保政策和法律能夠與技術(shù)發(fā)展同步。應定期進(jìn)行人工智能技術(shù)發(fā)展趨勢分析，從技術(shù)、倫理、法律、經(jīng)濟和社會(huì )等多個(gè)維度進(jìn)行綜合評估，建立人工智能風(fēng)險預警機制，及時(shí)發(fā)現和預判新興技術(shù)帶來(lái)的潛在風(fēng)險，研究制定靈活且具有前瞻性的政策和法規。此外，還應積極參與國際標準和法規的制定，建立跨國合作平臺，促進(jìn)各國在人工智能治理方面的合作與交流，共同應對全球性的技術(shù)風(fēng)險和挑戰。
（作者單位：同濟大學(xué)經(jīng)濟與管理學(xué)院）
作者：
文：施騫 肖超 圖：袁婧 編輯：陳瑜 責任編輯：楊逸淇
轉載此文請注明出處。
