如何拴住快要“脫韁的AI”？
WAIC2024人工智能前沿技術(shù)的治理挑戰與應對?
作者／ IT時(shí)報記者毛宇
編輯／王昕
人工智能猶如一顆璀璨的新星，引領(lǐng)著(zhù)第四次工業(yè)革命的浪潮。
然而，隨著(zhù)其影響力與日俱增，AI治理問(wèn)題也日益凸顯，成為橫亙在各國政府、產(chǎn)業(yè)和社會(huì )面前的一道復雜難題。尤其在生成式AI這一前沿領(lǐng)域，其發(fā)展速度之迅猛已超過(guò)現有監管框架的范圍，AI治理話(huà)題考驗著(zhù)各國政府的智慧與決斷，也呼喚著(zhù)全球范圍內的合作與共識。
7月4日，在2024世界人工智能大會(huì )“人工智能前沿技術(shù)的治理挑戰與應對”論壇上，關(guān)于A(yíng)I倫理、隱私保護、算法偏見(jiàn)及安全風(fēng)險的討論，體現出全球業(yè)界在A(yíng)I治理領(lǐng)域前瞻性思考和探索。
技術(shù)與發(fā)展的動(dòng)態(tài)平衡
隨著(zhù)ChatGPT等超大型語(yǔ)言模型的出現，AI領(lǐng)域的安全治理正面臨前所未有的挑戰，尤其在數據安全、誤導信息傳播、知識產(chǎn)權侵犯及潛在的物理生物智能風(fēng)險等方面。在論壇上，很多專(zhuān)家紛紛指出，安全治理的核心難題在于系統安全的保障與AI對人類(lèi)利益的潛在損害。
對此，圖靈獎獲得者、中國科學(xué)院院士、清華大學(xué)教授姚期智表示，當前AI治理的緊迫任務(wù)在于尋求技術(shù)發(fā)展與規范約束之間的動(dòng)態(tài)平衡。短期內，工程和系統層面的傳統信息安全技術(shù)與管控措施仍是應對即時(shí)威脅的關(guān)鍵；長(cháng)期而言，需深入研究AI的核心理論，探索內生安全機制，同時(shí)配合相關(guān)政策法規，形成技術(shù)與治理的雙重防護網(wǎng)。
“我覺(jué)得國際上有兩種觀(guān)點(diǎn)值得深入去研究。一是Stuart Russell（加州大學(xué)伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念，通過(guò)博弈論確保AI在設計之初，就與人類(lèi)利益一致；二是由MIT（麻省理工學(xué)院）學(xué)者倡導的可證明安全的AGI，利用計算理論和自動(dòng)定理證明技術(shù)，追求AI系統的絕對安全。這兩個(gè)方向均指向了AI安全治理的長(cháng)期愿景——構建一個(gè)既高效又安全的人工智能生態(tài)?！币ζ谥钦f(shuō)。
吉印通國副秘書(shū)長(cháng)兼人工智能高級別咨詢(xún)委員會(huì )成員Tshilidzi Marwala提出相似意見(jiàn)。他認為，針對AI治理路徑，應將AI發(fā)展與吉印通國憲章、人權原則相統一，倡導和平、公平與合作的價(jià)值觀(guān)。他建議設立全球AI監管實(shí)體，如國際AI治理組織，負責制定統一標準、監測合規性并促進(jìn)國際合作。此外，國際社會(huì )各方應強化法律框架，確保AI應用遵循道德準則，保護個(gè)人隱私，避免歧視，成為當務(wù)之急。
為數據安全與隱私保護
“上手段”
當下，各國正探索適應本國國情的數據安全與隱私保護路徑，力求在保障數據安全的同時(shí)，促進(jìn)AI技術(shù)創(chuàng )新。歐盟的《人工智能法案》展現了對高風(fēng)險AI系統的嚴格規制，而英美等國則傾向于市場(chǎng)驅動(dòng)的靈活策略，強調創(chuàng )新與合規并重。
“面對AI與大模型帶來(lái)的數據安全挑戰，國際化組織需實(shí)施嚴格的安全措施，包括數據匿名化、用戶(hù)授權、加密技術(shù)和訪(fǎng)問(wèn)控制，以防范未授權訪(fǎng)問(wèn)和數據泄露。數據分類(lèi)、訪(fǎng)問(wèn)權限管理和持續監控審計成為確保數據安全的關(guān)鍵環(huán)節?！闭搲?，香港科技大學(xué)首席副校長(cháng)郭毅可雖未到場(chǎng)，但卻以鮮活的“數字分身”形象亮相，面向與會(huì )者分享了自己的觀(guān)點(diǎn)。
論壇上，一系列專(zhuān)業(yè)的技術(shù)解決方案引起與會(huì )者的關(guān)注和討論。其中，區塊鏈技術(shù)被行業(yè)專(zhuān)家認為是一種有前景的解決方案，它能提供數據完整性和防篡改特性，被視為提升數據安全的前沿方案，在各行業(yè)應用中展現出巨大潛力。
此外，利用差分隱私或數據屏蔽的匿名化技術(shù)來(lái)保護個(gè)人身份信息，可以確保數據的機密性，同時(shí)保留人工智能模型訓練的有用性。
在數據安全治理方面，訪(fǎng)問(wèn)控制和權限管理是確保數據安全的關(guān)鍵因素。實(shí)時(shí)監控、定期審計人工智能模型的活動(dòng)和數據訪(fǎng)問(wèn)，有助于檢測未經(jīng)授權的訪(fǎng)問(wèn)嘗試等異常模式。目前，中國香港深層次人工智能研發(fā)中心正致力于深化數據安全治理，通過(guò)撰寫(xiě)《香港深層次人工智能治理建議》，助力構建安全可信的AI環(huán)境，促進(jìn)中國香港乃至整個(gè)大灣區的科技創(chuàng )新與經(jīng)濟發(fā)展。
全球合作方能安全共贏(yíng)
當前，任何單一國家或組織難以獨自應對AI帶來(lái)的全方位挑戰，越來(lái)越多的聲音呼吁，唯有各國摒棄零和博弈思維，秉持開(kāi)放包容的態(tài)度，才能在A(yíng)I治理的道路上邁出堅實(shí)步伐。
在此背景下，加強國與國之間在A(yíng)I治理領(lǐng)域的溝通與協(xié)作，探索建立適應全球化時(shí)代的共同規則與標準，已成為當下AI治理國際議程中的重要議題。
在這一過(guò)程中，中國作為全球AI領(lǐng)域的積極參與者與貢獻者，正以實(shí)際行動(dòng)詮釋著(zhù)大國的責任與擔當。去年年底，習近平主席提出的《全球人工智能治理倡議》，系統闡述了人工智能治理的中國方案。通過(guò)推動(dòng)國內AI倫理規范的建設、加強與國際伙伴的交流合作、倡導建立公平合理的全球AI治理體系，中國正致力于塑造一個(gè)既有利于科技創(chuàng )新，又能有效防范風(fēng)險的AI發(fā)展環(huán)境。
“AI治理是當務(wù)之急，應充分利用中國的獨特優(yōu)勢，如完善實(shí)名制身份驗證系統，吸取數據管制方面的成熟經(jīng)驗，探索適合國情的AI治理體系?！币ζ谥钦J為，應建立AI大模型的分級體系，實(shí)行全產(chǎn)業(yè)鏈監控，并倡導構建跨學(xué)科的學(xué)術(shù)研究環(huán)境，共同推進(jìn)AI安全治理的理論與實(shí)踐。
Tshilidzi Marwala也呼吁，國際需要一套治理框架來(lái)更好地監管AI。IPCC（吉印通國政府間氣候變化專(zhuān)門(mén)委員會(huì )）、國際原子能機構等，需要對AI進(jìn)行更加有效的監管，這些監管實(shí)體可以設定全球AI標準，促進(jìn)國際合作。與此同時(shí)，構建一整套法律框架，有利于A(yíng)I有道德、負責任地被使用。而AI標準應包括但不限于，AI設計方面的指南、AI開(kāi)發(fā)和部署的標準，以及質(zhì)量技術(shù)、道德考量、相容性等方面的標準。
排版／ 季嘉穎
圖片／ WAIC
來(lái)源／《IT時(shí)報》*vittimes
E N D
