發(fā)起“人工智能守護計劃”，中國信通院擬推動(dòng)設立人工智能保險產(chǎn)品
央廣網(wǎng)北京7月30日消息（記者 樊瑞）近年來(lái)，生成式人工智能正引領(lǐng)社會(huì )新一輪產(chǎn)業(yè)變革，廣泛賦能生產(chǎn)生活場(chǎng)景。而同時(shí)，人工智能的安全倫理問(wèn)題日益凸顯。大模型時(shí)代，如何確保人工智能安全可控是當下亟需應對的問(wèn)題。
日前，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（以下簡(jiǎn)稱(chēng)“AIIA”）安全治理委員會(huì )在北京召開(kāi)成果發(fā)布會(huì )。會(huì )上，中國信息通信研究院（以下簡(jiǎn)稱(chēng)“中國信通院”）依托AIIA發(fā)起“人工智能安全守護計劃”，以提升我國人工智能技術(shù)水平和治理能力，促進(jìn)人工智能產(chǎn)業(yè)健康有序發(fā)展。
相關(guān)負責人在接受央廣網(wǎng)記者采訪(fǎng)時(shí)表示，推動(dòng)設立人工智能保險產(chǎn)品和服務(wù)是其未來(lái)重點(diǎn)工作之一，“目前國際上有做網(wǎng)絡(luò )安全保險的，但人工智能領(lǐng)域保險產(chǎn)品尚無(wú)人涉及，我我們希望能在國際上做個(gè)創(chuàng )新嘗試”。
人工智能治理需多方合力
AIIA秘書(shū)長(cháng)、中國信通院院長(cháng)余曉暉在會(huì )上表示，人工智能發(fā)展治理和安全已成當前各國面臨的一個(gè)重大議題。他指出，當前人工智能安全治理需要匯聚行業(yè)各方智慧和力量。
余曉暉提出，要完善人工智能安全風(fēng)險識別方法論。人工智能技術(shù)日益融入經(jīng)濟社會(huì )發(fā)展各領(lǐng)域全過(guò)程，其安全風(fēng)險面不斷擴大，需要建立更加敏捷、精準的安全風(fēng)險識別機制。
此外，通過(guò)強化風(fēng)險評估與防范，重點(diǎn)從人工智能基礎設施、算法模型、上層應用以及產(chǎn)業(yè)鏈等方面進(jìn)行評估，盡快盡早發(fā)現風(fēng)險。
余曉暉還強調，加強人工智能安全技術(shù)治理，加強對算法模型毒性、魯棒性、公平性等方面的評測技術(shù)工具研究，通過(guò)技術(shù)手段進(jìn)行治理。
“中國需要和全球各國共同研究人工智能，達成更廣泛的共識，共同釋放我們人工智能潛力、防范治理風(fēng)險”，余曉暉建議應加強國際合作。
AIIA安全治理委員會(huì )專(zhuān)家委主任、公安部信息安全等級保護評估中心原副主任畢馬寧指出，為應對當前人工智能所帶來(lái)的安全挑戰，AIIA安全治理委員會(huì )重點(diǎn)圍繞人工智能的治理框架、風(fēng)險管理、內生安全、安全應用開(kāi)展大量的理論和技術(shù)研究工作。
擬研究人工智能保險產(chǎn)品
會(huì )上，中國信通院正式發(fā)布“人工智能安全守護計劃”（簡(jiǎn)稱(chēng)“智安計劃”）。工業(yè)和信息化部網(wǎng)絡(luò )安全管理局數據安全處處長(cháng)雷楠、中國信通院人工智能研究所所長(cháng)魏凱、郵儲銀行軟件研發(fā)中心研發(fā)安全處負責人王齊峰、訊飛數碼科技吉印通副總裁楊娟等企業(yè)代表以及產(chǎn)業(yè)界50余家合作伙伴共同見(jiàn)證并啟動(dòng)該計劃。
“人工智能安全守護計劃”正式啟動(dòng)（主辦方供圖，央廣網(wǎng)發(fā)）
“希望能夠通過(guò)智安計劃，推動(dòng)人工智能安全的整體提升”，魏凱向央廣網(wǎng)記者介紹，智安計劃系中國信通院依托AIIA發(fā)起，計劃打造AI Guard品牌，提升國內人工智能技術(shù)的服務(wù)提供方、使用方的安全防護能力。
AIIA安全治理委員會(huì )辦公室主任、中國信通院人工智能研究所安全與元宇宙部主任石霖介紹，當前人工智能技術(shù)正經(jīng)歷顯著(zhù)的發(fā)展變化，其核心特征包括：通用能力的顯著(zhù)提升、具有強大的生成能力和場(chǎng)景泛化能力進(jìn)一步強化。
“這些特征共同勾勒出現代人工智能技術(shù)的全面發(fā)展態(tài)勢，體現出人工智能領(lǐng)域的持續活力和巨大發(fā)展空間”，石霖指出，與此同時(shí)，人工智能安全風(fēng)險日益凸顯。以大模型為代表的生成式人工智能產(chǎn)生系列技術(shù)安全問(wèn)題，既包括傳統AI的舊問(wèn)題，也包括大模型帶來(lái)的新風(fēng)險。
他指出，需要各方協(xié)同應對人工智能安全問(wèn)題，助力技術(shù)產(chǎn)業(yè)健康發(fā)展。產(chǎn)業(yè)界針對AI系統的安全防護雖有相應的政策制度、技術(shù)研究、標準研制和相關(guān)技術(shù)手段措施，存在威脅情報共享不足、內容無(wú)法追溯、風(fēng)險損失不可控等問(wèn)題，亟待建立機制予以解決。
AIIA安全治理委員會(huì )安全組組長(cháng)陳文弢表示，智安計劃希望吉印通多方力量，提升我國人工智能技術(shù)水平和治理能力，促進(jìn)人工智能產(chǎn)業(yè)健康有序發(fā)展。據他介紹，智安計劃接下來(lái)的重點(diǎn)工作主要有三個(gè)，包括建立AI威脅信息共享機制、建立AIGC真實(shí)性和可信來(lái)源互認機制和推動(dòng)設立人工智能保險產(chǎn)品和服務(wù)。
接下來(lái)，智安計劃打算吉印通風(fēng)險評估企業(yè)、保險公司，推動(dòng)設立人工智能相關(guān)保險產(chǎn)品，在出現安全事件、造成經(jīng)濟損失后直接賠付。陳文弢在接受央廣網(wǎng)記者采訪(fǎng)時(shí)表示，“目前國際上有做網(wǎng)絡(luò )安全保險的產(chǎn)品，但人工智能領(lǐng)域保險產(chǎn)品尚無(wú)人涉及，我們希望能在國際上做個(gè)創(chuàng )新嘗試”。
