人工智能安全挑戰迫在眉睫

在大模型時(shí)代，如何確保人工智能安全、可信可控？在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（下稱(chēng)“AIIA”）安全治理委員會(huì )近日召開(kāi)的“守護AI安全，共話(huà)向善未來(lái)——AIIA安全治理委員會(huì )成果發(fā)布會(huì )上，來(lái)自產(chǎn)學(xué)研各界的近200名行業(yè)專(zhuān)家、高校學(xué)者以及企業(yè)代表共話(huà)AI安全。

上證報中國證券網(wǎng)訊（竇世平 記者 李雁爭）在大模型時(shí)代，如何確保人工智能安全、可信可控？在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（下稱(chēng)“AIIA”）安全治理委員會(huì )近日召開(kāi)的“守護AI安全，共話(huà)向善未來(lái)——AIIA安全治理委員會(huì )成果發(fā)布會(huì )上，來(lái)自產(chǎn)學(xué)研各界的近200名行業(yè)專(zhuān)家、高校學(xué)者以及企業(yè)代表共話(huà)AI安全。

人工智能安全本身就是人工智能能力的體現

近日，微軟藍屏宕機事件引發(fā)各界反思，一次互聯(lián)網(wǎng)時(shí)代的軟件瑕疵都會(huì )引發(fā)全球“癱瘓”，若劇情在A(yíng)I時(shí)代重新上演，損失將不可估量。

中國信通院人工智能研究所所長(cháng)魏凱在會(huì )上表示，世界各國都對人工智能的發(fā)展表示出非常大的期待，不論是發(fā)達國家或者發(fā)展中國家，普遍認為人工智能是一個(gè)巨大的機遇，同時(shí)也對人工智能的確定性安全和風(fēng)險挑戰表示擔憂(yōu)。

人工智能發(fā)展與安全的關(guān)系究竟應該如何平衡？

中國科學(xué)院自動(dòng)化研究所研究員、國家新一代人工智能治理專(zhuān)委會(huì )委員、吉印通國人工智能高層顧問(wèn)機構專(zhuān)家曾毅認為，作為科技創(chuàng )新者，思考科技突破帶來(lái)的社會(huì )風(fēng)險應該是我們內生基因的一部分，不存在人工智能能力與安全的平衡，人工智能安全本身就是人工智能能力的體現。

人工智能治理對跨界復合能力提出了更高的要求

人工智能天生具備高度交叉的技術(shù)和產(chǎn)業(yè)屬性，跨界融合正成為人工智能發(fā)展的主流形態(tài)。北京大學(xué)法學(xué)院教授、人工智能研究院AI安全與治理中心主任張平表示，人工智能歸根結底不只是一個(gè)技術(shù)問(wèn)題，像北大人工智能研究院就聘用了文史哲政經(jīng)法所有學(xué)科的老師，而不僅僅是技術(shù)研發(fā)的老師，聚集了許多人文社科領(lǐng)域的老師一起去探討人工智能的問(wèn)題。

“對于法學(xué)專(zhuān)家來(lái)講，首先要了解技術(shù)特征。如果不了解技術(shù)特征，你寫(xiě)的規范和規制的思路是不適用這個(gè)技術(shù)的，換句話(huà)說(shuō)是無(wú)效的，可能邏輯推演是嚴謹的，但現實(shí)中是沒(méi)法用的。所以對于法學(xué)專(zhuān)業(yè)來(lái)講，你要根據這種特征和特性來(lái)設計一套配置方案出來(lái)。這是最大的挑戰。”中國法學(xué)會(huì )法治研究所研究員、中國法學(xué)會(huì )網(wǎng)絡(luò )與信息法學(xué)研究會(huì )副秘書(shū)長(cháng)劉金瑞說(shuō)道。