齊向東：AI引發(fā)信息安全特殊場(chǎng)景 擁抱安全才能更快發(fā)展AI

6月5日上午，奇安信集團董事長(cháng)齊向東在2024全球數字經(jīng)濟大會(huì )數字安全高層論壇暨北京網(wǎng)絡(luò )安全大會(huì )戰略峰會(huì )上表示，網(wǎng)絡(luò )安全防護人員數量和資源不足，使網(wǎng)絡(luò )攻擊防不勝防，也是當前網(wǎng)絡(luò )安全的最大漏洞，解決有限的安全資源和100%的安全追求之間的矛盾，要靠AI驅動(dòng)安全。

會(huì )后，齊向東現場(chǎng)接受了新京報貝殼財經(jīng)記者采訪(fǎng)。對于當前AI落地過(guò)程中可能令企業(yè)顧慮的安全問(wèn)題，齊向東表示，AI引發(fā)了數據安全的特殊場(chǎng)景，而這在以往沒(méi)有遇到過(guò)?！癆I+”應該是千行百業(yè)，但是AI+網(wǎng)絡(luò )安全，一定會(huì )走得更快，這樣才符合AI發(fā)展的趨勢和潮流。

AI通過(guò)學(xué)習獲得更強能力 也帶來(lái)數據泄露風(fēng)險

2024年是AI落地之年，在此前的采訪(fǎng)中，新京報貝殼財經(jīng)記者觀(guān)察到，不少企業(yè)對于引入AI大模型提高生產(chǎn)力持歡迎態(tài)度，但落地的障礙除了數字化技術(shù)有待升級，還有對于A(yíng)I可能導致企業(yè)核心“秘密”或重要客戶(hù)資料泄露的顧慮。

對此，齊向東告訴貝殼財經(jīng)記者，把AI當成超級人腦，問(wèn)它問(wèn)題的時(shí)候，輸入的內容越多，返回的建議就越精準、越有價(jià)值，但俗話(huà)說(shuō)“教會(huì )徒弟餓死師傅”，如果千行百業(yè)中的每一個(gè)專(zhuān)家向AI發(fā)問(wèn)的時(shí)候都“掏心窩子”，把自己所知的傾囊告知AI，那么AI通過(guò)學(xué)習，實(shí)際就擁有了更強的能力，這給我們帶來(lái)了數據泄露的風(fēng)險。

“可能向AI提問(wèn)涉及專(zhuān)有的知識產(chǎn)權、發(fā)明和商業(yè)秘密，AI學(xué)習之后，當競爭對手向AI提出問(wèn)題時(shí)，AI可能會(huì )把你的方案作為最優(yōu)的方案，或者參考你的方案，給予競爭對手更優(yōu)的方案，這個(gè)時(shí)候，在跟AI交流的過(guò)程中，不知不覺(jué)地把你的商業(yè)秘密泄露了，這是AI引發(fā)數據安全的特殊場(chǎng)景，而這個(gè)場(chǎng)景在以往沒(méi)有遇到過(guò)?！饼R向東說(shuō)。

在他看來(lái)，這一點(diǎn)頗為矛盾，“AI不管在訓練還是使用的過(guò)程中，必然要接入數據，如果讓AI自動(dòng)工作，不讓它觸碰數據不行。就像我們雇了高級的員工，員工要做高級的工作，不讓碰公司的業(yè)務(wù)數據是做不了的。既然要碰數據，AI又不是‘自己生的’，而是從外面‘領(lǐng)養’的，那么，AI是否會(huì )有后門(mén)，AI是否會(huì )被人‘投毒’，都是無(wú)從可知的，也沒(méi)有能力發(fā)現，這是數據安全帶來(lái)的另一潛在風(fēng)險?！?/p>

齊向東認為，這是AI使用過(guò)程中可能會(huì )帶來(lái)的數據安全問(wèn)題，這些問(wèn)題不解決就會(huì )影響AI的發(fā)展和驅動(dòng)，“我們也不要被AI可能引發(fā)的數據泄露所嚇到，要擁抱AI，也要把安全的問(wèn)題交給安全公司，相信專(zhuān)業(yè)人辦專(zhuān)業(yè)的事。安全公司發(fā)展AI，給客戶(hù)帶來(lái)數據安全的風(fēng)險很低，因為安全的AI所觸碰的是安全設備產(chǎn)生的告警，而這個(gè)告警信息與業(yè)務(wù)信息剝離，不含有業(yè)務(wù)信息的密碼，所以哪怕是把安全設備產(chǎn)生的告警信息全部給安全公司，讓安全公司用于A(yíng)I的學(xué)習，或者是AI的指導，也不會(huì )導致商業(yè)秘密的泄露和數據泄露?！?/p>

AI驅動(dòng)網(wǎng)絡(luò )防護能力指數級躍升 但釋能仍需“統一度量衡”

“攻擊者突破安全防線(xiàn)有幾個(gè)階段，先突破單點(diǎn)設備、再突破防護體系。安全事件被發(fā)現后，還要想辦法隱匿蹤跡?！饼R向東介紹，AI在網(wǎng)絡(luò )安全領(lǐng)域的應用已經(jīng)可以覆蓋這幾個(gè)階段，并帶來(lái)網(wǎng)絡(luò )防護能力數十倍乃至上千倍的提升。

具體來(lái)看，在單點(diǎn)設備的檢測上，人工智能依托算力資源和持續訓練后的研判能力，打破了人力資源和效率邊界，能減少90%的漏報，實(shí)現安全能力10倍級提升。在體系化防御上，AI賦能綜合分析和全局聯(lián)動(dòng)，帶來(lái)安全能力百倍級提升。在溯源和反制上，AI憑借智能化、自動(dòng)化，可實(shí)現響應能力的千倍級提升。

不過(guò)，齊向東認為，AI在網(wǎng)絡(luò )安全領(lǐng)域釋放強大潛能也有賴(lài)于三大必要條件，分別為全而新的高質(zhì)量數據，為AI訓練和應用提供基礎支撐；體系化的網(wǎng)絡(luò )安全建設，為AI發(fā)揮效率創(chuàng )造平臺；標準的統一，為AI驅動(dòng)安全效能發(fā)揮掃除障礙。

“統一度量衡，功在當代，利在千秋?！饼R向東呼吁，進(jìn)入AI驅動(dòng)安全的新紀元，全行業(yè)要在數據輸入、指令輸出兩大關(guān)鍵環(huán)節實(shí)現“車(chē)同軌、書(shū)同文”。

新京報貝殼財經(jīng)記者 羅亦丹

編輯 林子

校對 翟永軍