當前位置:首頁(yè) > 百科 > 正文內容

AI時(shí)代的安全挑戰:如何用好AI這把“雙刃劍”?

烏魯木齊廣告字制作3個(gè)月前 (07-21)百科11
印刷廠(chǎng)直印●彩頁(yè)1000張只需要69元●名片5元每盒-更多報價(jià)?聯(lián)系電話(huà):138-1621-1622(微信同號)

當前,隨著(zhù)生成式人工智能(GenAI)的興起,企業(yè)也面臨著(zhù)前所未有的安全挑戰。

據IBM Security發(fā)布的《2023年數據泄露成本報告》顯示,僅數據泄露一項,2023年全球數據泄露的平均成本達到445萬(wàn)美元,創(chuàng )該報告有史以來(lái)以來(lái)最高記錄,較過(guò)去三年均值增長(cháng)了15%。

“GenAI火爆的當下,黑客攻擊手段也越來(lái)越多樣化,原先需要一個(gè)團隊完成的攻擊,現在僅需要一個(gè)人,利用不同類(lèi)型的大模型就可以完成。”Fortinet北亞區首席技術(shù)顧問(wèn)譚杰告訴鈦媒體APP,“通過(guò)Agent的方式,給不同的AI分配不同任務(wù),有的負責掃描漏洞、有的負責制作‘武器’,有的負責實(shí)施攻擊。”

可見(jiàn),AI在為企業(yè)業(yè)務(wù)提效帶來(lái)便捷,推動(dòng)降本增效的同時(shí),也為網(wǎng)絡(luò )攻擊者帶來(lái)了便捷,在原本錯綜復雜的網(wǎng)絡(luò )環(huán)境,以及數據安全風(fēng)險難題上,增加了新的挑戰。而且,傳統的安全控制已經(jīng)不足以應對這些新興風(fēng)險,需要專(zhuān)門(mén)針對 AI建立管理策略以保障系統的穩健性、合規性。

享受AI技術(shù)紅利的前提是守住安全的底線(xiàn),這對身處其中的科技、安全廠(chǎng)商和各行各業(yè)應用AI能力的企業(yè)而言,是AI時(shí)代一道新的必答題。

AI時(shí)代,安全面臨更多挑戰

生成式AI在解放生產(chǎn)力,提高工作效率的同時(shí),也帶來(lái)了更多、更嚴峻的安全問(wèn)題,包括內容偏見(jiàn)、數據泄露和 AI 應用漏洞等。

據統計,2023年以來(lái),用AI技術(shù)開(kāi)展的攻擊,已經(jīng)成為企業(yè)面臨首要網(wǎng)絡(luò )威脅,騰訊安全總經(jīng)理周斌告訴鈦媒體APP,AI大模型的火爆,也極大提升了攻擊者的攻擊效率。

首先,攻擊目標和范圍變大。AI大模型驅動(dòng)的智能化時(shí)代,圍繞數據產(chǎn)生的交互和分析行為會(huì )越來(lái)越普遍,這將進(jìn)一步擴大企業(yè)風(fēng)險面的暴露面,動(dòng)態(tài)的數據流轉和使用,需要更加完善的防護手段。

其次,攻擊密度增加。攻擊的成本和門(mén)檻下降之后,其攻擊的頻次、密度會(huì )大幅提升,以前的攻守節奏可能是回合制的,防守方還有一天或者一周的時(shí)間調整安全策略;但大模型加持下,黑客會(huì )讓攻防變成“即時(shí)戰略”的對抗,企業(yè)的反應時(shí)間窗口將被迫縮短至小時(shí)級,甚至分鐘級。

第三,模擬“機器”和“人”的精度提升。黑灰產(chǎn)利用AI提升模擬真實(shí)用戶(hù)行為的效率,企業(yè)難以辨別,例如在黃牛黨搶票、金融信貸欺詐等。

第四,攻擊特征超越企業(yè)“情報庫”。企業(yè)安全建設往往依賴(lài)于安全情報庫,以記錄經(jīng)?!案蓧氖隆钡膼阂釯P和異常流量特征。當黑客利用生成式AI實(shí)時(shí)變換大量的行為特征時(shí),傳統靜態(tài)情報庫將逐漸失去防護價(jià)值。

此外,據鈦媒體APP與多家企業(yè)交流發(fā)現,目前已經(jīng)出現有企業(yè)在應用大模型后,遭到黑客利用提示詞進(jìn)行惡意攻擊,比如讓大模型產(chǎn)生身份識別偏差,進(jìn)一步利用假冒的身份對企業(yè)大模型輸入內容套取用戶(hù)信息或企業(yè)商業(yè)機密。

談及AI時(shí)代企業(yè)安全面臨的安全挑戰的場(chǎng)景時(shí),奇安信集團董事長(cháng)齊向東對鈦媒體APP表示,具體到數字安全方面,人工智能帶首要面臨的是,AI投毒安全隱患加重,攻擊者可以通過(guò)在訓練數據中加入精心構造的異常數據,破壞訓練數據集的準確性。

其次,隨著(zhù)AI大模型大規模應用之后,整個(gè)社會(huì )都將面臨更加嚴峻的數據篡改隱患,齊向東告訴鈦媒體APP,AI的大規模內容生產(chǎn)能力可能產(chǎn)生真假難辨的信息,控制社交軟件乃至媒體的輿論聲音,激化意識形態(tài)矛盾。360數字安全集團安全專(zhuān)家也有著(zhù)類(lèi)似的觀(guān)點(diǎn),他曾對鈦媒體APP表示,在A(yíng)I時(shí)代,企業(yè)也面臨著(zhù)新的內容安全的挑戰,“比如對大模型的控制、濫用、誤用和惡意應用等問(wèn)題。”該專(zhuān)家指出。

除此之外,數據泄露隱患也隨著(zhù)大模型的應用而加重。IEEE電子游戲與競技標準委員會(huì )委員汪齊齊對鈦媒體APP表示,企業(yè)在使用非自研的大模型過(guò)程中,由于交互中的信息以及企業(yè)獨有的信息需要輸入到當前環(huán)境,如果該環(huán)境的安全性不夠理想,那么敏感的企業(yè)和個(gè)人信息以及商業(yè)機密可能會(huì )被泄露,導致隱私侵犯和商業(yè)泄密的發(fā)生。

企業(yè)如何用AI筑牢安全防線(xiàn)?

“之前IT行業(yè)的各類(lèi)風(fēng)險在A(yíng)I時(shí)代會(huì )進(jìn)一步擴大。以往奏效的安全措施在A(yíng)I時(shí)代必然會(huì )有部分失效并被淘汰。”汪齊齊說(shuō)。在A(yíng)I時(shí)代,傳統的安全防護措施已經(jīng)不足以確保企業(yè)的數據安全,企業(yè)需要構建一套全新的安全防線(xiàn)。

雖然AI大模型的出現給企業(yè)數據安全帶來(lái)了嚴峻的挑戰,但是企業(yè)也可以利用AI為工具,筑起安全防線(xiàn)。“用AI打敗AI”是現階段安全行業(yè)的共識。

回到目前AI技術(shù)在安全行業(yè)的應用場(chǎng)景上,鈦媒體APP通過(guò)對安全行業(yè)巨頭,以及海內外研究機構的調查總結出,目前AI技術(shù)在安全行業(yè)主要的應用場(chǎng)景是安全檢測、識別,以及分析等方面。

具體到技術(shù)場(chǎng)景中,企業(yè)可以根據業(yè)務(wù)需求借鑒不同思路的策略打造AI安全防護能力。

阿里云一位技術(shù)專(zhuān)家建議,應用大模型的企業(yè)需要在大模型之上再施加一層工程化的手段來(lái)加固安全。比如應對提示詞攻擊時(shí),盡管用戶(hù)A成功讓大模型認定他為用戶(hù)B,但在信息查詢(xún)的指令反饋鏈路中可以對指令來(lái)源的登錄賬戶(hù)進(jìn)行核驗,從而驗證其真實(shí)有效身份,避免造成其他用戶(hù)信息泄露。

企業(yè)也可以通過(guò)AI自動(dòng)學(xué)習識別,預測一些潛在的風(fēng)險,并將這些風(fēng)險自動(dòng)隔離起來(lái),“通過(guò)AI的賦能,讓企業(yè)級防火墻具備更強的應變能力。”IEEE標準協(xié)會(huì )新標準立項委員會(huì )副主席兼IEEE數字金融與經(jīng)濟標準委員會(huì )主席林道莊曾告訴鈦媒體APP。

以往通過(guò)人工進(jìn)行綜合分析研判設備產(chǎn)生的海量告警,很容易遭遇人員、精力短缺問(wèn)題。這導致安全專(zhuān)家只能研判少量關(guān)鍵告警,超90%的告警被迫放棄,其中隱藏的大量真實(shí)威脅被忽略,給攻擊者趁虛而入的機會(huì )。而AI依托算力資源和持續訓練后的研判能力,打破了人力資源和效率邊界。據奇安信統計,利用AI能力之后,能減少90%的漏報,實(shí)現安全能力10倍級提升。

Fortinet北亞區首席信息安全官鄺偉基曾與鈦媒體APP分享過(guò)Fortinet研發(fā)的一項類(lèi)似于人臉識別的安全識別技術(shù),該技術(shù)場(chǎng)景下,通過(guò)ANN進(jìn)行大量辨識,并將辨識后的數據分割開(kāi),用于大模型的訓練,從而尋找到攻擊的特征,根據某些攻擊的特征進(jìn)行攻擊的識別,“即便是攻擊換了一個(gè)‘樣貌’,但它們內在的代碼是不會(huì )變的,而我們的這項專(zhuān)利技術(shù),可以根據特征的描述,精準的識別出攻擊的意圖。”鄺偉基向鈦媒體APP介紹。

在安全識別方面,圍繞AI技術(shù)深入布局的不僅僅Fortinet一家,奇安信也在安全識別方面有著(zhù)AI+的布局,齊向東告訴鈦媒體APP,在某核電企業(yè)的安全運營(yíng)過(guò)程中,應用了安全機器人,安排安全機器人與人工團隊一起演習,共發(fā)現15起安全事件,一半以上由機器人搶先識別并確認。在高價(jià)值事件檢出率上,機器人發(fā)現兩起被專(zhuān)家遺漏的安全事件;在真實(shí)風(fēng)險事件研判準確率上,機器人達到100%。

此外,在達到萬(wàn)人規模的企業(yè)中,只有12名安全運營(yíng)人員,每天能夠研判6000條的告警,但該企業(yè)的單日告警量超過(guò)10萬(wàn),漏報率極高。據奇安信介紹,在使用奇安信QAX-GPT安全機器人后,該企業(yè)可以完成10萬(wàn)告警全量研判,漏報率僅0.05%,揪出人工漏掉的真實(shí)告警700多條,極大提升了集團的整體安全能力。

而360則是將告警檢測、分析研判的能力植入到了自主研發(fā)的安全大模型之中,據360方面提供的數據顯示,在安全大模型的賦能下,樣本平均分析時(shí)間、報告平均生成時(shí)間、漏洞驗證自動(dòng)化率等指標提效300%;事件平均檢測時(shí)間、事件自動(dòng)化響應率等指標提效200%;人工平均響應時(shí)間等指標提效100%。

AI+安全,產(chǎn)業(yè)升級

對于安全廠(chǎng)商們而言,AI在告警識別方面的應用僅是AI安全防護布局中的一環(huán),除此之外, AI與安全需要更深度地融合,在幫助企業(yè)筑造新的安全防護體系的過(guò)程中,AI將發(fā)揮“大腦”的作用。

“體系化防御的核心,是多種網(wǎng)絡(luò )安全設備的有機結合。由于不同產(chǎn)品之間的數據傳輸共享、相互訪(fǎng)問(wèn)、遠程操作非常頻繁,漏報和誤報問(wèn)題在這一階段呈現指數級增長(cháng)。”齊向東告訴鈦媒體APP,在構建安全體系的過(guò)程中,AI具備賦能綜合分析和全局聯(lián)動(dòng)的能力,可以智能的根據不同場(chǎng)景,調用不同接口、獲取不同數據,甚至可以根據實(shí)際變化,進(jìn)行動(dòng)態(tài)調整,瞬時(shí)激發(fā)各個(gè)設備的安全能力,達成體系化防護的能力,“AI賦能后,能將遺漏的威脅從10%降低到千分之一,達到安全能力百倍級提升。”

通過(guò)AI技術(shù),為企業(yè)構建一個(gè)更為完善的安全體系,也是奇安信將AI技術(shù)運用到公司全線(xiàn)產(chǎn)品中的主要原因,據了解,現階段,奇安信已經(jīng)將AI能力深度融合到包括安全產(chǎn)品開(kāi)發(fā)、威脅檢測、漏洞挖掘、安全運營(yíng)及自動(dòng)化、攻防對抗等在內的十多個(gè)領(lǐng)域。

另一方面,360則選擇自研安全大模型的方式,將AI的能力全面整合進(jìn)全系安全產(chǎn)品之中,360數字安全集團安全專(zhuān)家告訴鈦媒體APP,從場(chǎng)景層面分,360安全云主要分為公有云和私有化兩大場(chǎng)景。在公有云場(chǎng)景中,360將大模型的能力以“數字專(zhuān)家”的身份與企業(yè)安全人員展開(kāi)深度交互,為不同階段的運營(yíng)工作提供對應的虛擬數字員工支持,如安全咨詢(xún)顧問(wèn)、安全監測和分析專(zhuān)家、應急處置專(zhuān)家等,提升運營(yíng)效果和效率的同時(shí)降低了客戶(hù)的技術(shù)應用門(mén)檻。

私有化場(chǎng)景中,360以本地安全大腦產(chǎn)品能力為基礎,結合大模型賦能,實(shí)現了“看見(jiàn)、處置和知識”三大業(yè)務(wù)的重塑,在大模型賦能的本地安全大腦平臺+探針產(chǎn)品體系下,日常安全運營(yíng)工作在告警檢測、態(tài)勢監測、分析研判、自動(dòng)化處置、威脅狩獵、劇本編排、分析報表及運營(yíng)報告生成等環(huán)節均實(shí)現了智能化重塑。

天融信則是將大模型、小模型、機器學(xué)習等AI技術(shù)能力深度應用于未知威脅檢測、流量異常檢測、惡意URL檢測等多個(gè)方向及天融信網(wǎng)絡(luò )安全產(chǎn)品中,實(shí)現了AI對威脅檢測、安全運營(yíng)等應用場(chǎng)景的全面賦能。

除了安全領(lǐng)域的專(zhuān)業(yè)廠(chǎng)商,云廠(chǎng)商和一些科技巨頭也將AI+安全視為接下來(lái)業(yè)務(wù)布局的重要部分,這決定了用戶(hù)對其產(chǎn)品的信任程度。而與專(zhuān)注安全領(lǐng)域的廠(chǎng)商開(kāi)發(fā)安全行業(yè)大模型的思路不同,他們選擇將AI的能力植入到原本的產(chǎn)品中,進(jìn)行賦能。

阿里云一位技術(shù)專(zhuān)家表示,在大模型本身而言,通義千問(wèn)大模型構建了一個(gè)有效、可靠的數據管理及隱私防護框架,確保大模型安全評估體系的全面性,并且在公共云上還會(huì )用一些外圍的內容安全產(chǎn)品。此外,通義千問(wèn)模型每一次更新迭代的模型訓練中都會(huì )引入一些安全、攻防語(yǔ)料,讓大模型學(xué)會(huì )識別什么是不安全不合規的內容,然后拒絕回答。阿里云百煉大模型服務(wù)平臺提供專(zhuān)屬的VPC(專(zhuān)有網(wǎng)絡(luò ))、用戶(hù)數據全鏈路加密、數據不落盤(pán)等多重保護,滿(mǎn)足金融企業(yè)對核心業(yè)務(wù)數據的安全防護需求。

騰訊安全也將其混元大模型的能力與安全產(chǎn)品深度融合,周斌告訴鈦媒體APP,目前騰訊安全在安全運營(yíng)、風(fēng)險治理、研發(fā)安全等領(lǐng)域已展開(kāi)了大模型安全實(shí)踐。以安全運營(yíng)為例,據了解,在2023年底,騰訊安全就在混元大模型基礎上,通過(guò)安全知識語(yǔ)庫的二次訓練,打造了安全行業(yè)大模型,并基于該大模型推出了騰訊云AI安全助手,安全助手具備了告警解釋、漏洞修復、日志處理、智能客服等功能。

國外廠(chǎng)商中,以亞馬遜云科技為例,亞馬遜云科技推出的敏感銘感數據保護解決方案是一個(gè)開(kāi)源的數據安全及數據隱私云原生解決方案,在該方案中,亞馬遜云科技就融合了機器學(xué)習和模式匹配進(jìn)行識別,幫助用戶(hù)識別和分類(lèi)敏感數據。而IBM則是提出了AI for Security的方法論,利用基礎模型和生成人工智能帶來(lái)的生產(chǎn)力提升,輔助人類(lèi)提升安全能力,主要體現在三個(gè)方面:第一,使用AI管理重復的安全任務(wù),例如警報和日志分析總結,使團隊能夠騰出時(shí)間來(lái)解決戰略問(wèn)題;第二,更快地生成安全內容(如檢測、工作流程、策略等);第三,學(xué)習并主動(dòng)創(chuàng )建響應動(dòng)作,即隨著(zhù)時(shí)間的推移和經(jīng)驗的積累優(yōu)化主動(dòng)響應,查找相似事件、更新受影響的系統,并修補易受攻擊的代碼。

除此之外,IBM還在其IBM Security產(chǎn)品組合中推出了數據安全軟件——IBM? Security Guardium,并將AI 和自動(dòng)化的能力嵌入到 Guardium 產(chǎn)品組合中。

圍繞AI+安全的技術(shù)場(chǎng)景,各大科技巨頭有著(zhù)各自的布局,雖路徑不同,但守護企業(yè)數據資產(chǎn)安全的目標始終不變。

從探索應用AI大模型能力的企業(yè)自身出發(fā),一方面應當完善風(fēng)險管理,識別、評估和緩解與AI應用相關(guān)的風(fēng)險,使用 AI應用安全產(chǎn)品來(lái)防御外部威脅; 另一方面也要加強安全管理,確保 AI系統不受未經(jīng)授權的訪(fǎng)問(wèn)、篡改或濫用,并防止數據泄露或損壞;進(jìn)行定期的安全審計和漏洞掃描、建立應急響應機制等。

總之,享受GenAI技術(shù)落地的紅利,需要進(jìn)行全面的 AI治理,建立強大的安全防護能力,實(shí)現可持續的創(chuàng )新和發(fā)展。(本文首發(fā)于鈦媒體APP,作者|張申宇,編輯丨蓋虹達)

收藏0

發(fā)表評論

訪(fǎng)客

看不清,換一張

◎歡迎參與討論,請在這里發(fā)表您的看法和觀(guān)點(diǎn)。
中文字幕在线永久91_国产一级AV不卡毛片_亚洲日本中文字幕在线四区_日韩黄片在线大全