齊向東：AI深度偽造引發(fā)社會(huì )混亂，“眼見(jiàn)未必為實(shí)”將成為常態(tài)

21世紀經(jīng)濟報道 記者鐘雨欣 北京報道

人工智能新時(shí)代不僅帶來(lái)了生產(chǎn)力的大幅提升，也給網(wǎng)絡(luò )安全提出了前所未有的挑戰，安全風(fēng)險由“點(diǎn)”向“面”擴散。7月9日，奇安信集團董事長(cháng)齊向東在出席2024（第二十三屆）中國互聯(lián)網(wǎng)大會(huì )時(shí)表示，要以AI驅動(dòng)安全，應對三大安全威脅，并補齊三大薄弱環(huán)節，全方位提升新時(shí)代安全能力。

齊向東認為，網(wǎng)絡(luò )安全攻擊會(huì )造成嚴重的經(jīng)濟損失，網(wǎng)絡(luò )安全事故會(huì )嚴重威脅國家安全。奇安信威脅情報中心今年2月發(fā)布的《全球高級持續性威脅（APT）2023年度報告》顯示，在2023年全球至少有80個(gè)國家遭遇過(guò)APT攻擊，中國及周邊地區已經(jīng)成為網(wǎng)絡(luò )空間戰爭的焦點(diǎn)。

在齊向東看來(lái)，人工智能新時(shí)代面臨三大安全威脅。

第一，AI“飽和式”攻擊打垮網(wǎng)絡(luò )安全運營(yíng)體系。攻擊者可以利用AI工具對網(wǎng)絡(luò )攻擊進(jìn)行改造和升級，短時(shí)間內發(fā)動(dòng)大范圍連續進(jìn)攻，在飽和攻擊的狀態(tài)下，防護的難度就大大增加了。那些原本就缺少安全專(zhuān)家的政企機構，會(huì )陷入“攻強守弱”的境地。

第二，AI深度偽造引發(fā)社會(huì )混亂。一些不法分子利用換臉、變聲、搭建虛擬環(huán)境等手段進(jìn)行“深度偽造”，冒用身份混淆視聽(tīng)，進(jìn)行網(wǎng)絡(luò )詐騙，“眼見(jiàn)未必為實(shí)”“耳聽(tīng)未必為真”將成為常態(tài)，極有可能引發(fā)社會(huì )認知混亂。同時(shí)，人工智能可以加快編寫(xiě)惡意軟件和惡意代碼的速度，讓欺詐事件頻發(fā)。

第三，“AI投毒”污染數據沖擊安全防線(xiàn)。人工智能時(shí)代，黑客組織利用AI升級攻擊手段，通過(guò)對抗樣本、數據投毒、模型竊取等多種方式對AI算法進(jìn)行攻擊，使其產(chǎn)生錯誤的判斷，同時(shí)由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范。

他同時(shí)提到，政企機構的網(wǎng)絡(luò )安全建設還處于探索階段，存在著(zhù)三大薄弱環(huán)節，即人力不足、思路落后、體系不全。

“想要應對三大安全威脅、補齊三大薄弱環(huán)節，就要用AI驅動(dòng)安全，為安全能力帶來(lái)指數級躍升。”齊向東表示，AI可以對過(guò)去人工漏掉的告警進(jìn)行全面研判，實(shí)現安全能力十倍級提升。通過(guò)AI賦能、綜合分析和聯(lián)動(dòng)，可以實(shí)現安全體系能力的百倍級提升。在威脅發(fā)現和溯源反制方面，AI可以快速溯源、快速反制，實(shí)現安全響應能力千倍級提升。

“我們可以通過(guò)AI提升全場(chǎng)景的安全防護能力。如AI+安全開(kāi)發(fā)、AI+終端用戶(hù)、AI+應用等，全面激發(fā)網(wǎng)絡(luò )安全的最大效能。”齊向東說(shuō)。