AI攻擊正泛濫，人類(lèi)能否防范

經(jīng)濟觀(guān)察網(wǎng) 記者 任曉寧 6月5日至6日，在為期兩天的北京網(wǎng)絡(luò )安全大會(huì )上，與會(huì )者提到最多的話(huà)題是人工智能（AI）安全。參會(huì )的政府官員、學(xué)者、企業(yè)家們都在談?wù)揂I帶來(lái)的安全風(fēng)險。

巴基斯坦計算機應急響應小組（NCERT）主席海德?tīng)枴ぐ退拐f(shuō)，AI攻擊是新興攻擊方法中最具威脅性、也最難以防治的一種攻擊。一項面向800位IT專(zhuān)家的調研顯示，在他們所屬機構遭受的新式攻擊中，51%為AI攻擊，AI攻擊會(huì )影響很多國家和組織。

海德?tīng)枴ぐ退咕?，AI驅動(dòng)的網(wǎng)絡(luò )攻擊比傳統攻擊強大很多，需要認真應對。目前，巴基斯坦政府已經(jīng)專(zhuān)門(mén)成立了一支國家網(wǎng)絡(luò )安全應急響應團隊，加大網(wǎng)絡(luò )安全建設。

AI攻擊包括深度偽造、黑產(chǎn)大模型、惡意AI機器人、自動(dòng)化攻擊等多個(gè)維度?！?024人工智能安全報告》（下稱(chēng)《報告》）顯示，2023年，基于A(yíng)I的深度偽造欺詐暴增了3000%，基于A(yíng)I的釣魚(yú)郵件數量增長(cháng)了1000%。已有多個(gè)具備國家背景的高級長(cháng)期威脅（APT）組織利用AI實(shí)施了十余起網(wǎng)絡(luò )攻擊事件。同時(shí)，基于A(yíng)I的新型攻擊種類(lèi)與手段不斷出現，在全球造成了嚴重的危害。

《報告》還稱(chēng)，地下社區一直對大模型非常感興趣。在暗網(wǎng)上流行的大模型產(chǎn)品WormGPT被視為 ChatGPT（美國AI公司OpenAI研發(fā)的聊天機器人程序）的無(wú)道德約束替代品，它能生成復雜的惡意軟件和勒索軟件功能。另一款大模型產(chǎn)品FraudGPT能生成快速、大量的網(wǎng)絡(luò )釣魚(yú)攻擊。

中央網(wǎng)信辦網(wǎng)絡(luò )安全協(xié)調局副局長(cháng)王營(yíng)康表示，隨著(zhù)技術(shù)發(fā)展，攻擊者可利用AI技術(shù)生成網(wǎng)絡(luò )攻擊和網(wǎng)絡(luò )釣魚(yú)工具，網(wǎng)絡(luò )安全將從人人對抗、人機對抗逐漸向基于A(yíng)I的攻防對抗演化。

不過(guò)，雖然AI有很大的安全風(fēng)險，但與會(huì )專(zhuān)家的共識是，應該積極發(fā)展AI，而不是阻止它。

“不發(fā)展（AI）是最大的不安全?！毕冗M(jìn)計算與關(guān)鍵軟件（信創(chuàng )）海河實(shí)驗室主任、中國新一代人工智能發(fā)展戰略研究院執行院長(cháng)龔克認為，此前多位全球知名人士要求暫停開(kāi)發(fā)優(yōu)于GPT-4（美國AI公司OpenAI研發(fā)的大模型）的大模型的做法，并不可取。

奇安信集團董事長(cháng)齊向東接受經(jīng)濟觀(guān)察網(wǎng)采訪(fǎng)時(shí)說(shuō)，人類(lèi)不要被AI引發(fā)的風(fēng)險嚇到，應該擁抱AI，安全公司可以解決AI帶來(lái)的安全問(wèn)題。

齊向東用奇安信安全機器人舉例說(shuō)，最近他們在某核電企業(yè)安排了安全機器人與人工團隊一起演習，共發(fā)現15起安全事件，一半以上事件由機器人搶先識別并確認。這件事說(shuō)明，用AI來(lái)助力安全已是大勢所趨，在未來(lái)的網(wǎng)絡(luò )攻防中，得AI者得天下。

海德?tīng)枴ぐ退挂舱J為，AI安全問(wèn)題可以得到解決。談及如何防范AI攻擊，他認為，可以用大模型技術(shù)構建起惡意軟件防護墻，甚至還能夠借助安全軟件實(shí)現反向攻擊，由AI驅動(dòng)的網(wǎng)絡(luò )攻擊，也需要用AI力量去應對。