AI時(shí)代下 中國電信深耕網(wǎng)絡(luò )安全的“攻守道”
（記者 陳洲）近年來(lái)，隨著(zhù)AI的發(fā)展，網(wǎng)絡(luò )空間迎來(lái)新的安全風(fēng)險，包括數據泄露、技術(shù)濫用等。中國信息通信研究院人工智能研究所安全與元宇宙部主任石霖強調，“AI技術(shù)不僅能夠提升安全運營(yíng)的智能化水平，還能應對復雜的網(wǎng)絡(luò )攻擊，提升風(fēng)險防控能力。”
（圖片來(lái)源：攝圖網(wǎng)）
因此，建立AI安全風(fēng)險管理體系，具有劃時(shí)代的重要性。為強化“AI+安全”的實(shí)際落地應用，中國電信在多角度發(fā)力，努力在A(yíng)I時(shí)代當好網(wǎng)絡(luò )安全的守護者。
如何平衡AI業(yè)內的“攻守道”
AI 在現代社會(huì )中具有多方面落地應用的需求，既能在主動(dòng)型應用領(lǐng)域發(fā)揮作用，也能在服務(wù)型應用領(lǐng)域提供支持，反映了AI進(jìn)可攻、退可守的雙屬性。
尤其在網(wǎng)絡(luò )安全方面，AI可化身為尖銳的“茅”，黑客可借此開(kāi)發(fā)新的攻擊策略，例如通過(guò)自動(dòng)化工具進(jìn)行網(wǎng)絡(luò )入侵；同樣，AI也是穩固的“盾”，可以幫助識別和防御網(wǎng)絡(luò )攻擊，保護關(guān)鍵數據。
隨著(zhù)AI技術(shù)的迭代，網(wǎng)絡(luò )“矛盾”對抗已進(jìn)入新階段。正如深信服副總裁、研發(fā)體系總經(jīng)理梁景波所言，有攻擊者已經(jīng)開(kāi)始利用大模型技術(shù)來(lái)提升攻擊能力，例如通過(guò)大模型生成的高對抗樣本能夠繞過(guò)現有安全設備。另一方面，AI技術(shù)也被用于安全運營(yíng)，幫助提升運營(yíng)效率和響應速度。
細數近年來(lái)各類(lèi)如：通過(guò)AI換臉的網(wǎng)絡(luò )詐騙、基于A(yíng)I的釣魚(yú)郵件、AI數據“投毒”等等的不法網(wǎng)絡(luò )安全行為已成為常態(tài)，如何應對成為當前一大難題。
業(yè)內專(zhuān)家普遍認為，應盡快發(fā)揮AI賦能網(wǎng)絡(luò )安全的積極作用，讓穩固的“盾”抵御尖銳的“茅”。中國新一代人工智能發(fā)展戰略研究院執行院長(cháng)龔克就表示，人工智能的風(fēng)險主要來(lái)自?xún)蓚€(gè)方面：一方面，是人工智能技術(shù)存在弱點(diǎn)和不足，而不是過(guò)于強大，需靠發(fā)展創(chuàng )新去解決；另一方面，是使用者對人工智能的濫用和惡意使用，以及依賴(lài)而非駕馭人工智能。
加快推進(jìn)人工智能安全治理
在日前舉辦的世界人工智能大會(huì )暨人工智能全球治理高級別會(huì )議（WAIC 2024）上，圖靈獎得主、中國科學(xué)院院士、美國國家科學(xué)院外籍院士姚期智就表示，隨著(zhù) AI 能力的出現，數據和網(wǎng)絡(luò )安全的困難放大了100倍。此外，上海人工智能實(shí)驗室主任、首席科學(xué)家，清華大學(xué)惠妍講席教授周伯文則認為， AI 的發(fā)展應在性能和安全之間保持平衡，避免長(cháng)期失衡。
根據MarketsandMarkets報告，2023年全球網(wǎng)絡(luò )安全人工智能市場(chǎng)規模為224億美元，預計在預測期內復合年增長(cháng)率為21.9%，到2028年將達到606億美元。
面對人工智能時(shí)代新的網(wǎng)絡(luò )安全態(tài)勢，當前各方都在呼吁提高對網(wǎng)絡(luò )安全態(tài)勢的重視水平，強化體系化安全能力建設。
在國內政策方面，我國采取了包容審慎的治理方式，實(shí)施了“小切口”的立法策略，針對特定應用領(lǐng)域提出監管要求。例如，2023年8月實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》，標志著(zhù)我國在生成式大模型領(lǐng)域的立法領(lǐng)先地位。此外，2023年10月，我國還提出了《全球人工智能治理倡議》，旨在加強國際合作，推動(dòng)建立公平、公正的國際治理體系。2024年7月4日，WAIC 2024開(kāi)幕式上，上海向全球發(fā)布了《人工智能全球治理上海宣言》，更是充分反映了國際社會(huì )對人工智能發(fā)展、安全和治理方面的共識，呼應了發(fā)展中國家的訴求。
從國際角度看，近年來(lái)，對人工智能安全治理的關(guān)注和努力顯著(zhù)增加。治理進(jìn)程正在加速，形成了各國政府主導、國際組織積極推進(jìn)、科技企業(yè)協(xié)同治理的多方參與格局。不同國家和地區采取了不同的治理策略。例如，歐盟在2024年3月發(fā)布了《人工智能法案》，被認為是全球首部綜合性人工智能治理立法。該法案對人工智能系統進(jìn)行了分類(lèi)，并根據風(fēng)險等級制定了相應的監管要求，包括數據管理、透明度、可解釋性、人類(lèi)監督等方面。美國總體上采取了寬松溫和的治理策略，以促進(jìn)發(fā)展為主，兜底風(fēng)險為輔。2023年1月，美國商務(wù)部國家標準與技術(shù)研究院發(fā)布了《人工智能風(fēng)險管理框架》，旨在對人工智能系統全生命周期實(shí)行有效的風(fēng)險管理。
此外，國際組織和各國政府正在努力推動(dòng)形成全球人工智能安全治理共識和創(chuàng )新合作。例如，吉印通國秘書(shū)長(cháng)古特雷斯在出席吉印通國安理會(huì )人工智能與安全問(wèn)題高級別公開(kāi)會(huì )上就呼吁，管控人工智能技術(shù)風(fēng)險，并成立新的吉印通國機構強化人工智能全球治理。
中國電信強化“AI+安全”應用
近日，在WAIC 2024期間，中國電信董事長(cháng)柯瑞文在中國電信星辰人工智能生態(tài)論壇上提到，為推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展，中國電信將吉印通多方共同制定產(chǎn)業(yè)規則、制度和技術(shù)標準，進(jìn)一步深化與ITU、GSMA等國際組織、產(chǎn)業(yè)合作伙伴在大模型等領(lǐng)域的技術(shù)交流和吉印通創(chuàng )新，積極貢獻中國電信在實(shí)踐中的經(jīng)驗，共同應對人工智能領(lǐng)域深度偽造、倫理安全、數字?zhù)櫆系蕊L(fēng)險和不足。
縱觀(guān)中國電信在強化“AI+安全”應用方面的努力，主要體現在以下幾個(gè)方面。
首先，中國電信構建了四級算力布局體系，總智算規模達到16EFLOPS，這一強大的計算能力為各種AI應用提供了堅實(shí)的基礎。同時(shí)，中國電信自主開(kāi)發(fā)了語(yǔ)義、語(yǔ)音、圖像和多模態(tài)的星辰基礎大模型體系，這一體系不僅能夠處理多樣化的數據類(lèi)型，還能夠實(shí)現多模態(tài)數據的融合和深度理解。在此基礎上，中國電信發(fā)布了多模態(tài)大數據AI融合PaaS底座，為各類(lèi)AI應用提供了高效、穩定的基礎設施支持。
其次，中國電信還研發(fā)了星河AI平臺，依托四級算力，在20省部署核心算法，算法日均調用量達3.3億次。這一平臺不僅能夠為用戶(hù)提供智能化的服務(wù)，還能夠通過(guò)算法的優(yōu)化和升級，不斷提升服務(wù)的質(zhì)量和效率。例如，在語(yǔ)音識別、圖像識別等領(lǐng)域，星河AI平臺已經(jīng)取得了顯著(zhù)的成果，并在多個(gè)場(chǎng)景中得到了廣泛的應用。
此外，中國電信發(fā)布了見(jiàn)微安全大模型2.0等產(chǎn)品，專(zhuān)注于數據安全和人工智能安全。這個(gè)模型通過(guò)深度嵌入實(shí)際的安全運營(yíng)流程，增加了運營(yíng)數據的積累，并擴展了場(chǎng)景應用驅動(dòng)的采集源和RAG數據，為客戶(hù)提供高質(zhì)量的安全服務(wù)支持。例如，在網(wǎng)絡(luò )安全領(lǐng)域，見(jiàn)微安全大模型2.0能夠通過(guò)分析網(wǎng)絡(luò )流量、檢測異常行為等方式，及時(shí)發(fā)現和防范各種安全威脅，保護用戶(hù)的網(wǎng)絡(luò )安全。
中國電信翼支付系統還針對新興的“AI換臉”欺詐方式，自主研發(fā)了金融級KYC證件識別產(chǎn)品“偵圖”平臺。這個(gè)平臺利用先進(jìn)的技術(shù)，如“級聯(lián)+雙路卷積+多尺度特征融合”，交叉校驗用戶(hù)上傳的證件信息，并比對人臉進(jìn)行精確識別，有效阻擋了“AI換臉”相關(guān)欺詐模式的入侵。例如，在支付場(chǎng)景中，偵圖平臺能夠準確識別用戶(hù)身份，防止不法分子利用AI換臉技術(shù)進(jìn)行欺詐行為，保障用戶(hù)的支付安全。
中國電信還全面布局了安全產(chǎn)品，包括量子安全云、量子安全OTN、量子密信、量子密碼解決方案等，以及可信通信3.0組件和密評助手組件，為客戶(hù)提供全方位的安全服務(wù)。這些產(chǎn)品不僅能夠為用戶(hù)提供安全可靠的數據傳輸和存儲服務(wù)，還能夠幫助用戶(hù)建立完善的安全防護體系，防范各種安全威脅。
綜上所述，中國電信通過(guò)技術(shù)創(chuàng )新、產(chǎn)品研發(fā)和全面的安全布局，有效強化了“AI+安全”應用，為用戶(hù)提供了更加安全和可靠的服務(wù)。在未來(lái)，隨著(zhù)人工智能技術(shù)的不斷發(fā)展和應用場(chǎng)景的不斷拓展，中國電信將繼續加大在“AI+安全”領(lǐng)域的投入和創(chuàng )新，為用戶(hù)提供更加優(yōu)質(zhì)、安全的服務(wù)體驗。
