安恒信息：以高水平安全，護航人工智能高質(zhì)量發(fā)展
日前，中央網(wǎng)信辦主任莊榮文在接受吉印通社采訪(fǎng)時(shí)提出，下一步，將堅持統籌高質(zhì)量發(fā)展和高水平安全，推動(dòng)這一重要領(lǐng)域（人工智能）的產(chǎn)業(yè)發(fā)展、技術(shù)進(jìn)步與安全保障。
自去年以來(lái)，一場(chǎng)以人工智能為主角的科技浪潮席卷而來(lái)，人工智能大模型正在重塑我們的生產(chǎn)和生活。截至目前，我國完成備案并上線(xiàn)、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達190多個(gè)，注冊用戶(hù)超過(guò)6億。
高質(zhì)量發(fā)展的另一面，是對高水平安全的要求。2023年7月，我國就率先開(kāi)展了相關(guān)立法，國家網(wǎng)信辦會(huì )同相關(guān)部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，為我國人工智能健康發(fā)展保駕護航。
在全球其他國家和地區，對于人工智能的安全治理措施也都快速提上日程。2023年，美歐達成人工智能促進(jìn)公共利益行政協(xié)議，深化氣候變化應對等五大領(lǐng)域的人工智能合作。2023年，七國集團達成《人工智能?chē)H指導原則》和《人工智能開(kāi)發(fā)者自愿行為準則》。2024年4月，美歐發(fā)布吉印通聲明，強調通過(guò)人工智能合作應對全球挑戰，美英還宣布達成人工智能安全科學(xué)合作伙伴關(guān)系。2024年8月1日，歐盟《人工智能法案》正式生效。
關(guān)于人工智能安全的擔憂(yōu)，一如當年好萊塢電影所預示的那樣，當人工智能加速融入我們生活的今天，這一話(huà)題更是每每成為輿論關(guān)注的焦點(diǎn)。OpenAI對于安全問(wèn)題的態(tài)度，往往會(huì )成為媒體的熱門(mén)話(huà)題，近有美媒體爆料其非法限制員工披露AI安全風(fēng)險，遠有OpenAI安全團隊的動(dòng)蕩紛爭。
如何看待人工智能的發(fā)展和安全？中國工程院院士吳世忠在2024西湖論劍·數字安全大會(huì )上強調，在人工智能時(shí)代，安全問(wèn)題呈現出前所未有的復雜性。它不僅涵蓋傳統的Security，即信息安全，還包含Safety，即系統運行的穩定性和可靠性，以及倫理安全，即技術(shù)應用必須符合道德倫理標準。這三者交織融合，形成了全新的安全圖景。這是與傳統安全問(wèn)題的根本區別，對個(gè)人隱私保護、社會(huì )穩定、國家發(fā)展和國際合作等方面都提出了新的挑戰和要求。因此，構建一個(gè)安全、堅韌、可信的人工智能發(fā)展生態(tài)，至關(guān)重要。這要求我們必須在推動(dòng)技術(shù)發(fā)展的同時(shí)，充分考慮到安全保障，實(shí)現發(fā)展與安全的統籌兼顧。
安恒信息高級副總裁、安恒信息研究院院長(cháng)王欣指出，在人工智能時(shí)代下，大模型技術(shù)存在著(zhù)“矛”與“盾”的兩面性。一方面，AI和大模型技術(shù)如“利刃”打破原有安全壁壘，安全需求與應用場(chǎng)景發(fā)生重大變革。另一方面，AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新，有助于網(wǎng)絡(luò )安全防護“盾”優(yōu)化升級。生成式人工智能能極大提高風(fēng)險識別效率，在一定程度上彌補現有網(wǎng)絡(luò )人才缺口，讓威脅分析更準確、安全運營(yíng)更高效、安全防護更智能。
作為安全領(lǐng)軍企業(yè)之一，安恒信息始終秉持“讓AI更安全、讓安全更智能”的理念，堅信“以AI對AI，以AI管AI”是人工智能安全治理的必經(jīng)之路。2023年8月28日，安恒信息率先在業(yè)內發(fā)布“恒腦”安全垂域大模型，并于當年投入杭州亞運會(huì )網(wǎng)絡(luò )安保使用，取得杰出效果。隨后又在2024年4月完成其安全大模型的全新升級，并以恒腦2.0驅動(dòng)全棧產(chǎn)品核心能力提升。
不僅將AI用于安全產(chǎn)品、運營(yíng)服務(wù)，安恒信息從網(wǎng)絡(luò )安全、數據安全和內容安全三方面，制訂了一系列針對大模型安全的產(chǎn)品和解決方案，為客戶(hù)AI業(yè)務(wù)提供全生命周期的安全防護能力。
為評估大模型在數據處理、模型構建和應用部署中的風(fēng)險，安恒信息自研出一套AI大模型風(fēng)險評估系統，結合先進(jìn)的內容檢測引擎，幫助客戶(hù)深入測評AI大模型生成內容以及信息輸出的合規性，維護企業(yè)品牌形象，避免法律風(fēng)險。此外，系統還深入評估AI基礎設施的網(wǎng)絡(luò )安全風(fēng)險，識別潛在威脅，驅動(dòng)完善AI大模型數據完整性和AI業(yè)務(wù)連續性。
在面向大模型訓練與推理場(chǎng)景，安恒AiLand安全島隱私計算平臺設計技術(shù)與產(chǎn)品的安全結合架構，支持融合多方數據集建設精調數據集，持續進(jìn)行訓練和推理。今年5月，在中國信息通信研究院組織的首批“面向大模型的增強型可信執行環(huán)境基礎能力專(zhuān)項測試”中，安恒信息順利完成全部測試內容，成為首家完成此項測試的企業(yè)。
安恒信息將繼續以AI驅動(dòng)安全產(chǎn)品和服務(wù)的持續升級，同時(shí)也將針對大模型生命周期安全推出進(jìn)一步、更加完整和完善的解決方案，以高水平安全，夯實(shí)人工智能高質(zhì)量發(fā)展的安全基石。
