在大模型場(chǎng)景落地元年 中國電信亮出“AI長(cháng)期主義”
以網(wǎng)強算、AI Agent、軟件工廠(chǎng)
作者/ IT時(shí)報記者 郝俊慧
編輯/ 孫妍
一夜出“梅”入夏。
7月3日晚上一場(chǎng)電閃雷鳴的暴雨之后,7月4日,申城進(jìn)入天天烈日當頭的“燒烤模式”。然而,上海世博展覽館和世博中心門(mén)外,穿戴著(zhù)各種防曬裝備的人流卻大排長(cháng)隊。AI,是這個(gè)夏天比天氣還要火熱的焦點(diǎn)。
第七次舉行的世界人工智能大會(huì )(WAIC2024),創(chuàng )下數個(gè)第一,展覽規模、參展企業(yè)數、亮點(diǎn)展品數、首發(fā)新品數均達歷史最高,500余家企業(yè)參展,市外企業(yè)和國際企業(yè)占比超50%,展品數量超1500項。
這也是中國電信10天內在上海參加的第二個(gè)全球性大會(huì )。
一周前,在2024世界移動(dòng)通信大會(huì )·上海上,中國電信展示了自己“老本行”的強大實(shí)力,5G-A、6G、量子通信、車(chē)連衛星……連接,是所有關(guān)于未來(lái)想象的基石。
一周后,在中國的“AI春晚”,中國電信展示了另一套完全對標科技型企業(yè)的“新打法”,智算平臺、星辰大模型、AI軟件工廠(chǎng)……人工智能,是驅動(dòng)未來(lái)到來(lái)的新引擎。
“五年前,中國電信把人工智能作為主要技術(shù)方向進(jìn)行布局時(shí),我們是基于數字信息基礎設施的智能化去理解、認知和推動(dòng)這項工作的?!敝袊娦哦麻L(cháng)柯瑞文在WAIC 2024中國電信星辰人工智能生態(tài)論壇上演講時(shí)表示,沒(méi)想到ChatGPT出現短短一年多,AI產(chǎn)業(yè)便經(jīng)歷了芯片、安全、商業(yè)模式、現金流等種種挑戰以及“百模大戰”,他深深感受到,作為電信運營(yíng)商,不僅要充分發(fā)揮自己獨特的資源稟賦和能力優(yōu)勢,更要帶頭引領(lǐng)創(chuàng )新和產(chǎn)業(yè)發(fā)展,在應用驅動(dòng)和生態(tài)合作中,實(shí)現科技的自立自強,推動(dòng)人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展。
WAIC2024期間,中國電信全方位展現了近幾年人工智能領(lǐng)域的創(chuàng )新成果,并發(fā)布國內首款破局性AI開(kāi)發(fā)工具——星辰大模型·軟件工廠(chǎng),揭牌中國電信人工智能研究院(TeleAI)。
“我們將致力成為智能算力的主要服務(wù)商、通用大模型的先行者、行業(yè)大模型的主導者,做到基礎更強、開(kāi)放更廣、應用更深和安全更牢?!泵鎸r(shí)代機遇,中國電信總經(jīng)理梁寶俊如是說(shuō)。
AI即將“乘風(fēng)破浪”,在這個(gè)熾熱而充滿(mǎn)活力的七月,中國電信穩步走上初舞臺。
以網(wǎng)強算
百公里并池計算
“人工智能有一個(gè)很長(cháng)的過(guò)去,長(cháng)到你可以追溯到100多年前,但也有一個(gè)非常短的歷史,短到GPT出來(lái)(才開(kāi)始)?!敝袊こ淘涸菏客鯃詫τ谶@輪人工智能浪潮的革命性非常期待,在WAIC2024全體會(huì )議圓桌論壇中,他認為,新時(shí)代一定會(huì )有新的大公司誕生,也一定會(huì )有大公司“烈火重生”。
大象轉身,更要找準方向,全力以赴。
2023年7月舉行的世界人工智能大會(huì )上,中國電信首次發(fā)布自己的大模型——星辰大模型,并在2023年11月28日成立了中電信人工智能科技(北京)吉印通,這是中國電信集團在2023年成立的第二個(gè)注冊資本30億元的專(zhuān)業(yè)公司。
時(shí)隔一年,在今年世界人工智能大會(huì )上,柯瑞文再次對外公布中國電信現階段的AI進(jìn)展:確立網(wǎng)絡(luò )、云及云網(wǎng)融合、人工智能、量子/安全等四大科技方向,完成了七大戰略性新興業(yè)務(wù)布局,以“星辰”為品牌,形成“1+1+1+M+N”的人工智能體系,即一個(gè)智算云底座,一個(gè)數據底座,一個(gè)星辰大模型底座,M個(gè)企業(yè)內部大模型,N個(gè)行業(yè)大模型應用。
在一體化算力互聯(lián)網(wǎng)方面,中國電信聚焦算力、連接、調度三大基本要素,規劃建設了“2+3+7+X”公共智算云。其中,在上海、北京建成的兩個(gè)單池萬(wàn)卡智算集群,是全國最早建成并且真正投入商用的單集群國產(chǎn)超大規模公共智算中心。
此外,為了以網(wǎng)強算,中國電信打造了跨DC分布式無(wú)損網(wǎng)絡(luò ),推進(jìn)400G高速全光網(wǎng)全國覆蓋,在業(yè)界首次完成1.6T數據在40分鐘內跨2000公里的傳輸,破解海量數據高速入算難題,并且在實(shí)驗室實(shí)現了百公里內的并池計算。
中國電信大模型首席專(zhuān)家劉敬謙告訴《IT時(shí)報》記者,通過(guò)400G/800G的超高寬帶將兩個(gè)位于不同區域的實(shí)驗室,無(wú)損高速連接,可以將同一個(gè)預訓練任務(wù)同步部署在兩個(gè)相隔百公里的實(shí)驗室里,而且連續訓練時(shí)長(cháng)與在同一個(gè)物理數據中心內訓練相當,這將大大緩解國內大模型廠(chǎng)商的“算力焦慮”。
落地元年
大模型要先用起來(lái)
今年被稱(chēng)為“大模型場(chǎng)景落地元年”,WAIC展臺上,不僅來(lái)了近百家大模型廠(chǎng)商,而且每家都展示出自己在行業(yè)落地方面的應用場(chǎng)景和實(shí)際案例。
“大模型到底如何真正為企業(yè)提效?”依然是令觀(guān)眾們感到困惑的難題。尤其在To B場(chǎng)景中,企業(yè)用戶(hù)不僅關(guān)注大模型能否解決具體業(yè)務(wù)場(chǎng)景的問(wèn)題,更關(guān)注可用性和性?xún)r(jià)比。
“大家要先用起來(lái)?!笨氯鹞牟⒉环裾J,人工智能與行業(yè)場(chǎng)景的融合仍處于起步階段,但他認為,堅持應用導向,只有在用的過(guò)程中不斷迭代完善,不斷形成規?;l(fā)展,才能不斷創(chuàng )新商業(yè)模式,而中國電信要率先帶頭嘗試,開(kāi)放場(chǎng)景,吉印通產(chǎn)業(yè)伙伴加速應用落地。
目前,中國電信聚焦14個(gè)重點(diǎn)行業(yè),打造了32個(gè)場(chǎng)景大模型,并在法律、文旅、教育、政務(wù)等七個(gè)行業(yè)推出了行業(yè)大模型“智能體”(AI Agent),幫助目標用戶(hù)在真實(shí)場(chǎng)景下,完成輔助問(wèn)答、應急巡檢、提前規劃方案等多種專(zhuān)業(yè)功能。
對于有服務(wù)能力的客戶(hù),中國電信重點(diǎn)提供星辰Maas一站式服務(wù),包含三十多個(gè)基礎模型、五十多類(lèi)工具集、六十多項數據集,幫助客戶(hù)打造自身的場(chǎng)景模型。據劉敬謙介紹,通過(guò)電信星辰Maas平臺,大型國央企可以將整個(gè)大模型生命周期管理起來(lái),比如中車(chē)集團便以電信星辰Maas平臺為底座,快速構建中車(chē)Maas平臺,采用算力租賃為主、自建為輔的混合方式,實(shí)現全集團和子企業(yè)快速上線(xiàn)、按需使用、彈性擴展和經(jīng)濟高效的使用模式。
AI Agent
落地場(chǎng)景的“抓手”
AI Agent是中國電信在行業(yè)大模型落地場(chǎng)景中非常關(guān)鍵的一環(huán)。
“沒(méi)有一個(gè)大模型能解決所有問(wèn)題,沒(méi)有一個(gè)基礎模型能解決所有行業(yè)問(wèn)題?!痹诮?jīng)過(guò)一年半的技術(shù)狂飆和應用落地嘗試后,這句話(huà)出現在討論人工智能發(fā)展的各個(gè)場(chǎng)景中。
專(zhuān)業(yè)智能體被認為是大模型落地產(chǎn)業(yè)的有效路徑。醫療、教育、金融、制造、交通、農業(yè)等各行業(yè)領(lǐng)域,未來(lái)都有可能依據自己的場(chǎng)景和特有經(jīng)驗、規則、數據等等,生成數以百萬(wàn)量級的智能體,形成龐大生態(tài)。
在科學(xué)發(fā)展史中,一個(gè)好問(wèn)題比一個(gè)好答案更重要,通用大模型也是如此,“會(huì )提問(wèn)”意味著(zhù)更好的調優(yōu)。然而,對于企業(yè)用戶(hù)而言,這卻是一個(gè)不低的門(mén)檻。
騰訊云副總裁、騰訊優(yōu)圖實(shí)驗室負責人吳運聲認為,所謂“智能體”,本質(zhì)是指希望回到大語(yǔ)言模型的初衷,直接從最樸素的語(yǔ)言層面,以統一的方式去應對廣泛的需求,目前業(yè)界正處于百花齊放的階段,但大家也都遇到不少局限性。
“智能體將充分發(fā)揮大模型的潛力?!眲⒕粗t也認為,只要用自然語(yǔ)言提出需求,便可以集合企業(yè)的所有底層能力直接給出答案的AI Agent,是大模型落地應用場(chǎng)景的重要抓手,但一個(gè)好的智能體關(guān)鍵在于能夠將基座大模型,以及大量行業(yè)數據、企業(yè)業(yè)務(wù)和管理架構完美地融合在一起,才能確保最終呈現在使用者面前的是一個(gè)“無(wú)所不知”的助手,“中國電信做智能體的優(yōu)勢在于,具有豐富的行業(yè)經(jīng)驗和海量數據,而且與很多行業(yè)有API接口,可以很快將智能體落地部署?!彼f(shuō)道。
目前,中國電信攜手合作伙伴,積累了37大類(lèi)行業(yè)數據,規模超過(guò)350TB,還有12億張圖文數據、PB級視頻數據。
例如,中國電信與依圖科技吉印通推出的應急預警視覺(jué)大模型,可快速識別出180多種風(fēng)險隱患和災害場(chǎng)景,廣泛服務(wù)于各級應急管理單位和應急救災工作。其中,應急AI Agent可以在復雜系統中模擬人類(lèi)專(zhuān)家的行為,自主執行特定任務(wù)。
在智能隱患巡檢領(lǐng)域,AI Agent能夠將復雜的業(yè)務(wù)邏輯轉化為結構化的知識圖譜,便于算法理解和運用,然后再制定子節點(diǎn)任務(wù)流程,自主判斷隱患并進(jìn)行預警,通過(guò)與系統業(yè)務(wù)流程的無(wú)縫對接,實(shí)現高效、自動(dòng)化的巡檢流程。
“我們與應急部門(mén)合作,一旦發(fā)現險情,Agent可以自動(dòng)報警,并在用戶(hù)的手機、電視等終端上‘霸屏’提醒?!眲⒕粗t說(shuō)道,更重要的是,星辰的AI Agent已經(jīng)在國產(chǎn)算力集群和國產(chǎn)大模型上全部跑通,實(shí)現了全棧國產(chǎn)化。
軟件工廠(chǎng)
人人都是產(chǎn)品經(jīng)理
如果將AI時(shí)代視為第四次工業(yè)革命的開(kāi)端,那么,從2022年到現在,只是一個(gè)“漫長(cháng)季節”的開(kāi)始,信奉長(cháng)期主義的企業(yè)才能夠行穩致遠。
“AI浪潮是你方唱罷,我登場(chǎng),但弱水三千,我只取一瓢飲。我們不需要什么都做,只需要知道最大公約數是什么?!痹谡劶癆I的未來(lái)時(shí),中國電信首席科學(xué)家李學(xué)龍表示,不同國家和公司的AI路徑會(huì )有很大的差異,中國電信更注重和實(shí)體經(jīng)濟的結合,解決工業(yè)和農業(yè)中面臨的實(shí)際問(wèn)題,降本增效提質(zhì)。
近兩年來(lái),基于“通用大模型、行業(yè)大模型、垂直應用大模型”的路線(xiàn),中國電信不斷技術(shù)迭代,天翼AI持續完善大模型能力,提升語(yǔ)言、視覺(jué)和多模態(tài)大模型的認知水平和推理性能,今年4月推出的星辰語(yǔ)音大模型支持30種方言自由混說(shuō),是國內支持最多方言的語(yǔ)音識別大模型。
此次WAIC上,中國電信天翼AI又發(fā)布了一款名為星辰大模型·軟件工廠(chǎng)的新產(chǎn)品,利用最新的多模態(tài)大模型技術(shù),可以自動(dòng)生成前后端代碼,并進(jìn)行自主測試和糾錯,形成軟件開(kāi)發(fā)的全自動(dòng)流水線(xiàn)。用戶(hù)僅需簡(jiǎn)單寫(xiě)下產(chǎn)品文檔,大模型可根據文檔內容生成代碼,在軟件工廠(chǎng)內一鍵部署并上線(xiàn)。
各個(gè)互聯(lián)網(wǎng)大廠(chǎng)紛紛推出“AI程序員”,中國電信的“軟件工廠(chǎng)”與之有何不同?
據了解,當前大多數代碼生成產(chǎn)品,依舊是以對話(huà)模式為主,僅僅在開(kāi)發(fā)流程中扮演輔助角色,同時(shí)受限于對話(huà)Token上限,無(wú)法支撐項目級別的代碼生成、部署與維護迭代。
星辰大模型·軟件工廠(chǎng)構建了三大核心能力:開(kāi)發(fā)流程革新、代碼可控生成和交互模式升級,設計了大模型編程交互新模式,用戶(hù)無(wú)需直接與大模型溝通,只需要關(guān)心產(chǎn)品需求與描述文檔撰寫(xiě),跟隨軟件工廠(chǎng)的步驟指引即可完成軟件開(kāi)發(fā)、測試與部署。
這種面向文檔的開(kāi)發(fā)范式,不僅讓用戶(hù)可以專(zhuān)注于核心業(yè)務(wù)邏輯的實(shí)現,而不是繁瑣的編碼和調試,而且非軟件開(kāi)發(fā)人員也可以直接參與到項目開(kāi)發(fā)進(jìn)程中。
發(fā)布該產(chǎn)品的中電信人工智能總經(jīng)理何忠江坦承,軟件工廠(chǎng)的生成,最大的難點(diǎn)在于要將軟件工程和大模型能力做很好的適配,“我們踩了很多坑,而且還在繼續踩很多坑,”但隨著(zhù)技術(shù)的迭代更新,最終,每個(gè)人都可以生成自己想要的軟件系統,人人都是產(chǎn)品經(jīng)理,人人都是研發(fā)人員。
星辰大模型·軟件工廠(chǎng)的發(fā)布,本質(zhì)上是星辰多模態(tài)大模型在軟件開(kāi)發(fā)領(lǐng)域的落地應用,也是基座大模型星辰在能力上的又一次探索。
據透露,本月底,星辰軟件工廠(chǎng)或將啟動(dòng)友好用戶(hù)招募,第三季度布局在天翼云上面,面向企業(yè)用戶(hù)開(kāi)放。
排版/ 季嘉穎
圖片/ 費鋒
來(lái)源/《IT時(shí)報》*vittimes