存算一體，拯救“瘋狂吃電”的AI芯片？
華人科學(xué)家20年研究，又有了新成果。
進(jìn)入2024年，AI 的膨脹速度依然讓人驚嘆。
但也有一些人認為，AI對于電力的恐怖需求，未來(lái)會(huì )限制它的發(fā)展速度，“AI的盡頭是算力，而算力的盡頭是電力”。
有研究機構根據英偉達出貨情況進(jìn)行估算，目前OpenAI大約需要3617個(gè)英偉達A100計算平臺來(lái)支持其ChatGPT的使用，而這些計算平臺所包含的GPU，每天的總能耗高達564MWh，即56.4萬(wàn)度電。
而這僅僅是OpenAI一家公司，隨著(zhù)谷歌、Meta等公司逐漸全盤(pán)AI化，，其總體能耗將會(huì )是一個(gè)令人震驚的數字。
AI芯片消耗的電量主要出現在模型訓練和推理兩方面，但實(shí)際上，AI芯片在進(jìn)行計算時(shí)，會(huì )在處理器和內存單元不斷來(lái)回移動(dòng)數據，這同樣是一個(gè)耗能的過(guò)程。
一項降低功耗的新技術(shù)
近日，明尼蘇達大學(xué)雙城校區的研究人員對外宣布設計了一種全新的“計算隨機存取存儲器”（CRAM：computational random-access memory）原型芯片。
和傳統的馮·諾依曼架構不同，這是一種“存算一體”架構，它使用稱(chēng)為磁隧道結 (MTJ) 的自旋電子器件，可以直接在內存內部進(jìn)行計算，由于自旋電子設備并不依賴(lài)電荷來(lái)存儲數據，而是利用電子自旋，因此可以替代傳統的基于晶體管的芯片。
此外，根據研究團隊公布的論文示例圖，我們可以注意到這種新型存儲器是通過(guò)將數據保存在內存陣列內進(jìn)行來(lái)處理，數據無(wú)需離開(kāi)計算機存儲信息的網(wǎng)格，從而解決傳輸數據時(shí)產(chǎn)生。
該團隊表示，和傳統馮·諾依曼架構相比，基于 CRAM 的機器學(xué)習推理加速器能耗可降低至千分之一，甚至在某些場(chǎng)景應用下可以達到 1/1700 或者 1/2500。在能源需求激增的AI時(shí)代，這種新技術(shù)無(wú)疑對提升能源效率起到至關(guān)重要的作用。
目前，該研究已經(jīng)發(fā)表在《自然》雜志的同行評議科學(xué)期刊 《npj Unconventional Computing》上，研究人員稱(chēng)擁有該設備所用技術(shù)的多項專(zhuān)利。從報道可知，這項研究已經(jīng)醞釀了20多年，并且與明尼蘇達大學(xué)理工學(xué)院王建平博士有很大關(guān)系。
王建平教授是新型磁性材料和自旋電子器件領(lǐng)域的世界知名專(zhuān)家，側重于信息存儲、記憶和計算以及生物醫學(xué)傳感方向的研究。
自 2008年以來(lái)，王建平通過(guò)交換耦合復合介質(zhì)（ECC）的開(kāi)創(chuàng )性實(shí)驗演示，高效利用了HDD硬盤(pán)驅動(dòng)器的技術(shù)，有效減少數據中心的整體數量，節約了全球能量消耗。
同時(shí)，王建平正是計算機隨機存取存儲器（CRAM）記憶單元的發(fā)明者。但在二十年前，他們提出拋棄馮·諾依曼模型的提議，無(wú)疑是被認為是“瘋狂的”。
但最終他們團隊還是堅持了下來(lái)，其發(fā)明的MTJ 器件已被英特爾、美光等公司變成了商業(yè)產(chǎn)品。
目前，該團隊一直計劃與明尼蘇達州當地半導體企業(yè)合作，提供大規模演示并生產(chǎn)硬件以推進(jìn)AI功能。
存算一體，何時(shí)能火
存算一體架構的優(yōu)勢，其實(shí)就是打破了“存儲墻”和“功耗墻”問(wèn)題。
前者指的是存儲器的性能跟不上 CPU 的性能，從而影響了系統的整體性能。而后者就是開(kāi)頭提到的數據在處理器和存儲單元之間傳輸會(huì )產(chǎn)生的巨大功耗。
除此以外，存算一體架構可以直接在設計時(shí)就為特定領(lǐng)域的計算問(wèn)題提供更大的算力，非常適合于當下的AI計算乃至未來(lái)更大規模的數據處理。
但值得一提的是，存算一體并不是什么新事物，而到目前該架構也未形成統一的技術(shù)路徑，主流的包括近存計算（PNM）、存內處理（PIM）、存內計算（CIM）三種。
而存算一體芯片所面臨的挑戰也非常多，例如依賴(lài)先進(jìn)的封裝技術(shù)以此在芯片內部實(shí)現更高的密度，而目前的一線(xiàn)封裝大廠(chǎng)已經(jīng)很難再擠出產(chǎn)能。
此外，在芯片設計方面，存算一體芯片對架構設計的難度和復雜度要求很高，市面上也缺乏成熟的EDA軟件以及測試軟件。
最后就是在生態(tài)方面，目前無(wú)論是芯片大廠(chǎng)還是創(chuàng )業(yè)公司，各廠(chǎng)商開(kāi)發(fā)出來(lái)的芯片都是圍繞自行定義的編程接口，軟件生態(tài)基本做不到互相通用，極大的影響了存算一體芯片推廣使用。
因此在目前電能資源還算充裕的前提下，存算一體芯片還是很難替代現有的AI芯片。
