AMD 最強 AI 加速卡 MI325X 登場(chǎng):256GB HBM3E
DoNews10月11日消息,據IT之家援引科技媒體 techpowerup 報道,北京時(shí)間今日凌晨舊金山舉行的“Advancing AI”大會(huì )上,AMD 公司推出了 Instinct MI325X 加速卡。
MI325X 加速卡基于 CDNA 3 架構,相比較舊款 MI300X 帶來(lái)了一系列改進(jìn)。為了迎接萬(wàn)億參數的 AI 模型,AMD MI325X 加速卡重點(diǎn)提升了 HBM3E 內存和計算能力。
AMD MI325X 加速卡配備 256 GB 的 HBM3E 內存,容量是 MI300(192GB)的 1.8 倍,帶寬更是達到了 6 TB/s。
新的加速器在 FP16 下提供 1.3 PetaFLOPS,在 FP8 訓練和推理下提供 2.6 PetaFLOPS,較 MI300 提升 1.3 倍,所有這些都集成在一個(gè)擁有 1530 億個(gè)晶體管的芯片中。
配備八個(gè) MI325X 加速器的系統可實(shí)現 2 TB HBM3E 內存和 48 TB/s 帶寬,計算性能為 10.4 PetaFLOPS(FP16)和 20.8 PetaFLOPS(FP8)。
AMD 聲稱(chēng),Instinct MI325X 在內存帶寬、FP16 / FP8 計算性能上超越 NVIDIA H200 HGX 系統 1.3 倍,在內存容量上超越 1.8 倍。
加速器核心是 ROCm 軟件堆棧,AMD 計劃將 ROCm 引入每款 GPU(甚至包括消費級 GPU),并與開(kāi)源社區合作集成最新功能。
AMD 表示會(huì )和開(kāi)源社區合作,將 PyTorch、Triton、ONNX 等框架的功能整合到 ROCm 堆棧中。