GTC 2022 ： NVIDIA Grace CPU 再揭更多消息 - 3C

https://www.cool3c.com/article/174662


NVIDIA 在先前宣布首款基於 Arm Neoverse 架構的自主研發超算等級 CPU
產品 Grace ，此次 GTC 大會也公布 Grace CPU 即將在 2023 年第一季推出
的消息，同時還公布屆時 Grace CPU 的兩種小晶片架構延伸產品 Grace
CPU Superchip 與 Grace Hopper Superchip 。

在介紹 Grace CPU Superchip 與 Grace Hopper Superchip ，就得先提到作
為 NVIDIA 小晶片架構策略的橋樑技術 NVLink-C2C ， C2C 指的是晶粒對晶
粒層級連接，而 NVLink-C2C 即是將頻寬高達 900GB/s 等級的第 4 代
NVLink 導入晶片對晶片的相互連接，未來將廣泛應用在 NVIDIA 的 CPU 、
GPU 、 DPU 、 SoC 晶片之間的相互連接，同時 NVIDIA 將提供基於
NVLink 的半客製化晶片，使客戶能夠依據應用類型自 NVIDIA 的 CPU 、
GPU 、 DPU 、 SoC 架構選擇合適的組合，並透過 NVLink 方式構成各式的
Superchip 。


Grace CPU Superchip 是將兩個 Grace CPU 晶粒以 NVLink-C2C 連接，達到
144 個基於 Armv9 指令級的 CPU 核心，包含 Armv9 指令集所具備的新一
代安全與加密功能，同時支援新一代向量擴充指令級。Grace CPU
Superchip 配有具 1TB/s 頻寬的 LPDDR5X with ECC 記憶體，與
SPECrate@2017_int_base est 基準測試預計達 740 分的性能，強調相較現
行 DGX A100 所搭配的雙 x86 CPU 處理器具備 1.5 倍的功耗效能比。

放眼未來，在 NVIDIA 與 Arm 持續合作下， Grace CPU Superchip 不僅可
執行 NVIDIA 包括 NVIDIA RTX 、 NVIDIA HPC 、 NVIDIA AI 、
Omniverse 等所有運算軟體堆疊，屆時搭配 NVIDIA ConnectX-7 NIC ，能夠
彈性在伺服器進行配置，可作為獨立純 CPU 系統或搭配 1 、 2 、 4 或 8
個 Hopper 架構 GPU 構成加速伺服器系統。


至於去年發表 Grace CPU 所公布的超級晶片真面目在今日正式曝光，以
Grace Hopper Superchip 做為產品名稱，是將 Grace CPU 與 NVIDIA
Hopper GPU 以 NVLink-C2C 連接，採用達 600GB 統一記憶體架構的 HBM3
記憶體，並借助 NVLil-C2C 實現晶片對晶片的 900GB/s 內部溝通頻寬，使
單一晶片具備高效能運算與 AI 加速架構。


--

沒有說是哪家代工，不過看之前 M1 Max 的 UltraFusion 與 TSMC 的關係

搞不好 NV 不是因為良率，而是 TSMC CoWoS 封裝才跳過來?

但是 UltraFusion 號稱 2.5T, NVLink-C2C 900G，
也不確定是不是類似技術

M1 Ultra 的記憶體頻寬是 800G, Grace 1T 還有 ECC。

從這些參數看起來， Grace 或許是一個蠻有料的高性能 arm CPU

--

--