|
來(lái)源：IT之家 英偉達(dá)（Nvidia）周二發(fā)布了一款升級(jí)版的下一代 Grace Hopper 超級(jí)芯片平臺(tái)，該平臺(tái)采用了 HBM3e 內(nèi)存技術(shù)，專為人工智能和高性能計(jì)算而設(shè)計(jì)。新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)由 72 核的 Grace CPU 和 GH100 Hopper 計(jì)算 GPU 組成，但與初代不同的是，其使用了 HBM3e 內(nèi)存，內(nèi)存容量和帶寬都有顯著提高。 據(jù)IT之家了解，英偉達(dá) 2022 年 3 月推出了 Grace Hopper 超級(jí)芯片，首次將 CPU、GPU 融合在一塊主板上。 HBM3e 內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù)，可以在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)基于 72 核 Grace CPU，配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計(jì)算 GPU，搭配 141 GB 的 HBM3e 內(nèi)存，分為六個(gè) 24 GB 的堆棧，并使用了 6,144 位的內(nèi)存接口。雖然英偉達(dá)實(shí)際安裝了 144 GB 的內(nèi)存，但只有 141 GB 是可用的。 英偉達(dá)目前的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)配備 96 GB HBM3 內(nèi)存，帶寬低于 4 TB / s。相比之下，升級(jí)版的內(nèi)存容量增加了約 50%，帶寬增加了 25% 以上，可達(dá) 5 TB / s。如此巨大的改進(jìn)使新平臺(tái)能夠運(yùn)行比初代版本更大的人工智能模型，并提供明顯的性能改進(jìn)（這對(duì)于訓(xùn)練尤其重要）。 據(jù)英偉達(dá)稱，目前配備 HBM3 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)已經(jīng)在生產(chǎn)中，并將于下個(gè)月開(kāi)始商業(yè)銷售。 而配備 HBM3e 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)現(xiàn)在正在樣品測(cè)試中，預(yù)計(jì)將于 2024 年第二季度上市。 英偉達(dá)強(qiáng)調(diào)，新款 GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片，因此公司無(wú)需推出任何新的版本或步進(jìn)。英偉達(dá)表示，原版 GH200 和升級(jí)版 GH200 將在市場(chǎng)上共存，這意味著后者將以更高的價(jià)格出售，畢竟其更先進(jìn)的內(nèi)存技術(shù)帶來(lái)的更高性能。 英偉達(dá)表示，配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級(jí)芯片平臺(tái)完全兼容英偉達(dá)的 MGX 服務(wù)器規(guī)范，并且可以與現(xiàn)有的服務(wù)器設(shè)計(jì)直接兼容。 |
