來(lái)源:半導(dǎo)體行業(yè)觀察 在AI發(fā)展需求如此迅速的時(shí)代,作為時(shí)代“弄潮兒”的NVIDIA,前不久宣布,NVIDIA每年都將會(huì)設(shè)計(jì)一次新芯片,節(jié)奏由原來(lái)的2年一次改為1年一次!癢e’re on a one-year rhythm”。 回顧過(guò)去,英偉達(dá)一直保持著每?jī)赡臧l(fā)布一次全新架構(gòu)的節(jié)奏,從2020年的Ampere到2022年的Hopper,再到2024年的Blackwell,每一次架構(gòu)的更新都為AI應(yīng)用帶來(lái)了革命性的提升。H100作為Hopper架構(gòu)的代表產(chǎn)品,在市場(chǎng)上備受追捧,而B(niǎo)200則是Blackwell架構(gòu)的最新力作,性能表現(xiàn)更加強(qiáng)勁。 截至目前,NVIDIA Blackwell這個(gè)地表最強(qiáng)的GPU架構(gòu),為AI應(yīng)用帶來(lái)了革命性的提升,它能夠使企業(yè)在萬(wàn)億參數(shù)大型語(yǔ)言模型上構(gòu)建和運(yùn)行實(shí)時(shí)生成式 AI,且成本和能耗比上一代降低 25 倍。也因此,Blackwell迅速獲得了眾多客戶(hù)的青睞。 廠商們積極擁抱Blackwell架構(gòu) Blackwell平臺(tái)的發(fā)布標(biāo)志著AI技術(shù)的又一次重大突破,目前,Blackwell的產(chǎn)品陣容包括NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell超級(jí)芯片、GB200 NVL2和GB200 NVL72。涵蓋了從單 GPU 到多 GPU、從 x86 到 Grace、從風(fēng)冷到液冷技術(shù)等。強(qiáng)大的Blackwell產(chǎn)品陣容將推動(dòng)AI應(yīng)用在各個(gè)領(lǐng)域的廣泛普及,為企業(yè)帶來(lái)新的發(fā)展機(jī)遇。 在近日的臺(tái)北國(guó)際電腦展(COMPUTEX )上,NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛宣布,“從服務(wù)器、網(wǎng)絡(luò)和基礎(chǔ)設(shè)施制造商到軟件開(kāi)發(fā)商,整個(gè)行業(yè)正在準(zhǔn)備使用 Blackwell 來(lái)加速各個(gè)領(lǐng)域?qū)崿F(xiàn) AI 驅(qū)動(dòng)的創(chuàng)新! 臺(tái)灣地區(qū)的一流醫(yī)療中心長(zhǎng)庚紀(jì)念醫(yī)院計(jì)劃使用 NVIDIA Blackwell 計(jì)算平臺(tái)推進(jìn)生物醫(yī)學(xué)研究并加速影像和語(yǔ)言應(yīng)用,以此改善臨床工作流程,提升患者感受。 全球最大電子制造商之一Foxconn 正計(jì)劃使用 NVIDIA Grace Blackwell 來(lái)開(kāi)發(fā)用于 AI 電動(dòng)汽車(chē)和機(jī)器人平臺(tái)的智能解決方案,以及日益增長(zhǎng)的基于語(yǔ)言的生成式 AI 服務(wù),以為其客戶(hù)打造更加個(gè)性化的體驗(yàn)。 此外,永擎電子、華碩、技嘉、鴻佰科技、英業(yè)達(dá)、和碩、QCT、Supermicro、緯創(chuàng)資通和緯穎10家企業(yè)都將提供采用 Blackwell 架構(gòu)的系統(tǒng),使用 NVIDIA GPU和網(wǎng)絡(luò)打造云、專(zhuān)用系統(tǒng)、嵌入式和邊緣 AI 系統(tǒng)。 NVIDIA MGX支持Blackwell 為了滿足全球數(shù)據(jù)中心多樣化的加速計(jì)算需求,去年NVIDIA在Computex上發(fā)布了Nvidia MGX 模塊化參考設(shè)計(jì)平臺(tái),以便其能夠以快速且低成本的方式構(gòu)建超過(guò) 100 種的系統(tǒng)設(shè)計(jì)配置。 今年的Computex大會(huì)上,NVIDIA MGX模塊化參考設(shè)計(jì)平臺(tái)已經(jīng)加入了對(duì) NVIDIA Blackwell產(chǎn)品的支持,包括全新 NVIDIA GB200 NVL2 平臺(tái),該平臺(tái)專(zhuān)為主流大語(yǔ)言模型推理、檢索增強(qiáng)生成和數(shù)據(jù)處理提供卓越的性能而打造。GB200 NVL2 非常適合用于數(shù)據(jù)分析等新興領(lǐng)域,企業(yè)每年在這些領(lǐng)域的支出高達(dá)數(shù)百億美元。 借助 NVLink®-C2C 互連技術(shù)帶來(lái)的高帶寬內(nèi)存性能和 Blackwell 架構(gòu)中的專(zhuān)有的解壓縮引擎,較使用 x86 CPU 時(shí)數(shù)據(jù)處理速度可提速最多達(dá) 18 倍,能效提高了 8 倍。 制造商首先可根據(jù)其服務(wù)器機(jī)箱選擇一種基本的系統(tǒng)架構(gòu),然后再根據(jù)不同的工作負(fù)載選擇 GPU、DPU 和 CPU。目前,已有超過(guò) 25 家合作伙伴的 90 多套已發(fā)布或正在開(kāi)發(fā)中的系統(tǒng)使用了 MGX 參考架構(gòu),較去年來(lái)自 6 家合作伙伴的 14 套系統(tǒng)有了顯著的增加。通過(guò)采用 MGX,開(kāi)發(fā)成本大幅降低,較之前最多降低了四分之三,開(kāi)發(fā)時(shí)間縮短到僅六個(gè)月,較之前減少了三分之二。 AMD 和英特爾都支持 MGX 架構(gòu),并首次計(jì)劃打造基于他們自己 CPU 主機(jī)處理器的模塊設(shè)計(jì),其中包括下一代 AMD Turin 平臺(tái)和基于 P 核心的第六代英特爾®至強(qiáng)®處理器(原 Granite Rapids)。任何服務(wù)器系統(tǒng)廠商都可以借助這些參考設(shè)計(jì)節(jié)省開(kāi)發(fā)時(shí)間,并確保設(shè)計(jì)和性能的一致性。 NVIDIA 的最新平臺(tái) GB200 NVL2 也采用了 MGX 和 Blackwell。在橫向擴(kuò)展能力上,采用單一節(jié)點(diǎn)設(shè)計(jì),就可以支持各種不同的系統(tǒng)配置和網(wǎng)絡(luò)選項(xiàng),將加速計(jì)算無(wú)縫集成到現(xiàn)有的數(shù)據(jù)中心基礎(chǔ)設(shè)施中。 強(qiáng)大生態(tài)系統(tǒng),助力生成式AI落地部署 英偉達(dá)不僅提供各種軟硬件產(chǎn)品,還與行業(yè)伙伴合作構(gòu)建了統(tǒng)一的生態(tài)系統(tǒng),為生成式AI的行業(yè)部署提供堅(jiān)強(qiáng)的后盾。 這個(gè)生態(tài)系統(tǒng)包括全球領(lǐng)先的半導(dǎo)體制造商、NVIDIA的代工合作伙伴T(mén)SMC,以及全球電子制造商,它們?yōu)锳I工廠提供關(guān)鍵組件。這些伙伴公司在服務(wù)器、供電、冷卻等領(lǐng)域做出了許多創(chuàng)新,例如安費(fèi)諾、奇鋐科技(AVC)、Cooler Master、Colder Products Company(CPC)、丹佛斯、臺(tái)達(dá)和光寶科技。 得益于強(qiáng)大的生態(tài)系統(tǒng),行業(yè)廠商能夠快速開(kāi)發(fā)和部署新的數(shù)據(jù)中心基礎(chǔ)設(shè)施,以滿足全球企業(yè)的需求。通過(guò)與戴爾科技、慧與、聯(lián)想等服務(wù)器系統(tǒng)合作伙伴合作,并利用Blackwell技術(shù)、NVIDIA Quantum-2或Quantum-X800 InfiniBand網(wǎng)絡(luò)平臺(tái)、NVIDIA Spectrum™-X以太網(wǎng)平臺(tái)以及NVIDIA BlueField®-3 DPU,廠商們可以進(jìn)一步加速數(shù)據(jù)中心的開(kāi)發(fā)和部署。 企業(yè)級(jí)用戶(hù)還可以利用NVIDIA AI Enterprise軟件平臺(tái),其中包含NVIDIA NIM推理微服務(wù),來(lái)創(chuàng)建和運(yùn)行生產(chǎn)級(jí)生成式AI應(yīng)用。 寫(xiě)在最后 Blackwell正在以迅雷之勢(shì)席卷整個(gè)AI加速器,成為行業(yè)首選。按照這個(gè)速度,Blackwell很可能即將面臨供過(guò)于求的局面。相信在英偉達(dá)的引領(lǐng)下,AI技術(shù)將迎來(lái)更加快速的發(fā)展,為人類(lèi)社會(huì)帶來(lái)更加美好的未來(lái)。 |