NVIDIA今日宣布推出第四代NVIDIA DGX系統(tǒng)，這是全球首個(gè)基于全新NVIDIA H100 Tensor Core GPU的產(chǎn)品。
DGX H100系統(tǒng)能夠滿足大型語(yǔ)言模型、推薦系統(tǒng)和氣候科學(xué)的大規(guī)模計(jì)算需求。
每個(gè)DGX H100系統(tǒng)配備八塊NVIDIA H100 GPU，并由 NVIDIA NVLink連接，能夠在新的FP8精度下達(dá)到32 Petaflop，比上一代系統(tǒng)高6倍。
DGX H100系統(tǒng)是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基礎(chǔ)設(shè)施的構(gòu)建模塊。
新的DGX SuperPOD架構(gòu)采用了一個(gè)全新的NVIDIA NVLink Switch系統(tǒng)，通過這一系統(tǒng)最多可連接32個(gè)節(jié)點(diǎn)，總計(jì)256塊H100 GPU。
新一代DGX SuperPOD提供1 Exaflops的FP8 AI，比上一代產(chǎn)品高6倍，能夠運(yùn)行具有數(shù)萬(wàn)億參數(shù)的龐大LLM工作負(fù)載，從而推動(dòng)AI的前沿發(fā)展。
NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：
“AI已經(jīng)從根本上改變了軟件的功能和產(chǎn)出方式。利用AI來(lái)革新自身所處行業(yè)的公司也意識(shí)到了自身AI基礎(chǔ)設(shè)施的重要。
NVIDIA全新DGX H100系統(tǒng)將賦能企業(yè)AI工廠，助力其從數(shù)據(jù)中提煉出我們最具價(jià)值的資源，即‘智能’。"
關(guān)鍵詞：
