NVIDIA DGX GH200 AI superkompjuter

NVIDIA je objavila novu klasu AI superkompjutera sa NVIDIA® GH200 Grace Hopper tehnologijom superčipa i NVIDIA NVLink® Switch sistemom.Veliki memorijski prostor NVIDIA DGX GH200 koristi NVLink tehnologiju za interkonektivnost sa NVLink Switch sistemom, kako bi povezao 256 GH200 superčipove, a da bi mogli da funkcionišu kao jedna grafika. Ovo omogućava 1 exaflop performansi i 144 terabajta zajedničke memorije — gotovo 500 puta više memorije od prethodne generacije NVIDIA DGXA100, koja je predstavljena 2020. godine.

“Generativna AI, veliki jezički modeli i “recommender“ sistemi su digitalni motori moderne ekonomije", rekao je Jensen Huang, osnivač i izvršni direktor NVIDIA-e. “DGX GH200 AI superkompjuteri integrišu NVIDIA napredne tehnologije za ubrzano računarstvo i umrežavanje, kako bi proširili granice veštačke inteligencije.”

NNVIDIA NVLink tehnologija skalabilno proširuje AI
GH200 superčipovi eliminišu potrebu za tradicionalnom CPU-to-GPU PCIe konekcijom, kombinovanjem NVIDIAGrace™ procesora utemeljenog na Arm arhitekturi, sa NVIDIA H100 Tensor Core grafikom, koristeći NVIDIA NVLink-C2C interkonekcije čipa. Ovo povećava protok između grafike i procesora za 7 puta, u poređenju sa najnovijom PCIe tehnologijom, smanjuje potrošnju energije za više od 5 puta i pruža 600GB Hopper arhitekturu grafičkih procesora za DGX GH200 superkompjutere.
DGX GH200 je prvi superkompjuter koji kombinuje Grace Hopper superčipove sa NVIDIA NVLink Switch sistemom, novom interkonekcijom koja omogućava da sve grafičke kartice u DGX GH200 sistemu rade zajedno kao jedna. Prethodna generacija sistema dozvoljavala je da se kombinuje samo osam grafika sa NVLink-om, a da pritom performanse ne budu ugrožene.
DGX GH200 arhitektura pruža 48 puta veću propusnost NVLink-a od prethodne generacije, dajući snagu moćnog AI superkompjutera uz jednostavnost programiranja jedne grafike.

Novi alat za pretraživanje namenjen pionirima veštačke inteligencije
Google Cloud, Meta i Microsoft trebalo bi da budu prvi koji će dobiti pristup DGX GH200, kako bi istražili mogućnosti za generativna AI radna opterećenja. NVIDIA namerava da omogući DGX GH200 dizajn kao nacrt provajderima usluga u Cloud-u i drugim „hiper skalerima“ kako bi mogli dodatno da ga prilagode svojoj infrastrukturi.

Novi NVIDIA Helios superkompjuter za napredno pretraživanje i razvoj
NVIDIA kreira sopstveni AI superkompjuter temeljen na DGX GH200, kako bi podstakao rad svojih istraživača i timova za razvoj.
Nazvan NVIDIA Helios, ovaj superkompjuter će imati četiri DGX GH200 sistema. Svaki će biti međusobno povezan s NVIDIAQuantum-2 InfiniBand mrežom kako bi se povećao protok podataka. Helios će uključivati 1024 Grace Hopper superčipove i očekuje se da će biti dostupan do kraja godine.

Potpuno integrisan i stvoren za jake modele
DGX GH200 superkompjuteri poseduju NVIDIA softver za pružanje kompletnog rešenja po principu "ključ u ruke" za najobimnija AI radna opterećenja i analizu podataka. Softver NVIDIA Base Command™ omogućava upravljanje AI radnim procesom, upravljanje klasterom opreme „enterpise“ kvaliteta, bibliotekama koje ubrzavaju računarsku, skladišnu i mrežnu infrastrukturu, te sistemski softver optimizovan za AI radna opterećenja.
NVIDIA AI Enterprise - softver NVIDIA AI platforme pruža više od 100 „frameworks“-a i već napravljenih modela i razvijenih alata kako bi implementirao i pojednostavio proizvodnju AI, uključujući generativnu AI, te „computer vision“ i govornu AI.

Dostupnost
Očekuje se da će NVIDIA DGX GH200 superkompjuteri biti dostupni do kraja 2023. godine.