NVIDIA oznámila novú triedu superpočítačov s veľkým množstvom pamäte – superpočítač NVIDIA DGX na báze superčipov NVIDIA GH200 Grace násypky a spínacie systémy NVIDIA NVLink. Je určený na vývoj modelov novej generácie pre generatívne aplikácie AI, odporúčacie systémy a pracovné zaťaženie analýzy údajov.
Obrovský pamäťový priestor NVIDIA DGX GH200 využíva technológiu pripojenia NVLink so systémom NVLink Switch System na spojenie 256 superčipov GH200, ktoré vo výsledku fungujú ako jeden GPU. To poskytuje 1 exaflop výkonu a 144 TB zdieľanej pamäte, takmer 500-krát viac ako predchádzajúca generácia NVIDIA DGX A100, ktorý bol predstavený v roku 2020.
„Generatívne AI, veľké jazykové modely a systémy odporúčaní sú digitálnymi motormi modernej ekonomiky, povedal zakladateľ a generálny riaditeľ NVIDIA Jensen Huang. – Superpočítače DGX GH200 AI integrujú najmodernejšie zrýchlené výpočtové a sieťové technológie NVIDIArozšíriť hranice AI“.
Ako sa uvádza v tlačovej správe na webovej stránke spoločnosti, superčipy GH200 eliminujú potrebu tradičného pripojenia CPU-GPU PCIe. Kombinujú procesor NVIDIA Grace a GPU na báze Arm NVIDIA H100 Tensor Core v jednom puzdre. To zvyšuje šírku pásma medzi GPU a CPU 7-krát, výrazne znižuje spotrebu energie a poskytuje 600 GB architektúry GPU Hopper pre nové superpočítače. Architektúra DGX GH200 poskytuje 48-krát väčšiu šírku pásma NVLink ako predchádzajúca generácia.
Očakáva sa, že Google Cloud meta že Microsoft bude medzi prvými, ktorí získajú prístup k DGX GH200 a preskúmajú jeho možnosti pri generovaní pracovných záťaží AI. Výrobca má tiež v úmysle poskytnúť dizajn DGX GH200 ako vzorku poskytovateľom cloudových služieb, aby si ho mohli prispôsobiť pre svoju infraštruktúru.
„Vytvorenie pokročilých generatívnych modelov si vyžaduje inovatívne prístupy k infraštruktúre umelej inteligencie,“ povedal viceprezident pre výpočtovú techniku Google Cloud Mark Lohmeyer. „Nová škála NVLink a pamäť superčipu Grace Hopper riešia kľúčové prekážky vo veľkom meradle AI a tešíme sa na preskúmanie jej potenciálu pre Google Cloud a naše generatívne iniciatívy AI.“
Firemný viceprezident pre infraštruktúru Azure v Microsoft Girish Bablani si všimol potenciál DGX GH200 pre prácu s terabajtovými súbormi údajov, čo umožní vývojárom vykonávať výskum vo väčšom rozsahu a pri vyšších rýchlostiach.
Spoločnosť tiež vytvára superpočítač NVIDIA Helios založený na DGX GH200 pre svojich výskumníkov a vývojové tímy. Bude vybavený štyrmi systémami DGX GH200 a každý bude prepojený sieťou Quantum-2 InfiniBand na zvýšenie dátovej priepustnosti pre tréning veľkých modelov AI. Helios bude obsahovať 1024 XNUMX superčipov Grace Hopper a očakáva sa, že bude funkčný do konca roka.
softvér NVIDIA Base Command poskytuje správu pracovného toku AI, správu klastrov na podnikovej úrovni, knižnice, ktoré urýchľujú výpočtovú, úložnú a sieťovú infraštruktúru, a systémový softvér optimalizovaný pre pracovné zaťaženie AI. Zahrnutý je aj softvér AI Enterprise, ktorý poskytuje viac ako 100 rámcov, vopred vyškolených modelov a vývojových nástrojov na zjednodušenie vývoja a nasadenia produkčnej AI vrátane generatívnej AI. AI, počítačové videnie, rečová AI a oveľa viac.
Superpočítače NVIDIA DGX GH200 bude dostupný do konca roka.
Prečítajte si tiež: