V tlačovej službe AMD oznámila, že spoločnosť vydala novú verziu softvéru s otvoreným zdrojovým kódom ROCm 6.3. Tento softvér dostal ďalšie pokročilé nástroje na zjednodušenie procesu vývoja a poskytuje ešte lepší výkon a škálovateľnosť pre pracovné zaťaženia AI a vysokovýkonných výpočtov (HPC).
Sledujte náš kanál pre najnovšie správy Google News online alebo prostredníctvom aplikácie.
Medzi hlavné funkcie AMD ROCm 6.3 spoločnosť zdôraznila nasledovné:
- Nástroj SGLang špeciálne navrhnutý na optimalizáciu odvodzovania najmodernejších generatívnych modelov, ako sú veľké jazykové modely a modely vizuálnych jazykov, na GPU AMD Instinct. S ním môžete dosiahnuť až šesťkrát vyššiu priepustnosť pri vyvodzovaní veľkých jazykových modelov
- Optimalizácia transformátorov novej úrovne. FlashAttention-2, optimalizovaný pre ROCm 6.3, zrýchľuje trénovanie modelov transformátorov a odvodenie 3-krát. Vďaka tomu je možné výrazne skrátiť čas uvedenia podnikových systémov umelej inteligencie na trh
- Kompilátor AMD Fortra, ktorý zjednodušuje akceleráciu GPU pre staršie aplikácie HPC a ponúka priame sťahovanie, spätnú kompatibilitu a jednoduchú integráciu bez významných zmien kódu.
- Nový viacuzlový FFT (rýchly algoritmus na výpočet diskrétnej Fourierovej transformácie). Podpora FFT s viacerými uzlami umožňuje vysokovýkonné výpočty FFT na veľkých súboroch údajov. To umožňuje zvýšiť efektivitu a rýchlosť rozhodovania v takých oblastiach, ako je ropný a plynárenský priemysel a vedecký výskum.
V novej verzii softvéru boli rozšírené aj knižnice počítačového videnia. Pokročilé knižnice videnia, vrátane AV1 a rocJPEG, umožňujú vývojárom vytvárať pokročilé AI riešenia pre rôzne úlohy, ako je napríklad analýza videa alebo rozšírenie množiny údajov. Tento nástroj bude užitočný v celom rade odvetví, od masmédií a zábavy až po autonómne systémy.
Vďaka otvorenému zdroju a neustálemu vývoju, ktorý spĺňa potreby vývojárov, AMD naďalej umožňuje spoločnostiam rýchlejšie inovovať, inteligentnejšie škálovať a udržať si náskok pred svojimi konkurenčnými odvetviami.
Ak máte záujem o články a novinky o letectve a vesmírnej technike, pozývame vás do nášho nového projektu AERONAUT.priemer.
Prečítajte si tiež: