Microsoft oznámila, že pracuje na novom plánovacom systéme „planetárneho rozsahu“ pre úlohy umelej inteligencie (AI) s názvom Singularity.
Ako je vysvetlené v bielej knihe publikovanej firmou, Singularity je „nový plánovač s ohľadom na pracovné zaťaženie, ktorý dokáže transparentne predchádzať a pružne škálovať pracovné zaťaženie hlbokého učenia, aby sa zabezpečilo vysoké využitie bez ovplyvnenia ich správnosti alebo výkonu v globálnom meradle akcelerátorov AI.“ .
Z netechnického hľadiska to znamená, že systém je navrhnutý tak, aby optimálne využíval globálnu sieť serverového hardvéru spoločnosti, čím sa znižujú náklady spojené s prevádzkou záťaže AI. Jadrom hodnotovej ponuky Singularity je schopnosť meniť veľkosť pracovných miest v strede prúdu a presúvať ich medzi rôznymi infraštruktúrami umiestnenými po celom svete.
Ako vysvetľuje dokument, spustenú úlohu možno presunúť do iného klastra alebo dátového centra a pokračovať v nej presne tam, kde skončila, čím sa optimalizuje využitie kapacity. Dá sa tiež elasticky zväčšiť alebo znížiť pomocou rôznych typov a počtu AI akcelerátorov. Krása tohto systému, podľa slov Microsoft, v tom, že nevyžaduje žiadnu ďalšiu prácu od vývojárov, pretože nie sú potrebné žiadne úpravy kódu na fungovanie Singularity.
Aby to však bolo možné, Microsoft musel nájsť spôsob, ako oddeliť pracovné zaťaženie od hardvérových zdrojov. Nové riešenie využíva to, čo spoločnosť nazýva „proxy zariadenie“, ktoré funguje vo svojom vlastnom adresnom priestore a vytvára úroveň oddelenia, ktorá zabezpečuje hladké prerozdelenie zdrojov.
Zatiaľ čo sa tento článok zameriava na plánovaciu službu, autori tvrdia, že systém je navrhnutý tak, aby sa škáloval na flotilu stoviek tisíc GPU a ďalších akcelerátorov AI.
Prečítajte si tiež:
Nechaj odpoveď