Konverzačný AI bot ChatGPT od OpenAI bol uvedený na trh minulý rok a stal sa mimoriadne populárnym rekordnou rýchlosťou vďaka svojej schopnosti písať príbehy, písať e-maily a dokonca generovať kód (niekedy, žiaľ, aj škodlivé). Nová správa však naznačuje, že to stojí OpenAI celý majetok, aby fungoval každý deň.
Podľa výskumu SemiAnalysis minie OpenAI na údržbu takmer 695 XNUMX dolárov denne chatovací robot vo funkčnom stave. Podľa odhadov spoločnosti systém zahŕňa približne 3,6 tisíc serverov HGX A100 a takmer 29 tisíc GPU a náklady na požiadavku sú približne 0,36 ¢.
Dylan Patel, hlavný analytik SemiAnalysis, pre Business Insider povedal, že súčasné náklady na prevádzku softvéru môžu byť ešte vyššie, pretože prevádzka verzie GPT-4 bude pravdepodobne drahšia ako jej predchodca GPT-3. Svoje odhady založil na minulom modeli GPT-3, ale OpenAI už vydal verziu GPT-4 pre platených predplatiteľov. Spoločnosť tvrdí, že nový model ponúka presnejšie informácie a lepšie chráni pred nesprávnymi odpoveďami, ktoré boli problémom pri predošlých verziách.
Jedným z hlavných dôvodov prehnaných nákladov sú energeticky náročné špecializované čipy potrebné na prevádzku systému. Ak chcete vyriešiť tento problém, Microsoft pracuje na vlastnom čipe umelej inteligencie s názvom Athena, ktorý by mohol nahradiť GPU NVIDIA a znížiť prevádzkové náklady ChatGPT.
Medzitým ChatGPT už dokáže generovať funkčný kód od nuly a dokonca vyvoláva obavy, že by časom mohol nahradiť programátorov. Nedávna štúdia skupiny vedcov však naznačuje, že kód generovaný chatbotom nemusí byť veľmi bezpečný. Štúdia hovorí, že ChatGPT generuje kód, ktorý je „výrazne pod minimálnymi bezpečnostnými štandardmi platnými vo väčšine situácií“. Najzaujímavejšie je, že to chatbot priznáva na otázku, ako bezpečný je kód, ktorý generuje.
Na kontrolu kvality kódovania ChatGPT, vedci ho požiadali, aby vygeneroval 21 programov a skriptov pomocou štyroch programovacích jazykov: C, C++, Python a Java. Pri prvom pokuse bol chatbot schopný napísať iba 5 zabezpečených programov, ale po niekoľkých výzvach od výskumníkov vytvoril 7 bezpečnejších častí kódu. Výsledky štúdie naznačujú, že používanie ChatGPT na písanie aplikácií môže byť v súčasnosti neefektívne alebo dokonca nebezpečné, no v budúcnosti sa to môže zmeniť.
Prečítajte si tiež:
Wow čísla pre voľný neurón!
V živote by ma nenapadlo, že je to také drahé...
Tiež som bol prekvapený. Je mi to dokonca trochu nepríjemné teraz Otvorte ChatGPT - stále ho zaťažím svojimi požiadavkami)