Tajomný Projekt Q* z OpenAI vyvoláva medzi odborníkmi obavy. Môže byť naozaj nebezpečný pre ľudstvo? Čo je o ňom známe? Po tom, čo bol Sam Altman pôvodne minulý týždeň vyhodený a on a tím sa takmer presťahovali Microsoft, potom sa vrátil späť na svoje pracovisko (o tom písali sme tu), OpenAI je opäť v novinkách. Tentoraz kvôli tomu, čo niektorí výskumníci nazývajú možnou hrozbou pre ľudstvo. Áno, čítate správne, hrozba pre ľudstvo.
Skutočný prevrat vo svete technológií spôsobil Project Q* - nezverejnený projekt všeobecnej umelej inteligencie (AGI) - vyslovovaný ako Q-Star. Hoci je tento projekt v počiatočnom štádiu, považuje sa za skutočne prelomový vo vývoji AGI. Niektorí to však považujú za nebezpečenstvo pre ľudstvo.
Tajný projekt umelej inteligencie vyvinutý známym laboratóriom umelej inteligencie OpenAI má potenciál spôsobiť revolúciu v technológii a spoločnosti vo všeobecnosti. Vyvoláva to však aj niektoré etické otázky o rizikách. Ako sa objavujú podrobnosti o úžasných schopnostiach Projektu Q*, objavuje sa čoraz viac špekulácií o tom, čo by to mohlo znamenať pre budúcnosť ľudstva.
Tiež zaujímavé: História OpenAI: Čo to bolo a čo má spoločnosť pred sebou
Čo je umelá všeobecná inteligencia (AGI)?
Aby sme pochopili humbuk okolo Projektu Q* (Q-Star), skúsme najprv pochopiť, o čom je koncept umelej všeobecnej inteligencie (AGI). Zatiaľ čo súčasné systémy umelej inteligencie vynikajú v úzkych, špecifických úlohách, ako je hranie šachu alebo generovanie obrázkov, všeobecná umelá inteligencia označuje stroje, ktoré sa dokážu učiť a myslieť na ľudskej úrovni v mnohých doménach. To znamená, že môžu študovať ako malé deti v škole napríklad základy matematiky, chémie, biológie atď.
Všeobecná umelá inteligencia (AGI) je typ strojovej inteligencie, ktorá môže hypoteticky napodobňovať ľudskú inteligenciu alebo správanie so schopnosťou učiť sa a využívať tento potenciál na riešenie rôznych problémov. AGI sa tiež nazýva silná umelá inteligencia, úplná umelá inteligencia alebo umelá inteligencia na ľudskej úrovni. Všeobecná umelá inteligencia sa líši od slabej alebo úzkej AI, ktorá je schopná vykonávať iba špecifické alebo špecializované úlohy v rámci daných parametrov. ZHI bude schopný samostatne riešiť rôzne zložité problémy z rôznych oblastí poznania.
Vytváranie umelej inteligencie je hlavným zameraním výskumu umelej inteligencie spoločnosťami ako DeepMind a Anthropic. CSI je veľmi populárna téma v literatúre sci-fi a môže ovplyvniť budúci výskum. Niektorí tvrdia, že je možné vytvoriť UCI v priebehu rokov alebo desaťročí, zatiaľ čo iní tvrdia, že to môže trvať storočie alebo viac. Sú však takí, ktorí veria, že sa to nikdy nepodarí dosiahnuť. Niektorí videli začiatky URI v GPT-3, ale zdá sa, že stále má ďaleko k splneniu základných kritérií.
Vytvorenie umelej všeobecnej inteligencie (AGI) považujú výskumníci za svätý grál umelej inteligencie, čo je teoretická možnosť, ktorá už dlho zaujala ich predstavivosť. Preto objavenie sa takého projektu ako OpenAI Project Q* vyvolalo veľkú rezonanciu vo svete výskumu algoritmov umelej inteligencie. Hoci každý chápe, že sú to len prvé kroky, takmer naslepo, do sveta, kde bude mať umelá inteligencia rovnaké schopnosti ako ľudia, alebo ešte vyššie.
Tiež zaujímavé: Všetko o Microsoft Druhý pilot: budúcnosť alebo nesprávna cesta?
Čo je Project Q*?
Project Q* nie je typickým algoritmom, pretože ide o model umelej inteligencie, ktorý sa čoraz viac približuje modelu umelej všeobecnej inteligencie (AGI). To znamená, že na rozdiel od ChatGPT Project Q* vykazuje lepšie myslenie a kognitívne schopnosti v porovnaní s inými algoritmami. ChatGPT v súčasnosti odpovedá na otázky založené na veľkom množstve faktických materiálov, ale s AGI sa model AI naučí uvažovať a schopnosť myslieť a chápať sám za seba. Je už známe, že Project Q* je schopný riešiť jednoduché matematické problémy, ktoré neboli súčasťou jeho školiaceho materiálu. Niektorí výskumníci v tom vidia významný krok k vytvoreniu všeobecnej umelej inteligencie (AGI). OpenAI definuje AGI ako systémy umelej inteligencie, ktoré sú inteligentnejšie ako ľudia.
Vývoj projektu Q* riadi hlavný vedec OpenAI Ilya Sutzkever a jeho základ zdôvodnili výskumníci Jakub Pakhotsky a Shimon Sidor.
Schopnosť algoritmu samostatne riešiť matematické problémy, aj keď tieto problémy neboli súčasťou súboru tréningových údajov, sa považuje za prelom v oblasti umelej inteligencie. Nezhody v tíme ohľadom tohto projektu sú spojené s dočasným odstránením CEO OpenAI Sama Altmana. Je známe, že predtým, ako bol Altman prepustený, skupina výskumníkov spoločnosti poslala list predstavenstvu s upozornením na objav AI, ktorý by mohol predstavovať hrozbu pre ľudstvo. Tento list, ktorý údajne diskutoval o algoritme Project Q*, bol citovaný ako jeden z faktorov, ktoré viedli k Altmanovmu prepusteniu. Schopnosti projektu Q* a potenciálne riziká, ktoré môže predstavovať, však nie sú úplne pochopené, pretože podrobnosti nie sú známe. Nič nebolo zverejnené pre širokú verejnosť.
Vo svojom jadre je Project Q* bezmodelová metóda posilňovania, ktorá sa odchyľuje od tradičných modelov tým, že nevyžaduje žiadne predchádzajúce znalosti o prostredí. Namiesto toho sa učí prostredníctvom skúseností a prispôsobuje činy na základe odmien a trestov. Technickí experti veria, že Project Q* bude schopný získať vynikajúce schopnosti získaním schopností podobných ľudským kognitívnym schopnostiam.
Práve táto funkcia je však na novom modeli umelej inteligencie najpôsobivejšia, čo znepokojuje výskumníkov a kritikov a vyvoláva ich obavy z aplikácií technológie v reálnom svete a súvisiacich rizík. Čoho sa vedci a výskumníci tak boja? Poďme na to.
Tiež zaujímavé: Ako aktualizovať domáce zariadenia, aby podporovali Wi-Fi 6
Majú strach z neznámeho
Ľudia sa vždy báli neznámeho, nepoznateľného. Toto je ľudská podstata, črta nášho charakteru a spôsobu života.
Svet technológií sa o projekte Q* dozvedel v novembri 2023 po agentúre Reuters nahlásené o internom liste napísanom dotknutými výskumníkmi OpenAI. Obsah listu bol nejasný, ale údajne vážne analyzoval schopnosti Projektu Q*. Ako som už spomenul vyššie, dokonca sa špekuluje, že práve tento list spustil rezignáciu Sama Altmana.
Tento výbušný objav dal podnet na vznik rôznych hypotéz týkajúcich sa povahy projektu Q*. Vedci navrhli, že by to mohol byť revolučný model prirodzeného jazyka pre AI. Akýsi vynálezca nových algoritmov, ktorý ich vytvorí pre iné formy AI, alebo niečo úplne iné v tejto oblasti.
Altmanove provokatívne komentáre o všeobecnej umelej inteligencii ako „priemernom zamestnancovi“ už vyvolali obavy o istotu zamestnania a nezadržateľnú expanziu vplyvu AI. Tento záhadný algoritmus je definovaný ako míľnik vo vývoji umelej všeobecnej inteligencie (AGI). Každý však chápe, že tento míľnik je drahý. A teraz nejde o peniaze. Úroveň kognitívnych schopností, ktorú sľubuje nový model AI, so sebou nesie neistotu. Vedci z OpenAI sľubujú, že AI bude mať myslenie na ľudskej úrovni. A to znamená, že veľa vecí nemôžeme vedieť a predvídať dôsledky. A čím viac neznámych, tým ťažšie je pripraviť sa na kontrolu alebo opravu. To znamená, že nový algoritmus je schopný sebazlepšovania a vývoja. Toto sme už niekde videli...
Tiež zaujímavé: Windows 12: Aký bude nový operačný systém
Úžasné podrobnosti o možnostiach Project Q*
Keď sa začali objavovať ďalšie informácie, mnohých výskumníkov to šokovalo. Prvé náznaky hovorili o tom, že Project Q* mal úžasný talent na matematiku. Na rozdiel od kalkulačky, ktorá vykonáva mechanické výpočty, Project Q* môže údajne používať logiku a uvažovanie na riešenie zložitých matematických problémov. Táto matematická schopnosť zovšeobecňovať naznačuje rozvoj širokej inteligencie.
Obrovským krokom vpred bude aj autonómne školenie Project Q* bez špecifických súborov údajov používaných na školenie typických AI. Nie je známe, či Project Q* zvládol nejaké ďalšie zručnosti. Ale jeho matematické schopnosti sú samé o sebe také úžasné, že mätú aj skúsených výskumníkov.
Prečítajte si tiež: Projekt ľudského mozgu: Pokus napodobniť ľudský mozog
Cesta projektu Q* k dominancii?
V tejto veci existujú optimistické aj pesimistické scenáre. Optimisti povedia, že Project Q* by mohol byť iskrou, ktorá vedie k technologickému prelomu. Ako sa systém rekurzívne zlepšuje, jeho nadprirodzená inteligencia môže pomôcť vyriešiť niektoré z najpálčivejších problémov ľudstva, od klimatických zmien až po kontrolu chorôb. Project Q* dokáže zautomatizovať nudnú prácu a uvoľniť náš voľný čas na iné aktivity.
Aj keď existuje oveľa viac pesimistickejších možností. Niekedy sú celkom rozumné a majú určitý význam.
Strata pracovných miest
Rýchle posuny vo vývoji technológií môžu predbehnúť individuálnu adaptáciu ľudí. To povedie k strate jednej alebo viacerých generácií, ktoré nebudú schopné získať potrebné zručnosti alebo znalosti na prispôsobenie sa novej realite. To zase znamená, že menej ľudí si bude môcť udržať prácu. Namiesto toho ho budú vykonávať stroje, automatizované systémy a roboty. Odpoveď však nie je taká jednoznačná, pokiaľ ide o kvalifikovaných odborníkov. Okrem toho sa môžu objaviť nové profesie súvisiace špecificky s vývojom algoritmov umelej inteligencie. Stále však existujú riziká a ľudstvo nemá právo ich ignorovať.
Nebezpečenstvo nekontrolovanej moci
Ak sa AI tak výkonná ako Project Q* dostane do rúk ľudí s nekalými úmyslami, riskuje katastrofálne následky pre ľudstvo. Aj bez potenciálne škodlivých úmyslov môže úroveň rozhodovania Projektu Q* viesť k škodlivým výsledkom, čo podčiarkuje zásadný význam starostlivého hodnotenia jeho aplikácie.
Ak je Project Q* nedostatočne optimalizovaný pre ľudské potreby, môže spôsobiť škodu svojou schopnosťou maximalizovať niektoré ľubovoľné metriky. Alebo môže mať politický rozmer, napríklad využitie na štátny dohľad alebo represiu. Otvorená diskusia o analýze dopadu projektu Q* pomôže definovať možné scenáre vývoja ZHI.
Čaká nás súboj „Človek vs. Stroj“?
Hollywood už vo svojich filmoch vytvoril mnoho scenárov takejto konfrontácie. Všetci si pamätáme slávny SkyNet a dôsledky takéhoto objavu. Možno by si výskumníci OpenAI mali pozrieť tento film znova?
Ľudstvo musí prijať signály a výzvy a byť pripravené na to, čo sa môže stať. Model umelej inteligencie schopný myslieť ako človek sa raz môže stať naším nepriateľom. Mnohí by namietali, že v budúcnosti budú vedci presne vedieť, ako udržať situáciu pod kontrolou. Ale pokiaľ ide o stroje, nemôžete úplne vylúčiť možnosť, že sa pokúsia ovládnuť ľudí.
Tiež zaujímavé: Nie všetko, čo nazývame AI, je v skutočnosti umelá inteligencia. Tu je to, čo potrebujete vedieť
Prečo je OpenAI tichý?
Napriek šialenému záujmu verejnosti o Project Q* vedenie OpenAI o špecifikách algoritmu mlčí. Vnútorný únik však ukazuje rastúce napätie v laboratóriu v súvislosti s prioritami a otvorenosťou vývoja. Zatiaľ čo mnohí zasvätenci OpenAI podporujú vytvorenie projektu Q*, kritici tvrdia, že transparentnosť ustúpila do úzadia pri urýchlení vedeckého pokroku za každú cenu. A niektorí vedci sa obávajú, že neuveriteľná moc je daná systémom, ktorých ciele sa nemusia nevyhnutne zhodovať s ľudskými hodnotami a etikou. Títo výskumníci sa domnievajú, že debaty o dohľade a zodpovednosti sú nebezpečne utlmené. Vyžadujú si väčšiu publicitu a podrobnosti.
Ako tvorcovia projektu Q* musia OpenAI pochopiť, že majú technológiu, ktorá môže buď výrazne rozšíriť možnosti rozvoja spoločnosti, alebo ju nemilosrdne zničiť. Takéto významné inovácie si zaslúžia oveľa väčšiu transparentnosť na vybudovanie dôvery verejnosti. Každý prognostik strojového veku musí starostlivo zvážiť riziká spolu s výhodami. A vývojári Projektu Q* musia preukázať dostatok múdrosti a starostlivosti, aby mohli spoločnosť bezpečne uviesť do novej éry všeobecnej umelej inteligencie, ktorá môže prísť skôr, ako sme si kedy predstavovali.
Aby bola všeobecná umelá inteligencia pre ľudstvo užitočná a bezpečná, musí sa zabezpečiť, aby fungovala bezpečne, eticky a v súlade s hodnotami a cieľmi ľudstva. To si vyžaduje vypracovanie a implementáciu vhodných regulačných aktov, noriem, pravidiel a protokolov, ktoré budú kontrolovať a obmedzovať činnosť a správanie CSI. Okrem toho musia byť odstránené potenciálne hrozby a riziká spojené so zneužívaním, nehodami, nekompatibilitou, manipuláciami a konfliktmi, ktoré by mohli viesť k zničeniu ľudstva. Medzitým investori a Microsoft dychtivo čaká na predajný produkt, ktorý by mohol generovať zisk, čo je nepochybne v rozpore s potrebou konať zodpovedne. Dúfajme, že zvíťazí zdravý rozum.
Prečítajte si tiež: