O myšlienke umelej inteligencie, ktorá zvrhne ľudstvo, sa diskutuje už desaťročia a v januári 2021 vedci rozhodli, či dokážeme ovládať počítačovú superinteligenciu na vysokej úrovni. Odpovedať? Takmer určite nie.
Problém je v tom, že ovládanie supermysle ďaleko za hranicou ľudského chápania by vyžadovalo simuláciu tejto supermysle, ktorú by sme mohli analyzovať. Ale ak to nie sme schopní pochopiť, nie je možné vytvoriť takúto simuláciu.
Autori štúdie z roku 2021 sa domnievajú, že pravidlá ako „neubližovať ľuďom“ nemožno zaviesť, pokiaľ nepochopíme, s akými scenármi umelá inteligencia (AI) príde. Akonáhle bude počítačový systém fungovať na úrovni, ktorá presahuje možnosti našich programátorov, nebudeme už môcť nastavovať limity.
„Superinteligencia je zásadne odlišný problém ako tie, ktoré sa zvyčajne skúmajú pod hlavičkou ‚robotickej etiky‘,“ píšu vedci. "Je to preto, že supermyseľ je mnohostranná, a preto je potenciálne schopná mobilizovať rôzne zdroje na dosiahnutie cieľov, ktoré sú pre ľudí potenciálne nevyspytateľné, nieto ešte kontrolovateľné."
Časť zdôvodnenia tímu pochádza z problémy so zastavením, ktorú navrhol Alan Turing v roku 1936. Úlohou je zistiť, či počítačový program dospeje k záveru a odpovie (a zastaví sa), alebo sa len večne zdržiava a snaží sa nájsť odpoveď.
Ako Turing dokázal s pomocou inteligentná matematika, aj keď to môžeme vedieť pri niektorých špecifických programoch, je logicky nemožné nájsť spôsob, ktorý by nám to umožnil vedieť pre každý potenciálny program, ktorý by kedy mohol byť napísaný. To nás privádza späť k AI, ktorá by v superinteligentnom stave mohla do svojej pamäte uložiť všetky možné počítačové programy súčasne.
Tiež zaujímavé:
- OpenAI naučila umelú inteligenciu konvertovať príkazy na programový kód
- Umelá inteligencia bude hľadať gravitačné vlny
Akýkoľvek program napísaný napríklad na to, aby zabránil umelej inteligencii ubližovať ľuďom a ničiť svet, môže, ale nemusí dospieť k záveru (a zastaviť sa) – je matematicky nemožné byť si absolútne istý v oboch smeroch, čo znamená, že ho nemožno obmedziť. "V podstate to robí odstrašovací algoritmus nepoužiteľným," povedal v januári počítačový vedec Iyad Rahwan z Inštitútu Maxa Plancka pre ľudský rozvoj v Nemecku.
Alternatívou k výučbe etiky AI a zákazov ničenia sveta, ktorými si žiadny algoritmus nemôže byť úplne istý, je podľa výskumníkov obmedzenie schopností supermysle. Môže byť napríklad odrezaný od časti internetu alebo určitých sietí.
Autori nedávnej štúdie odmietajú aj túto myšlienku, pretože veria, že obmedzí rozsah umelej inteligencie – hovoria, že ak ju nebudeme využívať na riešenie problémov nad rámec ľudských možností, tak prečo ju vôbec vytvárať?
Ak sa chystáme posunúť umelú inteligenciu dopredu, možno ani nevieme, kedy sa objaví superinteligencia, ktorá je mimo našej kontroly, je taká nevyspytateľná. To znamená, že si musíme začať klásť vážne otázky o tom, kam smerujeme.
„Superinteligentný stroj poháňajúci svet znie ako sci-fi,“ hovorí počítačový vedec Manuel Kebrian z Inštitútu Maxa Plancka pre ľudský rozvoj. Ale už existujú stroje, ktoré nezávisle vykonávajú niektoré dôležité úlohy, zatiaľ čo programátori úplne nechápu, ako sa to naučili.
Preto vyvstáva otázka, či sa v určitom okamihu môže stať nekontrolovateľným a nebezpečným pre ľudstvo...
Prečítajte si tiež:
- Umelá inteligencia dokázala reprodukovať maľovaný obraz Picassa
- Umelá inteligencia pomôže predpovedať dopravné nehody skôr, ako k nim dôjde