Bývalý šéf Google prirovnal umelú inteligenciu k jadrovým zbraniam

Bývalý generálny riaditeľ spoločnosti Google Eric Schmidt prirovnal umelú inteligenciu (AI) k jadrovým zbraniam a vyzval na režim odstrašovania, podobný vzájomnému zaistenému ničeniu, ktorý bráni najmocnejším národom sveta sa navzájom ničiť.

Schmidt hovoril o nebezpečenstvách umelej inteligencie na bezpečnostnom fóre Aspen 22. júla počas diskusie o národnej bezpečnosti a AI. Keď sa ho pýtali na hodnotu morálky v technológii, Schmidt vysvetlil, že on sám bol naivný, pokiaľ ide o silu informácií v začiatkoch Googlu. Potom vyzval, aby technológia lepšie zodpovedala etike a morálke ľudí, ktorým slúžia, a načrtol zvláštne porovnanie medzi umelou inteligenciou a jadrovými zbraňami.

"Nie sme pripravení na rokovania, ktoré potrebujeme." – @ericschmidt #AspenSecurity obr.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Júla 22, 2022

Schmidt hovoril o blízkej budúcnosti, v ktorej Čína a Spojené štáty potrebujú uzavrieť dohodu o umelej inteligencii. "V 50. a 60. rokoch sme skončili vytvorením sveta, v ktorom existovalo pravidlo 'žiadne prekvapenia' pre jadrové testovanie, a v dôsledku toho boli zakázané," povedal Schmidt. „Toto je príklad rovnováhy dôvery alebo nedostatku dôvery, toto je pravidlo ‚žiadne prekvapenia‘. Veľmi ma znepokojuje, že americký pohľad na Čínu ako skorumpovanú alebo komunistickú alebo čokoľvek iné a čínsky pohľad na Ameriku ako na porazeného... dovolia ľuďom povedať: "Ach môj bože, majú niečo za lubom," a potom začne niečo nepochopiteľné....

AI a strojové učenie je fascinujúca a často nepochopená technológia. V podstate nie je taký chytrý, ako si ľudia myslia. Dokáže vytvárať umelecké diela na úrovni majstrovských diel, poraziť ľudí v Starcraft II a uskutočňovať základné telefonáty pre používateľov. Pokusy prinútiť ho vykonávať náročnejšie úlohy, ako napríklad riadenie auta vo veľkom meste, však neboli úspešné.

Schmidt hovorí o pomyselnej blízkej budúcnosti, v ktorej sa Čína aj USA budú zaoberať bezpečnostnými otázkami, čo ich prinúti uzavrieť akúsi zmluvu o obmedzení AI. Spomenul si na 1950. a 60. roky XNUMX. storočia, keď diplomacia vyvinula sériu kontrol okolo najsmrteľnejších zbraní na planéte. Trvalo však desaťročie jadrových výbuchov, a čo je najdôležitejšie, zničenie Hirošimy a Nagasaki, kým nastal mier pred uzavretím Zmluvy o zákaze jadrových skúšok, SALT II a ďalších významných právnych predpisov.

Dve japonské mestá zničené Amerikou na konci druhej svetovej vojny vzali životy desaťtisícom ľudí a dokázali svetu večnú hrôzu jadrových zbraní. Potom sa vlády Ruska a Číny ponáhľali získať zbrane. Spôsob, akým žijeme s možnosťou, že tieto zbrane budú použité, je známy ako Mutually Assured Destruction (MAD), teória odstrašovania, ktorá zaisťuje, že ak jedna krajina vypustí jadrovú zbraň, je možné, že to urobí ktorákoľvek iná krajina. Nepoužívame tie najničivejšie zbrane na planéte kvôli možnosti, že to zničí aspoň civilizáciu na celom svete.

Napriek farbistým Schmidtovým komentárom MAD pre AI nechceme ani nepotrebujeme. Po prvé, AI ešte nepreukázala svoju ničivú silu v porovnaní s jadrovými zbraňami. Ale ľudia pri moci sa tejto novej technológie obávajú a zvyčajne z nesprávnych dôvodov. Ľudia dokonca navrhli odovzdať kontrolu nad jadrovými zbraňami umelej inteligencii, pretože veria, že by bola lepším arbitrom ich použitia ako človek.

Problém umelej inteligencie nespočíva v tom, že má potenciálne deštruktívnu silu jadrovej zbrane. Ide o to, že umelá inteligencia je len taká dobrá ako ľudia, ktorí ju vyvinuli, a že nesie hodnoty svojich tvorcov. Umelá inteligencia trpí klasickým problémom „odpadky dovnútra, odpadky von“: rasistické algoritmy vytvárajú rasistických robotov a všetka AI nesie predsudky svojich tvorcov.

Zdá sa, že Demis Hassabis, generálny riaditeľ spoločnosti DeepMind, ktorá vycvičila AI, ktorá poráža hráčov Starcraft II, tomu rozumie lepšie ako Schmidt. V júlovom rozhovore v podcaste Lexa Friedmana sa Friedman opýtal Hassabisa, ako možno ovládať takú technológiu, akou je AI, a ako sa sám Hassabis môže touto silou vyhnúť poškodeniu.

Khasabisova odpoveď je o ňom samom. "Umelá inteligencia je príliš veľký nápad," povedal. „Je dôležité, kto vytvára AI, z akých kultúr pochádza a aké sú ich hodnoty. Systémy umelej inteligencie sa budú učiť samé, ale systém zostane vtlačený do kultúry a hodnôt autorov systému.“

Umelá inteligencia je odrazom jej autora. Nedokáže zrovnať mesto so zemou 1,2 megatonovým výbuchom. Pokiaľ ho to človek nenaučí.

Môžete pomôcť Ukrajine v boji proti ruským útočníkom. Najlepším spôsobom, ako to urobiť, je darovať finančné prostriedky Ozbrojeným silám Ukrajiny prostredníctvom Zachrániť život alebo cez oficiálnu stránku NBU.

Prečítajte si tiež:

• Nová aplikácia Samsung používa AI na zlepšenie vašich fotografií
• Umelá inteligencia pomáha pri identifikácii astronomických objektov