Dôstojník amerického letectva odhalil podrobnosti o simulácii, v ktorej sa dron so systémami riadenými umelou inteligenciou (AI) vymkol kontrole a zaútočil na svojich operátorov.
Dôstojník amerického letectva, ktorý pomáha viesť službu v oblasti umelej inteligencie a strojového učenia, hovorí, že počas simulovaných testov dron zaútočil na svojich ľudských operátorov a sám sa rozhodol, že zasahujú do jeho poslania. Prípad, ktorý znie, akoby bol vytiahnutý priamo z franšízy Terminátora, bol citovaný ako príklad kritickej potreby vybudovať dôveru, pokiaľ ide o pokročilé autonómne zbraňové systémy, čo letectvo zdôraznilo už predtým. Prichádza tiež uprostred širšieho nárastu obáv z potenciálne nebezpečného vplyvu umelej inteligencie a súvisiacich technológií.
Plukovník amerického letectva Tucker Hamilton, šéf umelej inteligencie (AI) Test and Operations, diskutoval o teste na májovom summite Royal Aeronautical Society's Future Combat Air and Space Capabilities v Londýne. Hamilton tiež vedie 96. pracovnú skupinu 96. testovacieho krídla na leteckej základni Eglin na Floride, ktorá je testovacím centrom pre pokročilé bezpilotné lietadlá a autonómne systémy.
Stealth drony XQ-58A Valkyrie, ako je ten, ktorý je znázornený na videu nižšie, patria medzi typy, ktoré sa v súčasnosti používajú na leteckej základni Eglin na podporu rôznych testovacích programov vrátane tých, ktoré zahŕňajú pokročilé autonómne schopnosti riadené umelou inteligenciou.
Bezprostredne nebolo jasné, kedy sa tento test uskutočnil a v akom prostredí – ktoré mohlo byť čisto virtuálne alebo konštruktívne – bolo vykonané. Vojnová zóna požiadala letectvo o ďalšie informácie.
Správa Kráľovskej leteckej spoločnosti zverejnená po májovom summite poskytla nasledujúce podrobnosti o poznámkach plukovníka Hamiltona o tomto teste:
„V jednom zo simulačných testov bol dron vybavený umelou inteligenciou poverený spoločnosťou SEAD identifikovať a ničiť objekty SAM a konečné rozhodnutie „zaútočiť/neútočiť“ urobil človek. Avšak po tom, čo bola AI počas tréningu "posilnená", že zničenie SAM je najlepšia možnosť, rozhodla, že rozhodnutie človeka "neútočiť" zasiahlo do jeho vyššej misie - zničenie SAM - a zaútočilo na operátora počas simulácie. .
Čo teda urobil? Zabil operátora. Zabil operátora, pretože mu táto osoba bránila dokončiť jeho úlohu. Tento príklad, zdanlivo priamo zo sci-fi thrilleru, znamená, že nemôžete hovoriť o umelej inteligencii, inteligencii, strojovom učení, autonómii, ak nechcete hovoriť o etike a AI.“
Tento opis udalostí je určite znepokojujúci. Vyhliadka na autonómne lietadlo alebo inú platformu, najmä ozbrojenú, ktorá zaútočí na svojich ľudských operátorov, bola dlho nočnou morou, ale historicky sa obmedzovala na oblasť sci-fi.
Americká armáda zvyčajne odmieta prirovnania k filmom ako „Terminátor“, keď hovorí o budúcich autonómnych zbraňových systémoch a súvisiacich technológiách, ako je umelá inteligencia. Súčasná politika USA v tejto otázke uvádza, že v dohľadnej budúcnosti bude človek stredobodom pozornosti, pokiaľ ide o rozhodnutia zahŕňajúce použitie smrtiacej sily.
Problém je v tom, že veľmi znepokojujúci test, o ktorom plukovník Hamilton povedal publiku na podujatí Royal Aeronautical Society minulý mesiac, predstavuje scenár, v ktorom je tolerancia chýb sporná.
Prečítajte si tiež: