Štátom podporovaní hackeri z Ruska, Číny a Iránu použili nástroje OpenAI na zdokonaľovanie svojich schopností a hackerské útoky. Ako uvádza Microsoft, experti spoločnosti sledovali hackerské skupiny napojené na ruskú vojenskú rozviedku, Islamské revolučné gardy, ako aj vlády Číny a Severnej Kórey, ktoré sa pomocou veľkých jazykových modelov snažili vylepšiť svoje hackerské kampane.
Spoločnosť oznámila nález, keď zaviedla všeobecný zákaz štátom podporovaným hackerským skupinám používať jej produkty AI. „Jednoducho nechceme, aby subjekty, ktoré sme identifikovali – ktoré monitorujeme a vieme, že predstavujú hrozbu rôzneho druhu – mali prístup k tejto technológii,“ povedal viceprezident. Microsoft zákazníckej bezpečnosti Tom Burt. Správa spomína také hackerské skupiny ako Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon a Salmon Typhoon.
Tvrdí, že hackeri boli prichytení pomocou nástrojov AI na zlepšenie svojich špionážnych schopností zdôrazňuje obavy z rýchleho šírenia technológie a jej potenciálu na zneužitie. Západní experti na kybernetickú bezpečnosť minulý rok varovali, že zločinci zneužívajú takéto nástroje, hoci doteraz o tom neexistujú žiadne konkrétne údaje.
„Toto je jeden z prvých, ak nie prvý prípad, keď spoločnosť AI verejne diskutovala o tom, ako útočníci využívajú technológie AI,“ povedal Bob Rothstead, vedúci oddelenia pre spravodajstvo o hrozbách kybernetickej bezpečnosti v OpenAI.
OpenAI že Microsoft opísalo používanie ich nástrojov AI hackermi ako „v ranom štádiu“ a „prírastkové“. Podľa Burta ani jedna zo spoločností nevidela kybernetických špiónov robiť nejaké prelomy: „Videli sme, ako používajú technológiu ako ktorýkoľvek iný používateľ.“
Správa popisuje hackerské skupiny, ktoré používajú veľké jazykové vzory rôznymi spôsobmi. Hackeri, ktorí údajne pracovali v mene ruskej hry, použili modely na preskúmanie "rôznych satelitných a radarových technológií, ktoré môžu byť relevantné pre vojenské operácie na Ukrajine," uviedla agentúra. Microsoft. A severokórejskí hackeri použili modely na vytvorenie obsahu „pravdepodobne použitého v phishingových kampaniach“.
Iránski hackeri sa tiež spoliehali na modelky pri písaní presvedčivejších e-mailov. A čínski hackeri, ktorých podľa nich podporuje štát Microsoft, experimentujú s veľkými jazykovými modelmi na kladenie otázok o konkurenčných spravodajských službách, problémoch kybernetickej bezpečnosti a „prominentných osobnostiach“.
Prečítajte si tiež: