Najpopulárnejší chatbot na svete, ChatGPT, využívajú útočníci na vytváranie nových druhov malvéru.
Firma WithSecure pre kybernetickú bezpečnosť potvrdila, že vo voľnej prírode našla príklady malvéru vytvoreného notoricky známym autorom AI. Čo robí ChatGPT obzvlášť nebezpečným, je to, že môže generovať nespočetné množstvo variácií malvéru, čo sťažuje ich odhalenie.
Útočníci môžu jednoducho poskytnúť ChatGPT príklady existujúceho škodlivého kódu a inštruovať ho, aby na nich vytvoril nové kmene, čo im umožní zachovať malvér bez toho, aby museli stráviť takmer toľko času, úsilia a vedomostí ako predtým.
Táto správa prichádza uprostred mnohých diskusií o regulácii AI, aby sa zabránilo jej používaniu na škodlivé účely. Keď sa ChatGPT minulý november stal veľmi populárnym, neexistovali žiadne pravidlá upravujúce jeho používanie a do mesiaca bol unesený na písanie škodlivých e-mailov a súborov.
V rámci modelu existujú určité bezpečnostné opatrenia, ktoré majú zabrániť vykonaniu škodlivých výziev, ale útočníci ich môžu obísť.
Juhani Hintikka, generálny riaditeľ WithSecure, povedal pre Infosecurity, že ochrancovia kybernetickej bezpečnosti zvyčajne používajú umelú inteligenciu na nájdenie a odfiltrovanie škodlivého softvéru vytvoreného manuálne aktérmi hrozieb.
Zdá sa však, že sa to teraz mení, pretože výkonné nástroje AI ako ChatGPT sú voľne dostupné. Nástroje vzdialeného prístupu boli použité na nelegálne účely a teraz to isté platí aj pre umelú inteligenciu.
Tim West, vedúci oddelenia spravodajstva o hrozbách v WithSecure, dodal, že „ChatGPT bude podporovať softvérové inžinierstvo v dobrom aj zlom, a to pomáha a znižuje bariéru vstupu pre vývojárov škodlivého softvéru.“
Podľa Hintikka si ľudia zvyčajne všimnú phishingové e-maily, ktoré môže ChatGPT vytvoriť, a keďže sa LLM stávajú vyspelejšími, môže byť v blízkej budúcnosti ťažšie zabrániť takýmto podvodom.
A čo viac, ako sa úspešnosť útokov útočníkov zvyšuje alarmujúcou rýchlosťou, útočníci znovu investujú a stávajú sa organizovanejšími, rozširujú operácie prostredníctvom outsourcingu a prehlbujú svoje chápanie umelej inteligencie, aby mohli začať úspešnejšie útoky.
Hintikka dospel k záveru, že pri pohľade na budúcu krajinu kybernetickej bezpečnosti „to bude hra dobrej AI proti zlej AI“.
Prečítajte si tiež: