Množstvo spoločností vrátane Microsoft і Facebook, a dokonca aj výskumníci z University of Southern California, vyvíjajú technológie na boj proti deepfake a zabraňujú ich šíreniu žltými médiami a dezinformáciami vo všeobecnosti. Skupine vedcov sa ich však aj tak podarilo oklamať.
Tím počítačových vedcov z Kalifornskej univerzity v San Diegu varoval, že je stále možné oklamať existujúce systémy detekcie hĺbkových falošných správ vložením vstupných údajov nazývaných „konkurenčné príklady“ do každého snímku videa. Vedci prezentovali svoje zistenia na konferencii počítačového videnia WACV 2021, ktorá sa konala online minulý mesiac.
Konkurenčné príklady sú mierne pozmenené vstupy, ktoré spôsobujú, že systémy umelej inteligencie, ako sú modely strojového učenia, robia chyby. Okrem toho tím ukázal, že útok stále funguje aj po kompresii videa. Vo vyššie uvedenom videu vedci ukazujú, že detektor hlbokých falošných správ XceptionNet označuje ich konkurenčné video ako „skutočné“.
Väčšina z týchto detektorov funguje tak, že sleduje tváre vo videu a odosiela údaje o orezaných tvárach do neurónovej siete na analýzu. Neurónová sieť potom tieto údaje analyzuje a nájde prvky, ktoré sú zvyčajne zle reprodukované v deepfake, ako je blikanie.
Vložením konkurenčných príkladov výskumníci zistili, že môžu oklamať tieto hlboko falošné detektory, aby uverili, že videá sú skutočné.
V príspevku uvádzajú, že „pre praktické využitie týchto deepfake detektorov je dôležité ich vyhodnotiť voči adaptívnemu protivníkovi, ktorý si je vedomý tejto ochrany a zámerne sa ju snaží prelomiť. Ukazujeme, že moderné metódy detekcie deepfake možno ľahko obísť, ak si útočník plne alebo dokonca čiastočne uvedomuje detektor.“
Ako títo vedci ukázali, automatizačné technológie vyvíjané na boj proti dezinformáciám ešte nemusia splniť túto úlohu.
Prečítajte si tiež: