V utorok spoločnosť Meta oznámila svoj plán začať označovať obrázky generované AI od iných spoločností, ako sú OpenAI a Google. Tento krok je zameraný na zvýšenie transparentnosti na platformách ako napr Facebook, Instagram a vlákna informovaním používateľov, že obsah, ktorý si prezerajú, je syntetizované digitálne médium a nie autentická fotografia alebo video.
Riešenie spoločnosti Meta je súčasťou širšieho úsilia technického priemyslu o stanovenie štandardov pre označovanie obsahu vytvoreného pomocou generatívnych modelov AI schopných vytvárať falošný, ale realistický zvuk, obrázky a video na základe písomných výziev.
Prezident spoločnosti Meta pre globálne záležitosti Nick Clegg to oznámil v blogovom príspevku na webovej stránke spoločnosti Meta. "V tomto prístupe budeme pokračovať aj v nasledujúcom roku, keď sa po celom svete uskutoční množstvo dôležitých volieb," napísal Clegg. "Dúfame, že sa počas tejto doby dozvieme oveľa viac o tom, ako ľudia vytvárajú a zdieľajú obsah s umelou inteligenciou, akú transparentnosť si ľudia najviac cenia a ako sa tieto technológie vyvíjajú."
Clegg poznamenal, že iniciatíva Meta na označovanie obsahu generovaného AI rozšíri existujúcu prax označovania obsahu vytvoreného pomocou vlastných nástrojov AI tak, aby zahŕňala obrázky vytvorené pomocou služieb iných spoločností.
„Vyvíjame špičkové nástroje, ktoré dokážu identifikovať neviditeľné značky vo veľkom meradle – konkrétne informácie „vygenerované AI“ v technických normách C2PA a IPTC – takže môžeme označiť obrázky od Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock, keď implementujú svoje plány na pridávanie metadát do obrázkov vytvorených ich nástrojmi.“
Meta hovorí, že technológia označovania obsahu generovaná AI bude založená na neviditeľných vodoznakoch a metadátach vložených do súborov. Meta pridáva k obrázkom vytvoreným pomocou verejného generátora obrázkov AI malý vodoznak „Imagined with AI“.
V príspevku Clegg vyjadril dôveru v schopnosť spoločností spoľahlivo označovať obrázky vytvorené AI, hoci poznamenal, že nástroje na označovanie audio a video obsahu sú stále vo vývoji. Medzitým bude Meta vyžadovať, aby používatelia označovali upravený audio a video obsah, pričom v prípade, že tak neurobia, budú im udelené bližšie nešpecifikované pokuty.
"Budeme vyžadovať, aby ľudia používali tento nástroj na zverejňovanie a označovanie, keď uverejňujú organický obsah s fotorealistickým videom alebo realistickým zvukom, ktorý bol digitálne vytvorený alebo pozmenený, a ak tak neurobia, môžeme im uložiť pokuty," napísal.
Clegg však poznamenal, že v súčasnosti neexistuje účinný spôsob, ako označiť text vygenerovaný AI, čo naznačuje, že na implementáciu takýchto opatrení pre písaný obsah je už príliš neskoro. To je v súlade s našimi správami, že detektory textu AI nefungujú.
Oznámenie prišlo deň po tom, čo nezávislá dozorná rada Meta kritizovala politiku spoločnosti týkajúcu sa klamlivo pozmenených videí ako príliš úzku a odporučila takýto obsah radšej nahlásiť ako odstrániť. Clegg súhlasil s kritikou a priznal, že existujúce Meta politiky sú nedostatočné na riadenie rastúceho objemu syntetického a hybridného obsahu na internete. Novú iniciatívu označovania vníma ako krok k implementácii odporúčaní dozorného orgánu a podnietenie impulzu pre podobné opatrenia v celom odvetví.
Meta uznáva, že nebude schopná odhaliť obsah generovaný AI vytvorený bez vodoznakov alebo metadát, ako sú obrázky vytvorené pomocou niektorých nástrojov na syntézu obrázkov AI s otvoreným zdrojom. Meta skúma technológiu vodoznaku nazvanú Stable Signature, o ktorej dúfa, že ju možno zabudovať do generátorov obrázkov s otvoreným zdrojovým kódom. Pokiaľ sú však pixely pixelmi, môžu byť vytvorené spôsobmi, ktoré nie sú kontrolované technologickým priemyslom, a to zostáva výzvou pre detekciu obsahu AI, pretože nástroje AI s otvoreným zdrojom sa stávajú sofistikovanejšími a realistickejšími.
Prečítajte si tiež: