Od budúceho mesiaca Čína zavedie nové pravidlá, ktoré obmedzia jedno z najnebezpečnejších použití umelej inteligencie -- hlboké falzifikáty. Pravidlá, ktoré má implementovať Správa kybernetického priestoru Čína od 10. januára, ktorý má chrániť ľudí pred digitálnym napodobňovaním ich hlasu alebo obrazu bez ich súhlasu.
Platformy a služby, ktoré využívajú technológiu úpravy hlasu alebo obrazu osoby, nazývajú regulátori „poskytovatelia hĺbkovej syntézy“. Tieto technológie hlbokej syntézy môžu zahŕňať použitie algoritmov hlbokého učenia a rozšírenej reality na generovanie textu, zvuku, obrázkov alebo videa.
Podľa nových pravidiel tí, ktorí toto využívajú technológie, musí najprv kontaktovať jednotlivcov a získať ich súhlas pred úpravou ich hlasu alebo obrázka. Pravidlá, oficiálne nazývané Deep Synthesis Administrative Regulations for Internet Information Services, sú reakciou na obavy vlády, že bezohľadní aktéri by mohli využiť pokrok v tomto odvetví. AI za podvod alebo ohováranie.
Namiesto uvalenia úplného zákazu regulátor hovorí, že v skutočnosti bude podporovať legálne používanie technológie a „poskytne silnú právnu ochranu na zabezpečenie a uľahčenie“ jej vývoja. Správy vysielané pomocou tejto technológie musia pochádzať z vládou schváleného zoznamu spravodajských agentúr. Pravidlá tiež vyžadujú, aby všetci „poskytovatelia hĺbkovej syntézy“ dodržiavali miestne zákony a zachovávali „správne politické smerovanie a správnu orientáciu na verejnú mienku“. Správnosť tu, samozrejme, určuje výlučne štát jednostranne.
Aj keď niektoré štáty USA, ako napríklad New Jersey a Illinois, prijali miestne zákony na ochranu súkromia, ktoré to riešia deepfakesNedostatok zmysluplných federálnych zákonov obmedzuje schopnosť regulátorov zaoberať sa touto technológiou na národnej úrovni. Ak budú nové čínske pravidlá úspešné, mohli by položiť politický základ, na ktorom môžu stavať ďalšie krajiny.
Nebude to prvýkrát, čo Čína zaviedla prísne technologické reformy. Minulý rok vedenie krajiny zaviedlo rozsiahle nové zákony o ochrane osobných údajov, ktoré radikálne obmedzili spôsoby, akými môžu súkromné spoločnosti zhromažďovať osobné informácie o jednotlivcovi. Od spoločností požadovali, aby pred zhromažďovaním osobných údajov získali súhlas.
V čínskych zákonoch o ochrane súkromia je však jedna do očí bijúca medzera. Zákon síce chráni ľudí pred súkromnými spoločnosťami, ktoré využívajú ich údaje, ale len málo zabraňuje rovnakej škode, akú môže napáchať priamo vláda. Podobne v prípade „deep fake“ nie je jasné, ako by nové navrhované pravidlá mohli napríklad zakázať vládnej agentúre falšovať alebo manipulovať s určitými textovými alebo zvukovými nahrávkami s cieľom ovplyvniť rozprávanie o kontroverzných alebo citlivých politických udalostiach.
Môžete pomôcť Ukrajine v boji proti ruským útočníkom. Najlepším spôsobom, ako to urobiť, je darovať finančné prostriedky Ozbrojeným silám Ukrajiny prostredníctvom Zachrániť život alebo cez oficiálnu stránku NBU.
Tiež zaujímavé: