Britská vláda oznámila plán zakázať takzvané aplikácie na vytváranie falošných nahých fotografií pomocou umelej inteligencie. Tento krok je súčasťou širšej stratégie na boj proti mizogýnii na internete a násiliu páchanému na ženách a dievčatách.

Nové zákony, ktoré vláda predstavila vo štvrtok, zakážu vytváranie a distribúciu AI nástrojov umožňujúcich používateľom upravovať obrázky tak, aby vyzeralo, že osobe na fotografii bolo odstránené oblečenie. Tieto nové trestné činy budú nadväzovať na existujúce pravidlá týkajúce sa sexuálne explicitných deepfake materiálov a zneužívania intímnych obrázkov.

Ministerka pre technológie Liz Kendall zdôraznila, že ženy a dievčatá si zaslúžia byť v bezpečí online aj offline. Ako informuje BBC, vláda nebude nečinne prizerať, ako je technológia zneužívaná na zneužívanie, ponižovanie a vykorisťovanie žien prostredníctvom vytvárania nesúhlasných sexuálne explicitných deepfake materiálov.

Vytváranie deepfake explicitných obrázkov niekoho bez jeho súhlasu je už trestným činom podľa zákona o online bezpečnosti. Kendall uviedla, že nový trestný čin, ktorý zakáže vytváranie alebo distribúciu aplikácií na vytváranie falošných nahých fotografií, znamená, že tí, ktorí z nich profitujú alebo umožňujú ich používanie, pocítia plnú silu zákona.

Čo sú aplikácie na vytváranie falošných nahých fotografií

Aplikácie na vytváranie falošných nahých fotografií alebo takzvané aplikácie na odstránenie oblečenia využívajú generatívnu umelú inteligenciu na realistické vytvorenie dojmu, že osoba na obrázku alebo videu bola zbavená oblečenia. Experti vydali varovania pred nárastom takýchto aplikácií a potenciálom falošných nahých obrázkov spôsobiť vážnu ujmu obetiam, najmä keď sa používajú na vytváranie materiálu so sexuálnym zneužívaním detí.

V apríli komisárka pre práva detí v Anglicku Dame Rachel de Souza vyzvala na úplný zákaz aplikácií na vytváranie falošných nahých fotografií. V správe uviedla, že vytvorenie takéhoto obrázku je oprávnene nezákonné a technológia, ktorá to umožňuje, by mala byť tiež zakázaná.

Spolupráca s technologickými firmami

Vláda vo štvrtok oznámila, že spojí sily s technologickými spoločnosťami na vývoji metód na boj proti zneužívaniu intímnych obrázkov. To bude zahŕňať pokračovanie práce s britskou firmou SafeToNet zameranou na bezpečnostné technológie.

Táto britská spoločnosť vyvinula AI softvér, ktorý podľa jej tvrdení dokáže identifikovať a blokovať sexuálny obsah, ako aj blokovať kamery, keď zistia, že sa zachytáva sexuálny obsah. Takáto technológia nadväzuje na existujúce filtry implementované platformami ako Meta na detekciu a označenie potenciálnej nahoty na obrázkoch, často s cieľom zabrániť deťom vytvárať alebo zdieľať intímne obrázky seba samých.

Reakcie organizácií na ochranu detí

Stanovisko Internet Watch Foundation

Plány zakázať aplikácie na vytváranie falošných nahých fotografií prichádzajú po predchádzajúcich výzvach charitatívnych organizácií na ochranu detí, aby vláda zakročila proti tejto technológii. Internet Watch Foundation, ktorej pomocná linka Report Remove umožňuje osobám mladším ako 18 rokov dôverne nahlásiť explicitné obrázky seba samých online, uviedla, že 19 percent potvrdených nahlasovateľov uviedlo, že niektoré alebo všetky ich obrázky boli manipulované.

Jej výkonná riaditeľka Kerry Smith privítala opatrenia. Vyjadrila tiež spokojnosť s konkrétnymi krokmi na zákaz týchto takzvaných aplikácií na vytváranie falošných nahých fotografií, ktoré nemajú dôvod existovať ako produkt. Podľa Smith aplikácie ako tieto vystavujú skutočné deti ešte väčšiemu riziku ujmy a organizácia vidí, ako sú vytvárané obrázky zhromažďované v niektorých z najtmavších kútov internetu.

Postoj charitatívnej organizácie NSPCC

Hoci detská charitatívna organizácia NSPCC privítala správu, jej riaditeľka stratégie Dr. Maria Neophytou uviedla, že je sklamaná, že nevidí podobnú ambíciu zaviesť povinné ochranné opatrenia na úrovni zariadení. Táto charitatívna organizácia patrí medzi organizácie vyzývajúce vládu, aby prinútila technologické firmy nájsť jednoduchšie spôsoby identifikácie a zabránenia šíreniu materiálu so sexuálnym zneužívaním detí v ich službách, napríklad v súkromných správach.

Ďalšie plánované opatrenia vlády

Vláda vo štvrtok uviedla, že urobí nemožným, aby deti mohli na svojich telefónoch vytvárať, zdieľať alebo prezerať nahé obrázky. Snaží sa tiež zakázať AI nástroje určené na vytváranie alebo distribúciu materiálu so sexuálnym zneužívaním detí.

Vytvorenie deepfake explicitných obrázkov niekoho bez jeho súhlasu je už trestným činom podľa zákona o online bezpečnosti, ktorý vstúpil do platnosti. Nové opatrenia majú rozšíriť ochranu a postihovať nielen tých, ktorí takéto obrázky vytvárajú, ale aj tých, ktorí poskytujú nástroje na ich vytváranie.