Britská vláda oznámila plán zakázat takzvané aplikace pro tvorbu falešných nahých fotografií pomocí umělé inteligence. Tento krok je součástí širší strategie boje proti misogynii na internetu a násilí páchanému na ženách a dívkách.

Nové zákony, které vláda představila ve čtvrtek, zakážou tvorbu a distribuci AI nástrojů umožňujících uživatelům upravovat obrázky tak, aby to vypadalo, že osobě na fotografii bylo odebráno oblečení. Tyto nové trestné činy navážou na stávající pravidla týkající se sexuálně explicitních deepfake materiálů a zneužívání intimních obrázků.

Ministryně pro technologie Liz Kendall zdůraznila, že ženy a dívky si zaslouží být v bezpečí online i offline. Jak informuje BBC, vláda nebude nečinně přihlížet, jak je technologie zneužívána k týrání, ponížení a vykořisťování žen prostřednictvím tvorby nesouhlasných sexuálně explicitních deepfake materiálů.

Tvorba deepfake explicitních obrázků někoho bez jeho souhlasu je již trestným činem podle zákona o online bezpečnosti. Kendall uvedla, že nový trestný čin, který zakáže tvorbu nebo distribuci aplikací pro tvorbu falešných nahých fotografií, znamená, že ti, kteří z nich profitují nebo umožňují jejich používání, pocítí plnou sílu zákona.

Co jsou aplikace pro tvorbu falešných nahých fotografií

Aplikace pro tvorbu falešných nahých fotografií, neboli takzvané aplikace na odstranění oblečení, využívají generativní umělou inteligenci k realistickému vytvoření dojmu, že osoba na obrázku nebo videu byla zbavena oblečení. Experti vydali varování před nárůstem takových aplikací a potenciálem falešných nahých obrázků způsobit vážnou újmu obětem, zvláště když se používají k tvorbě materiálů se sexuálním zneužíváním dětí.

V dubnu komisařka pro práva dětí v Anglii Dame Rachel de Souza vyzvala k úplnému zákazu aplikací pro tvorbu falešných nahých fotografií. Ve zprávě uvedla, že vytvoření takového obrázku je oprávněně nezákonné a technologie, která to umožňuje, by měla být také zakázána.

Spolupráce s technologickými firmami

Vláda ve čtvrtek oznámila, že spojí síly s technologickými společnostmi k vývoji metod boje proti zneužívání intimních obrázků. To bude zahrnovat pokračování práce s britskou firmou SafeToNet zaměřenou na bezpečnostní technologie.

Tato britská společnost vyvinula AI software, který podle jejích tvrzení dokáže identifikovat a blokovat sexuální obsah, stejně jako blokovat kamery, když zjistí, že se zachycuje sexuální obsah. Taková technologie navazuje na stávající filtry implementované platformami jako Meta k detekci a označení potenciální nahoty na obrázcích, často s cílem zabránit dětem v tvorbě nebo sdílení intimních obrázků sebe samých.

Reakce organizací na ochranu dětí

Stanovisko Internet Watch Foundation

Plány zakázat aplikace pro tvorbu falešných nahých fotografií přicházejí po předchozích výzvách charitativních organizací na ochranu dětí, aby vláda zakročila proti této technologii. Internet Watch Foundation, jejíž pomocná linka Report Remove umožňuje osobám mladším 18 let důvěrně nahlásit explicitní obrázky sebe samých online, uvedla, že 19 procent potvrzených oznamovatelů uvedlo, že některé nebo všechny jejich obrázky byly manipulovány.

Její výkonná ředitelka Kerry Smith uvítala opatření. Vyjádřila také spokojenost s konkrétními kroky k zákazu těchto takzvaných aplikací pro tvorbu falešných nahých fotografií, které nemají důvod existovat jako produkt. Podle Smith aplikace jako tyto vystavují skutečné děti ještě většímu riziku újmě a organizace vidí, jak jsou vytvářené obrázky shromažďovány v některých z nejtemnějších koutů internetu.

Postoj charitativní organizace NSPCC

Ačkoli dětská charitativní organizace NSPCC uvítala zprávu, její ředitelka strategie Dr. Maria Neophytou uvedla, že je zklamaná, že nevidí podobnou ambici zavést povinná ochranná opatření na úrovni zařízení. Tato charitativní organizace patří mezi organizace vyzývající vládu, aby přinutila technologické firmy najít jednodušší způsoby identifikace a zabránění šíření materiálu se sexuálním zneužíváním dětí v jejich službách, například v soukromých zprávách.

Další plánovaná opatření vlády

Vláda ve čtvrtek uvedla, že učiní nemožným, aby děti mohly na svých telefonech vytvářet, sdílet nebo prohlížet nahé obrázky. Snaží se také zakázat AI nástroje určené k tvorbě nebo distribuci materiálu se sexuálním zneužíváním dětí.

Tvorba deepfake explicitních obrázků někoho bez jeho souhlasu je již trestným činem podle zákona o online bezpečnosti, který vstoupil v platnost. Nová opatření mají rozšířit ochranu a postihovat nejen ty, kteří takové obrázky vytvářejí, ale také ty, kteří poskytují nástroje k jejich tvorbě.