Britanska vlada je napovedala načrt za prepoved tako imenovanih aplikacij za ustvarjanje lažnih golih fotografij z uporabo umetne inteligence. Ta korak je del širše strategije za boj proti mizoginiji na spletu in nasilju nad ženskami in dekleti.

Novi zakoni, ki jih je vlada predstavila v četrtek, bodo prepovedali ustvarjanje in distribucijo orodij UI, ki uporabnikom omogočajo spreminjanje slik tako, da izgleda, kot da je oseba na fotografiji slečena. Ta nova kazniva dejanja bodo nadgrajevala obstoječa pravila o seksualno eksplicitnem deepfake gradivu in zlorabi intimnih slik.

Ministrica za tehnologijo Liz Kendall je poudarila, da si ženske in dekleta zaslužijo varnost tako na spletu kot izven njega. Kot poroča BBC, vlada ne bo neaktivno opazovala, kako se tehnologija zlorablja za nadlegovanje, poniževanje in izkoriščanje žensk z ustvarjanjem nesoglasnega seksualno eksplicitnega deepfake gradiva.

Ustvarjanje deepfake eksplicitnih slik nekoga brez njegovega soglasja je že kaznivo dejanje po zakonu o spletni varnosti. Kendall je navedla, da novo kaznivo dejanje, ki prepoveduje ustvarjanje ali distribucijo aplikacij za lažne gole fotografije, pomeni, da bodo tisti, ki iščejo dobiček od njih ali omogočajo njihovo uporabo, čutili polno moč zakona.

Kaj so aplikacije za lažne gole fotografije

Aplikacije za lažne gole fotografije ali tako imenovane aplikacije za slečenje uporabljajo generativno umetno inteligenco za realistično ustvarjanje vtisov, da je oseba na sliki ali videu slečena. Strokovnjaki so opozorili na porast takšnih aplikacij in na potencial lažnih golih slik, da povzročijo resno škodo žrtvam, še posebej, če se uporabljajo za ustvarjanje gradiva o spolni zlorabi otrok.

Aprila je pooblaščenka za pravice otrok v Angliji Dame Rachel de Souza pozvala k popolni prepovedi aplikacij za lažne gole fotografije. V poročilu je navedla, da je ustvarjanje takšne slike upravičeno nezakonito in da bi morala biti prepovedana tudi tehnologija, ki to omogoča.

Sodelovanje s tehnološkimi podjetji

Vlada je v četrtek napovedala, da bo združila moči s tehnološkimi podjetji za razvoj metod za boj proti zlorabi intimnih slik. To bo vključevalo nadaljevanje dela z britanskim podjetjem za varnostne tehnologije SafeToNet.

To britansko podjetje je razvilo programsko opremo UI, ki naj bi lahko identificirala in blokirala spolno vsebino ter blokirala kamere, ko zazna, da se snema spolna vsebina. Takšna tehnologija nadgrajuje obstoječe filtre, ki jih implementirajo platforme kot je Meta za odkrivanje in označevanje potencialne golote na slikah, pogosto z namenom preprečevanja otrok, da bi ustvarjali ali delili intimne slike sebe.

Odzivi organizacij za zaščito otrok

Stališče Internet Watch Foundation

Načrti za prepoved aplikacij za lažne gole fotografije prihajajo po prejšnjih pozivih otroških dobrodelnih organizacij, naj vlada ukrepa proti tej tehnologiji. Internet Watch Foundation, katere pomočna linija Report Remove omogoča osebam, mlajšim od 18 let, zaupno prijavo eksplicitnih slik sebe na spletu, je navedla, da je 19 odstotkov potrjenih prijaviteljev navedlo, da so bile nekatere ali vse njihove slike manipulirane.

Njen izvršni direktor Kerry Smith je pozdravil ukrepe. Izrazila je tudi zadovoljstvo s konkretnimi koraki za prepoved teh tako imenovanih aplikacij za lažne gole fotografije, ki nimajo razloga za obstoj kot izdelek. PoSmithovih besedah aplikacije, kot so te, izpostavljajo resnične otroke še večjemu tveganju za škodo in organizacija vidi, kako se ustvarjene slike zbirajo v nekaterih najtemnejših kotičkih interneta.

Stališče dobrodelne organizacije NSPCC

Čeprav je otroška dobrodelna organizacija NSPCC pozdravila novice, je njena direktorica za strategijo dr. Maria Neophytou dejala, da je razočarana, ker ne vidi podobne ambicije za uvedbo obveznih zaščitnih ukrepov na ravni naprave. Ta dobrodelna organizacija je med tistimi, ki pozivajo vlado, naj prisili tehnološka podjetja, da poiščejo lažje načine za identifikacijo in preprečevanje širjenja gradiva o spolni zlorabi otrok v svojih storitvah, na primer v zasebnih sporočilih.

Drugi načrtovani ukrepi vlade

Vlada je v četrtek navedla, da bo onemogočila, da bi otroci lahko na svojih telefonih ustvarjali, delili ali si ogledovali gole slike. Prav tako želi prepovedati orodja UI, namenjena ustvarjanju ali distribuciji gradiva o spolni zlorabi otrok.

Ustvarjanje deepfake eksplicitnih slik nekoga brez njegovega soglasja je že kaznivo dejanje po zakonu o spletni varnosti, ki je začel veljati. Novi ukrepi naj bi razširili zaščito in kaznovali ne le tiste, ki takšne slike ustvarjajo, temveč tudi tiste, ki zagotavljajo orodja za njihovo ustvarjanje.