Guvernul britanic a anunțat un plan de interzicere a așa-numitelor aplicații pentru crearea de fotografii false nude folosind inteligența artificială. Această măsură face parte dintr-o strategie mai largă de combatere a misoginiei online și a violenței împotriva femeilor și fetelor.

Noile legi, prezentate de guvern joi, vor interzice crearea și distribuirea de instrumente de IA care permit utilizatorilor să modifice imagini pentru a sugera că persoana din fotografie a fost dezbrăcată. Aceste noi infracțiuni se vor construi pe regulile existente privind materialele deepfake sexual explicite și abuzul de imagini intime.

Ministra pentru tehnologie, Liz Kendall, a subliniat că femeile și fetele merită să fie în siguranță atât online, cât și offline. După cum relatează BBC, guvernul nu va sta pasiv și nu va privi cum tehnologia este abuzată pentru a hărțui, umili și exploata femei prin crearea de materiale deepfake sexuale explicite fără consimțământ.

Crearea de imagini explicite deepfake ale cuiva fără consimțământul acestuia este deja o infracțiune conform legii privind siguranța online. Kendall a declarat că noua infracțiune, care interzice crearea sau distribuirea de aplicații pentru fotografii false nude, înseamnă că cei care profită de ele sau le facilitează utilizarea vor simți forța completă a legii.

Ce sunt aplicațiile pentru fotografii false nude

Aplicațiile pentru fotografii false nude, sau așa-numitele aplicații de dezbrăcare, utilizează inteligența artificială generativă pentru a crea realistic impresia că persoana dintr-o imagine sau videoclip a fost dezbrăcată. Experții au emis avertismente cu privire la creșterea acestor aplicații și la potențialul imaginilor false nude de a provoca daune grave victimelor, mai ales atunci când sunt utilizate pentru a crea materiale de abuz sexual asupra copiilor.

În aprilie, comisionara pentru drepturile copilului în Anglia, Dame Rachel de Souza, a cerut interzicerea totală a aplicațiilor pentru fotografii false nude. Într-un raport, ea a afirmat că crearea unei astfel de imagini este în mod legitim ilegală, iar tehnologia care o permite ar trebui să fie și ea interzisă.

Colaborarea cu firmele de tehnologie

Guvernul a anunțat joi că va uni forțele cu companiile de tehnologie pentru a dezvolta metode de combatere a abuzului de imagini intime. Aceasta va include continuarea lucrului cu firma britanică de tehnologii de securitate SafeToNet.

Această companie britanică a dezvoltat un software de IA care, susține ea, poate identifica și bloca conținutul sexual, precum și să blocheze camerele atunci când detectează că este capturat conținut sexual. O astfel de tehnologie se bazează pe filtrele existente implementate de platforme precum Meta pentru a detecta și eticheta potentiala nuditate din imagini, adesea cu scopul de a împiedica copiii să creeze sau să împărtășească imagini intime cu ei înșiși.

Reacțiile organizațiilor de protecția copilului

Poziția Internet Watch Foundation

Planurile de a interzice aplicațiile pentru fotografii false nude vin după apelurile anterioare ale organizațiilor caritabile pentru protecția copilului ca guvernul să acționeze împotriva acestei tehnologii. Internet Watch Foundation, a cărui linie de ajutor Report Remove permite persoanelor sub 18 ani să raporteze în mod confidential imagini explicite cu ei înșiși online, a declarat că 19 la sută dintre raportatorii confirmați au spus că unele sau toate imaginile lor au fost manipulate.

Directorul său executiv, Kerry Smith, a salutat măsurile. Ea și-a exprimat, de asemenea, satisfacția pentru pașii concreti de interzicere a acestor așa-numite aplicații pentru fotografii false nude, care nu au niciun motiv să existe ca produs. Conform lui Smith, aplicații ca acestea expun copiii reali unui risc și mai mare de prejudiciu, iar organizația vede cum imaginile create sunt adunate în unele dintre cele mai întunecate colțuri ale internetului.

Poziția organizației caritabile NSPCC

Deși organizația caritabilă pentru copii NSPCC a salutat vestea, directoarea sa de strategie, Dr. Maria Neophytou, a spus că este dezamăgită că nu vede o ambiție similară de a introduce măsuri de protecție obligatorii la nivel de dispozitiv. Această organizație caritabilă este printre cele care îi cer guvernului să oblige companiile de tehnologie să găsească modalități mai ușoare de a identifica și împiedica răspândirea materialelor de abuz sexual asupra copiilor în serviciile lor, cum ar fi în mesajele private.

Alte măsuri planificate de guvern

Guvernul a declarat joi că va face imposibil ca copiii să poată crea, distribui sau vizualiza imagini nude pe telefoanele lor. De asemenea, încearcă să interzică instrumentele de IA concepute pentru a crea sau distribui materiale de abuz sexual asupra copiilor.

Crearea de imagini explicite deepfake ale cuiva fără consimțământul acestuia este deja o infracțiune conform legii privind siguranța online, care a intrat în vigoare. Noile măsuri urmăresc să extindă protecția și să pedepsească nu numai pe cei care creează astfel de imagini, ci și pe cei care furnizează instrumente pentru crearea lor.