Brytyjski rząd ogłosił plan zakazania tak zwanych aplikacji do tworzenia fałszywych nagich fotografii przy użyciu sztucznej inteligencji. Ten krok jest częścią szerszej strategii walki z mizoginią w internecie i przemocą wobec kobiet i dziewcząt.

Nowe prawa, które rząd przedstawił w czwartek, zakazują tworzenia i dystrybucji narzędzi AI umożliwiających użytkownikom edytowanie obrazów tak, aby wyglądało, że osobie na zdjęciu zdjęto ubranie. Te nowe przestępstwa będą nawiązywać do istniejących przepisów dotyczących seksualnie eksplicytnych materiałów deepfake i nadużyć intymnych obrazów.

Minister ds. technologii Liz Kendall podkreśliła, że kobiety i dziewczęta zasługują na bezpieczeństwo online i offline. Jak informuje BBC, rząd nie będzie biernie przyglądać się, jak technologia jest nadużywana do znęcania się, upokarzania i wykorzystywania kobiet poprzez tworzenie niezgody na seksualnie eksplicytne materiały deepfake.

Tworzenie deepfake eksplicytnych obrazów kogoś bez jego zgody jest już przestępstwem zgodnie z prawem o bezpieczeństwie online. Kendall stwierdziła, że nowe przestępstwo, które zabroni tworzenia lub dystrybucji aplikacji do fałszywych nagich zdjęć, oznacza, że ci, którzy na nich profitują lub umożliwiają ich używanie, odczują pełną siłę prawa.

Czym są aplikacje do tworzenia fałszywych nagich zdjęć

Aplikacje do tworzenia fałszywych nagich zdjęć, czyli tak zwane aplikacje do usuwania ubrań, wykorzystują generatywną sztuczną inteligencję do realistycznego stworzenia wrażenia, że osoba na obrazie lub wideo została pozbawiona ubrań. Eksperci wydali ostrzeżenia przed wzrostem takich aplikacji i potencjałem fałszywych nagich zdjęć do spowodowania poważnej szkody ofiarom, szczególnie gdy są używane do tworzenia materiałów dotyczących seksualnego wykorzystywania dzieci.

W kwietniu komisarz ds. praw dziecka w Anglii Dame Rachel de Souza wezwała do całkowitego zakazu aplikacji do tworzenia fałszywych nagich zdjęć. W raporcie stwierdziła, że stworzenie takiego obrazu jest słusznie nielegalne, a technologia, która to umożliwia, również powinna zostać zakazana.

Współpraca z firmami technologicznymi

Rząd w czwartek ogłosił, że połączy siły z firmami technologicznymi w celu opracowania metod zwalczania nadużyć intymnych obrazów. Będzie to obejmować kontynuację pracy z brytyjską firmą SafeToNet specjalizującą się w technologiach bezpieczeństwa.

Ta brytyjska firma opracowała oprogramowanie AI, które według jej twierdzeń potrafi identyfikować i blokować treści seksualne, a także blokować kamery, gdy wykrywają, że są rejestrowane treści seksualne. Taka technologia nawiązuje do istniejących filtrów wdrożonych przez platformy takie jak Meta w celu wykrywania i oznaczania potencjalnej nagości na obrazach, często w celu zapobiegania dzieciom tworzenia lub udostępniania intymnych obrazów siebie.

Reakcje organizacji chroniących dzieci

Stanowisko Internet Watch Foundation

Plany zakazania aplikacji do tworzenia fałszywych nagich zdjęć pojawiają się po wcześniejszych wezwaniach organizacji charytatywnych chroniących dzieci, aby rząd podjął działania przeciwko tej technologii. Internet Watch Foundation, której linia pomocowa Report Remove umożliwia osobom poniżej 18 roku życia poufne zgłaszanie eksplicytnych obrazów siebie online, stwierdziła, że 19 procent potwierdzonych zgłaszających wskazało, że niektóre lub wszystkie ich obrazy zostały zmanipulowane.

Jej dyrektor wykonawczy Kerry Smith przywitała działania. Wyraziła również zadowolenie z konkretnych kroków w celu zakazania tych tak zwanych aplikacji do tworzenia fałszywych nagich zdjęć, które nie mają powodu, aby istnieć jako produkt. Według Smith aplikacje takie jak te narażają prawdziwe dzieci na jeszcze większe ryzyko krzywdy, a organizacja widzi, jak tworzone obrazy są gromadzone w niektórych z najciemniejszych zakątków internetu.

Stanowisko organizacji charytatywnej NSPCC

Chociaż dziecięca organizacja charytatywna NSPCC przywitała wiadomość, jej dyrektor ds. strategii Dr Maria Neophytou stwierdziła, że jest rozczarowana, nie widząc podobnej ambicji wprowadzenia obowiązkowych zabezpieczeń na poziomie urządzenia. Ta organizacja charytatywna należy do organizacji wzywających rząd do zmuszenia firm technologicznych do znalezienia łatwiejszych sposobów identyfikacji i zapobiegania rozpowszechnianiu materiałów dotyczących seksualnego wykorzystywania dzieci w ich usługach, na przykład w prywatnych wiadomościach.

Dalsze planowane działania rządu

Rząd w czwartek stwierdził, że uczyni niemożliwym, aby dzieci mogły tworzyć, udostępniać lub przeglądać nagie zdjęcia na swoich telefonach. Stara się również zakazać narzędzi AI przeznaczonych do tworzenia lub dystrybucji materiałów dotyczących seksualnego wykorzystywania dzieci.

Tworzenie deepfake eksplicytnych obrazów kogoś bez jego zgody jest już przestępstwem zgodnie z prawem o bezpieczeństwie online, które weszło w życie. Nowe środki mają poszerzyć ochronę i karać nie tylko tych, którzy tworzą takie obrazy, ale także tych, którzy dostarczają narzędzia do ich tworzenia.