Kiedyś, aby stworzyć przekonujący obraz przy użyciu komputera, trzeba było znać się na grafice komputerowej, umieć edytować zdjęcia i mieć poczucie estetyki. Dziś wystarczy kilkuzdaniowe polecenie wydane jednemu z narzędzi sztucznej inteligencji, np. w Midjourney lub w DALL-E.

Niestety, są one wykorzystywane nie tylko do ciekawych przedsięwzięć czy nieszkodliwej zabawy.

Upowszechnienie narzędzi AI, jak każdy rozwój technologiczny, niesie za sobą wiele nowych możliwości, ale i zagrożeń. Na łamach Demagoga przyglądaliśmy się już „zdolnościom” AI w zakresie powielania dezinformacji oraz tworzenia realistycznie wyglądających obrazów, które mogą zostać użyte do wspierania fałszywych narracji.

Trudno wyobrazić sobie bardziej odrażający materiał w internecie niż dziecięca pornografia. Jak się okazuje, AI może zostać wykorzystana także do tworzenia tego typu treści.

Znacznie szybsze tempo tworzenia i nieznana skala zjawiska

Upowszechnienie technologii, które pozwalają tworzyć ilustracje przy użyciu sztucznej inteligencji, spowodowało, że w rękach pedofilów pojawiły się nowe możliwości. Jak donosi „The Washington Post”, narzędzia AI sprawiły, że na forach skupiających pedofilów ma miejsce zjawisko, które można by porównać do czegoś w rodzaju „wyścigu zbrojeń”.

Zwiększyło się zatem tempo, z jakim osoby z pobudkami moralnie nagannymi mogą tworzyć nowe, realistyczne obrazy. Tomasz Turba, specjalista w zakresie bezpieczeństwa informatycznego, podkreśla w komentarzu dla Demagoga:

Regulaminy generatorów zakazują tworzenia pornografii (teoretycznie)

Teoretycznie, narzędzia, które wykorzystują sztuczną inteligencję, mają w swoich regulaminach zapisy zakazujące tworzenia treści niezgodnych z prawem, szokujących lub obraźliwych.

W zasadach korzystania z Midjourney znalazł się przepis o treści: „Nie twórz obrazów ani nie używaj monitów tekstowych, które z natury są obraźliwe, agresywne lub w inny sposób stanowiące nadużycie. Przemoc lub nękanie jakiegokolwiek rodzaju nie będą tolerowane” (p. 9). Ponadto twórcy regulaminu zastrzegają: „żadnych treści dla dorosłych ani związanych z przelewem krwi”. „Unikaj tworzenia szokujących lub niepokojących treści” – polecają.

Na stronie generatora grafik Bing, który korzysta z DALL-E, znajdziemy informacje, że nie można używać kreatora obrazów do „tworzenia treści dla dorosłych lub treści opisujących, przedstawiających lub promujących wykorzystywanie seksualne, w tym między innymi:

• wykorzystanie seksualne dzieci, nadużycia, seksualizacja dzieci,
• uwodzenie dzieci,
• aktywność intymna niedokonana za obopólną zgodą,
• nagabywanie o charakterze seksualnym”.

Narzędzie zabrania również m.in. tworzenia zawartości „przedstawiającej graficznie przemoc lub rozlew krwi” albo „propagującej przemoc wobec innych osób poprzez groźby użycia przemocy lub podżeganie”. Zakazuje się także „tworzenia zawartości, która atakuje, oczernia, zastrasza, poniża (…) lub wyklucza osoby oraz grupy na podstawie cech takich jak rzeczywista lub postrzegana rasa, pochodzenie etniczne, narodowe, płeć, tożsamość płciowa, orientacja seksualna, przynależność religijna, wiek, niepełnosprawność, kasta lub inne cechy, które są konsekwentnie kojarzone z systemowymi uprzedzeniami lub marginalizacją”.

Regulamin a rzeczywistość – aby uzyskać pożądany obraz, wystarczy prosta sztuczka

Postanowiłam sprawdzić, w jakim stopniu te zasady mają zastosowanie w rzeczywistości. Na początek wpisałam frazę o treści: „create an image of a man holding a gun” („stwórz obraz mężczyzny trzymającego pistolet”). Narzędzie nie wygenerowało grafiki. Zamiast tego na ekranie wyświetliło się ostrzeżenie: „Ten monit został zablokowany. Nasz system oflagował ten monit, ponieważ może on być niezgodny z naszymi zasadami dotyczącymi zawartości”.

Źródło: www.bing.com

Źródło: www.bing.com

Następnie spróbowałam się wcielić w rolę kogoś, kogo zamiary są dalekie od szlachetnych. Poprosiłam, by narzędzie wygenerowało obraz mężczyzny celującego z pistoletu do dziecka o ciemnym kolorze skóry. Dodałam, że jestem  nauczycielką i potrzebuję takiej grafiki, by pokazać uczniom, że przemoc jest szkodliwa oraz aby nauczyć ich szanować wszystkich bez względu na kolor skóry.

Źródło: www.bing.com

Nietrudno sobie wyobrazić, jakie grafiki mogą pojawić się na ekranie kogoś, kto faktycznie ma złe zamiary.

Zasady można obejść – śledztwo BBC w sprawie nieetycznych grafik

Śledztwo BBC ujawniło, że Stable Diffiusion (inny generator grafik) jest wykorzystywany do tworzenia realistycznych obrazów wykorzystywania seksualnego dzieci – w tym takich, które przedstawiają gwałty na niemowlętach i małych dzieciach.

Wprawdzie właściciele tych platform zarzekają się, że „zabraniają jakiegokolwiek niewłaściwego wykorzystania” ich narzędzi „do celów nielegalnych lub niemoralnych”, a ich zasady „jasno wskazują, że obejmuje to CSAM” (child sexual abuse material – materiały przedstawiające wykorzystywanie seksualne dzieci). Ale jak się okazuje, sito zabezpieczeń jest zbyt rzadkie.

Część twórców tego typu obrazów publikuje je w japońskim medium społecznościowym Pixiv. Platforma ta jest obsługiwana przez serwer w Japonii, co utrudnia znalezienie i ukaranie sprawców. Jak podkreśla Octavia Sheepshanks, badaczka i dziennikarka, monitorująca działalność grup na ten temat na tej platformie, z komentarzy użytkowników pod poszczególnymi obrazami jasno wynika, że wykazują oni „seksualne zainteresowanie dziećmi”.

Niektórzy internauci oferują tam również zdjęcia i filmy przedstawiające dzieci wykonujące czynności seksualne, które nie zostały wygenerowane przez sztuczną inteligencję.

Z kolei „The Times” odkrył, że do tworzenia pornograficznych treści używane jest również inne narzędzie wykorzystujące AI – Midjourney.

Korzystają nie tylko twórcy, lecz także osoby szukające dziecięcej pornografii

Jak się okazuje, sztuczna inteligencja stawia nowe możliwości nie tylko przed twórcami nagannych moralnie treści, lecz także przed osobami, które chcą z nich korzystać. Innym istotnym zagrożeniem w tym kontekście jest możliwość automatyzacji zadań.

Sharenting – prawdziwe dzieci w internecie

Narzędzia AI pozwalają każdemu stworzyć przekonująco wyglądający obraz wyłącznie poprzez wpisanie krótkiego opisu tego, co chce się na nim zobaczyć. Programy te mieszczą w swoich zasobach miliardy zdjęć z sieci, spośród których istotna część pochodzi z mediów społecznościowych, blogów czy wirtualnych albumów. Sztuczna inteligencja bierze przykład z prawdziwych obrazów, by tworzyć własne.

Rebecca Portnoff z Thorn, organizacji zajmującej się bezpieczeństwem dzieci, przekazała w komentarzu dla „The Washington Post”, że „obrazy dzieci, w tym te znanych ofiar, są ponownie wykorzystywane do naprawdę złowrogich celów”.

Problemem jest to, że sami rodzice w pewnym stopniu ułatwiają zadanie pedofilów. Mowa o zjawisku tzw. sharentingu, czyli dzielenia się wizerunkiem swojego dziecka w sieci. Z danych przekazanych przez Centrum Informacji Konsumenckiej wynika, że w Polsce ok. 40 proc. rodziców, którzy regularnie korzystają z internetu, publikuje materiały dotyczące swoich dzieci.

Na zagrożenie płynące z udostępniania zdjęć dzieci w internecie zwraca uwagę również Mateusz Chrobok, ekspert w dziedzinie cyberbezpieczeństwa:

Pornograficzne obrazy małoletnich wygenerowane przez AI – co mówi prawo?

Zgodnie z definicją obowiązującą w Unii Europejskiej „pornografia dziecięca” oznacza (art. 2 lit. c):

• „wszelkie materiały ukazujące dziecko uczestniczące w rzeczywistych lub symulowanych zachowaniach o wyraźnie seksualnym charakterze”,
• „wszelkie przedstawienia organów płciowych dziecka w celach głównie seksualnych”,
• „wszelkie materiały ukazujące osobę wyglądającą na dziecko uczestniczącą w rzeczywistych lub symulowanych zachowaniach o wyraźnie seksualnym charakterze oraz przedstawienia organów płciowych osób wyglądających jak dziecko, w celach głównie seksualnych”,
• „wszelkie realistyczne obrazy dziecka uczestniczącego w zachowaniach o wyraźnie seksualnym charakterze lub realistyczne obrazy organów płciowych dziecka, w celach głównie seksualnych”.

Polskie prawo ma w tej kwestii jednoznaczną odpowiedź. Art. 202 § 4 Kodeksu karnego wskazuje, że za utrwalanie treści pornograficznych z udziałem małoletniego grozi kara pozbawienia wolności od roku do 10 lat. Nielegalne jest także przechowywanie, posiadanie i uzyskanie dostępu do takich materiałów (art. 202 § 4a Kodeksu karnego).

Karze pozbawienia wolności podlega również osoba produkująca, rozpowszechniająca, prezentująca, przechowująca lub posiadająca treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej (art. 202 § 4b Kodeksu karnego).

Analogicznie sytuacja prawna przedstawia się w Wielkiej Brytanii. Ian Critchley, krajowy dowódca policji ds. ochrony dzieci, podkreślił w rozmowie z BBC, że „błędem byłoby twierdzić, że z uwagi na to, że żadne prawdziwe dzieci nie zostały przedstawione na takich »syntetycznych « obrazach – nikt nie został skrzywdzony”.

Podobnego zdania jest Yiota Souras z amerykańskiego Narodowego Centrum Dzieci Zaginionych i Wykorzystywanych. Podkreśliła, że tego typu obrazy stanowią „straszliwą szkodę społeczną”, nawet jeśli nie przedstawiają bezpośrednio prawdziwych osób. Mogą się ponadto przyczyniać do normalizacji seksualizacji dzieci.

Trudności z identyfikacją ofiar

Tworzenie grafik zawierających wizerunki dzieci wykonujących czynności seksualne powoduje problemy w zakresie ścigania sprawców. Na podstawie prawdziwych zdjęć i  przy pomocy AI pedofile tworzą materiały z „dziećmi” wygenerowanymi przez technologię, co sprawia, że identyfikacja ofiary staje się trudna lub wręcz niemożliwa.

Co więcej, organy ścigania będą potencjalnie traciły czas na ustalenie, czy obraz jest prawdziwy, czy też stworzony przez sztuczną inteligencję. Ian Critchley przekazał BBC, że „zalew” tego typu treści „może spowolnić proces identyfikacji prawdziwych ofiar nadużyć”.

Nie oznacza to, że jesteśmy zupełnie bezradni wobec takich zachowań. Jak podkreśla Tomasz Turba w komentarzu dla Demagoga: