Rozwój sztucznej inteligencji (AI) niesie za sobą wiele korzyści, ale również zagrożeń. Dostępność technologii pozwalającej m.in. na dowolne generowanie obrazów czy filmów (tzw. deepfake) daje możliwość tworzenia zmanipulowanych treści z udziałem zarówno prawdziwych, jak i nieistniejących osób.

Jednym ze wspomnianych wyzwań jest generowanie z pomocą AI treści pornograficznych, które stanowią szczególne zagrożenie w sytuacji, kiedy przedstawiane na nich osoby naprawdę istnieją. Powstałe w ten sposób materiały niosą szkodliwe konsekwencje dla ofiary – nieważne, czy jest znaną celebrytką, czy zwykłą nastolatką. 

Pornografia z udziałem Taylor Swift przez długi czas trendowała na X

Pod koniec stycznia 2024 roku na platformie X opublikowano treści pornograficzne z udziałem amerykańskiej piosenkarki Taylor Swift. Jak się okazało, obrazy wygenerowano za pomocą sztucznej inteligencji, co jednak nie przeszkodziło w zdobyciu szerokiego zainteresowania wśród użytkowników serwisu.

Mimo usunięcia pierwotnych postów obrazy z udziałem artystki zostały zapisane i ponownie publikowane przez inne konta, przez co w szybkim tempie zalały platformę. Temat ten stał się na tyle popularny, że – jak donosi The Verge – w niektórych rejonach świata wyrażenie „Taylor Swift AI”, które używano do opisywania pornografii, pojawiało się na liście popularnych tematów. To z kolei sprawiło, że były one niejako „promowane” i trafiły do jeszcze szerszego grona odbiorców. 

Taylor Swift w deepfake’ach – reklama garnków i hasła przeciw Donaldowi Trumpowi

Zgodnie z doniesieniami portalu technologicznego 404 Media, wspomniane pornograficzne obrazy wykorzystujące wizerunek Taylor Swift po raz pierwszy ukazały się na portalu 4chan oraz na Telegramie, gdzie udostępniano szkodliwe treści generowane przy pomocy narzędzia Microsoft Designer. 

Nie jest to jednak pierwszy przypadek, kiedy artystka padła ofiarą przeróbek. Pod koniec stycznia 2024 roku serwis NewsGuard informował o oszustwach wykorzystujących fałszywe filmy z celebrytką. Deepfake’i użyto m.in. do reklamowania ofert garnków i patelni. 

W tym samym miesiącu na stronie RumorGuard dementowano doniesienia, jakoby Taylor Swift miała pozować do zdjęcia w koszulce zawierającej hasło sprzeciwu wobec Donalda Trumpa. Obraz również okazał się zmanipulowany. 

Platformy społecznościowe wciąż mają trudności z usuwaniem zabronionych treści

Przypadek obrazów seksualizujących amerykańską piosenkarkę wzbudził niemałe kontrowersje. Stało się to m.in. dlatego, że treści te, które w oczywisty sposób łamały regulamin serwisu X, przez relatywnie długi czas były dostępne na platformie. Spotkało się to z otwartą krytyką, m.in. ze strony fanów artystki, którzy pod hasłami i hashtagami używanymi do promocji pornografii zaczęli udostępniać np. autentyczne nagrania z występów Taylor Swift, aby „ukryć” niechciane wpisy.

https://twitter.com/prmeena7781/status/1750563613939749083?s=46&t=N0iOSJ-iptMaGXjIlaYT6w&fbclid=IwAR1f86mRgihObgQTzsgEJ6oYP_K2skViIrZI9xTTF_35ySt4m0EXqPjFUoE

Sytuacja ta po raz kolejny pokazała również, że platformy społecznościowe wciąż borykają się z moderacją treści, jakie pojawiają się na ich stronach. Serwis X, mający problem z kontrolą wpisów zawierających wygenerowaną pornografię przedstawiającą piosenkarkę, tymczasowo zablokował możliwość wyszukiwania wyrażeń takich jak „Taylor Swift” czy „Taylor Swift AI”. Jednak, jak potwierdził The Verge, na zabronione materiały wciąż można było natrafić np. gdy zmieniło się szyk wyszukiwanych słów na „Taylor AI Swift”.

Z kolei o nieskuteczności Mety w moderowaniu treści wspomniał również NewsGuard w raporcie z 26 stycznia 2024 roku. Podkreślono w nim, że mimo zapewnień firmy o usunięciu postów wykorzystujących wizerunki celebrytów do reklamowania sprzętu kuchennego, te wciąż pojawiały się na platformie. 

Fałszywa pornografia wyzwaniem na przyszłość

W najnowszym raporcie „The Global Risk Report 2024” poruszającym temat najważniejszych zagrożeń, z którymi w najbliższych latach będziemy musieli się zmierzyć, Światowe Forum Ekonomiczne wymieniło misinformację i dezinformację. Ponadto wspomniano o zagrożeniach wynikających z rozwoju przestępczości związanej z tworzeniem i rozpowszechnianiem fałszywej pornografii generowanej bez wiedzy lub zgody osoby, która się na niej znajduje (s. 18). Kwestia kontroli treści tworzonych z pomocą AI pozostaje więc jednym z głównych wyzwań przyszłości zarówno dla rządzących, jak i dla platform społecznościowych. 

Regulacje dotyczące udostępniania pornografii generowanej przez sztuczną inteligencję wciąż nie są wystarczające. Przykładowo: tylko w dziesięciu stanach USA istnieją przepisy chroniące ofiary takich deepfake’ów. 

W Polsce kwestia zmanipulowanych treści tworzonych za pomocą AI nie jest jeszcze w pełni uregulowana. Natomiast na podstawie art. 191a Kodeksu karnego dowiadujemy się, że nagrywanie i rozpowszechnianie wizerunku nagiej osoby lub osoby w trakcie czynności seksualnej bez jej zgody „podlega karze pozbawienia wolności od 3 miesięcy do lat 5”. 

Na łamach Demagoga wielokrotnie weryfikowaliśmy treści tworzone za pomocą sztucznej inteligencji. Przykłady takich materiałów oraz przydatne wskazówki, jak się przed nimi bronić, znajdziesz w innych artykułach na naszej stronie.