W 2017 roku na platformie Reddit użytkownik posługujący się pseudonimem „deepfakes” opublikował pierwsze materiały wideo przedstawiające treści pornograficzne, w których wykorzystano twarze znanych aktorek i piosenkarek. Materiały powstały dzięki połączeniu oprogramowania do podmiany twarzy, algorytmów uczenia maszynowego oraz dużych zbiorów zdjęć dostępnych w internecie. 

Wkrótce podobne treści zaczęły pojawiać się na subreddicie r/deepfakes. W 2018 roku został on zamknięty w ramach polityki serwisu ograniczającej niechciane treści o charakterze seksualnym.

Obecnie pod pojęciem „deepfake” rozumie się syntetyczne materiały wideo, audio lub graficzne tworzone z użyciem sztucznej inteligencji, które imitują rzeczywiste osoby, sytuacje lub zdarzenia. W węższym ujęciu chodzi o wykorzystanie wizerunku istniejących osób w kontekstach, które nigdy nie miały miejsca. W szerszym – o wszelkie treści generowane tak, by były odbierane jako autentyczne, mimo że są całkowicie sztuczne.

Skala zjawiska i dynamika wzrostu

W ciągu ośmiu lat technologia stojąca za deepfake’ami przeszła drogę od wątpliwych etycznie przeróbek obecnych na jednym forum do powszechnie dostępnego narzędzia wykorzystywanego do różnych celów. Gotowe rozwiązania, w tym proste aplikacje i serwisy online, umożliwiają dziś generowanie syntetycznego materiału wideo i audio bez specjalistycznej wiedzy technicznej. W efekcie swoją twarz w deepfake’ach mogli zobaczyć zarówno globalni liderzy i celebryci (np. Barack Obama, Tom Cruise, Morgan Freeman), jak i lokalni politycy czy przedsiębiorcy, tacy jak Rafał Brzoska.

Dane branżowe pokazują bardzo dynamiczny wzrost liczby wykrywanych deepfake’ów. Analitycy z firmy Sumsub w 2024 roku odnotowali o 245 proc. więcej przypadków niż rok wcześniej. W 2024 roku tendencja ta zbiegła się z kalendarzem wyborczym, w którym do urn udała się blisko połowa światowej populacji, co dodatkowo zwiększyło ryzyko wykorzystania syntetycznych treści w kampaniach politycznych i operacjach dezinformacyjnych.

Źródło: Sumsub.com

Oszustwa i serwisy społecznościowe

Duża część materiałów deepfake dostępnych w internecie to dziś z jednej strony satyra i treści rozrywkowe, a z drugiej – oszustwa, w szczególności inwestycyjne i reklamowe. Coraz częściej wykorzystywany jest głos: kilkadziesiąt sekund prawdziwego nagrania wystarczy, by stworzyć wiarygodny klon, którym przestępcy mogą podszywać się pod członków rodziny, znanych twórców czy przedstawicieli firm. Tego typu materiały trafiają następnie do kampanii reklamowych lub komunikacji mającej na celu wyłudzenie danych bądź pieniędzy.

Stratę ponoszą ofiary, ale inni z procederu czerpią zyski. Jak wynika z wewnętrznych dokumentów firmy Meta, ok. 10 proc. planowanych dochodów pochodzi z reklam oszustw lub towarów zakazanych. 

Polityka, dezinformacja i regulacje

Deepfake stał się również narzędziem wykorzystywanym w sporach politycznych i kampaniach informacyjnych. Na polskim rynku jednym z głośniejszych przykładów był spot Koalicji Obywatelskiej, w którym użyto syntetycznego głosu ówczesnego premiera Mateusza Morawieckiego, czytającego fragmenty tzw. „maili Dworczyka”. 

Część państw, w tym Chiny, przyjmuje kompleksowe regulacje dotyczące wszystkich rodzajów treści deepfake, obejmujące zasady tworzenia, rozpowszechniania i oznaczania takich materiałów, podczas gdy inne jurysdykcje ograniczają się głównie do obszaru pornografii lub wybranych nadużyć.

Przepisy przygotowane w ramach Unii Europejskiej zwane AI Act nakładają obowiązek oznaczania treści przygotowanych przez AI (art. 50). Obecnie Komisja Europejska pracuje nad stworzeniem kodeksu dokładnie określającego, jak oznaczać generowane treści, by ich rozpoznanie nie sprawiało trudności. Wspomniane wymogi zaczną obowiązywać w sierpniu 2026 roku.

Ewolucja narzędzi i wyścig zbrojeń

Równolegle rozwijają się legalne i etyczne zastosowania technologii – przykładem są funkcje automatycznego dubbingu w serwisach wideo, umożliwiające szybkie dostosowanie treści do wielu języków. Choć jakość tych rozwiązań jest jeszcze daleka od perfekcji, kierunek rozwoju jest jasny: głębsza personalizacja, wielojęzyczność i zwiększana „naturalność” syntetycznego głosu i obrazu.

Ten postęp generuje jednak klasyczny „wyścig zbrojeń” między twórcami systemów generatywnych a zespołami odpowiedzialnymi za wykrywanie manipulacji. Eksperci, m.in. z jednostek takich jak NASK, podkreślają, że techniki detekcji bardzo szybko się dezaktualizują, ponieważ nowe modele generatywne eliminują wcześniejsze artefakty, na których opierały się systemy wykrywania. W praktyce oznacza to konieczność ciągłego uczenia i aktualizowania narzędzi detekcyjnych, podobnie jak ma to miejsce w przypadku oprogramowania antywirusowego.

Przykładem wykorzystania AI do pożytecznych celów niech będzie materiał, który stworzyliśmy – krótki film wyjaśniający, jakie zagrożenia niosą deepfaki i co warto robić, by nie dać się na nie nabrać:

Projekt dofinansowany ze środków Korpusu Solidarności – Rządowego Programu Wspierania i Rozwoju Wolontariatu Systematycznego na lata 2018–2030.

Kontroluj polityków!

Patrz władzy na ręce i wspieraj niezależność.

Wpłacam