Analiza w pigułce

Sztuczna inteligencja stała się ważnym elementem prezentowania interesujących treści przez sztaby wyborcze, co niedawno opisywaliśmy w raporcie. Co jednak, gdy AI jest wykorzystywana do promowania treści mających na celu ośmieszenie osoby publicznej?

W ostatnim czasie w sieci pojawiły się nagrania prezentujące kandydata na prezydenta Szymona Hołownię, który rzekomo „nie potrafi korzystać z pociągu”. Posty z filmikiem publikowano głównie na platformie X (1, 2), jednak ich udostępnienia można znaleźć również na Facebooku. 

Do jednego z postów dołączono opis [pisownia oryginalna]: „Hołownia nie umie nawet korzystać z pociągu. Prawie drugiej osobie w Państwie stało by się coś złego gdyby nie przytomność maszynisty”.

Źródło: X.com, 19.03.2025

Jeden z postów zamieszczonych na platformie X wyświetlono 259 tys. razy. Zdobył on ponad tysiąc reakcji i ponad 280 komentarzy. Komentarze pod filmami (1, 2) i notatka społeczności wskazują jednak na to, że odbiorcy wychwycili wysokie prawdopodobieństwo stworzenia tego materiału przy pomocy AI. 

Pod jednym z postów zamieszczono komentarze o treści [pisownia oryginalna]: „Ale to jest smutne, że ty tak oczywiste przeróbki musisz wstawiać” czy „To jest to AI, które na podstawie zdjęcia tworzy filmiki, na których postać wiruje jak derwisz lub rzuca się jak pajac?”. Z drugiej strony pojawiły się również głosy ośmieszające obecnego marszałka Sejmu [pisownia oryginalna]: „I to coś chce zostać prezydentem Polski. Z Tuskiem ziemniaki obierać to jedyne, do czego się nadaje”. 

Film z Hołownią przerobiono. Co znajduje się w oryginalnym nagraniu?

Jak się okazuje, wspomniane nagrania zostały zmanipulowane – są przykładem tzw. deepfake’a. Oznacza to, że utworzono je przy pomocy sztucznej inteligencji (AI). Oryginalny materiał, na podstawie którego stworzono filmik, można wyszukać przy pomocy Google Lens z funkcją wstecznego wyszukiwania obrazem. Kadr z filmu doprowadził nas do konferencji prasowej w Ostrołęce, która odbyła się 7 lutego 2025 roku.

W relacji z wydarzenia widniejącej na portalu lokalnej gazety pojawiają się zdjęcia oraz tekst poświęcony wizycie kandydata na prezydenta z ramienia Polski 2050. Strój polityka oraz zdjęcia pociągu zgadzają się z obrazem w filmiku stworzonym przez AI. To wydarzenie było inspiracją do stworzenia deepfake’a z Szymonem Hołownią. 

Jak rozpoznać materiały stworzone przy użyciu AI? Zwróć uwagę na te elementy

Materiały wygenerowane za pomocą AI wyróżnia zazwyczaj kilka elementów. Na tworzonych przez sztuczną inteligencję grafikach oraz materiałach wideo często pojawiają się takie błędy jak: dziwne ułożenie sylwetek postaci, nienaturalny kształt poszczególnych części ciała czy nieprawidłowa liczba palców. Więcej o wykrywaniu użycia technologii AI można dowiedzieć się z naszej analizy. 

fot. x.com / modyfikacje Demagog

W filmiku z udziałem Szymona Hołowni błąd AI można dostrzec dopiero po spowolnieniu nagrania. Warto zwrócić uwagę na pochylenie w tył w nienaturalny sposób, a także zniknięcie na moment całej lewej dłoni kandydata na prezydenta i jego niewyraźną twarz [czas nagrania 00:01]. Dodatkowym elementem, na który należy zwrócić uwagę, jest pociąg. Ten na omawianym filmiku różni się od pociągu Kolei Mazowieckich, w tym m.in. oknami [czas nagrania 00:02]. 

Porównanie obrazów opracowane na podstawie: fot. x.com / modyfikacje Demagog (obraz po lewej) /Mateusz Włodarczyk (Wikimedia Commons) / modyfikacje Demagog (obraz po prawej)

Przekaż nam 1,5% podatku!

Wesprzyj nas, przekazując 1,5% podatku na kontrolę polityków. Wpisz w PIT: KRS 0000615583

Sprawdź jak przekazać!