Po dwóch Weryfikatonach zorganizowanych przez Demagoga kolejny odbył się w dniach 6–7 czerwca 2024 roku na Wydziale Nauk Medialnych Uniwersytetu Amsterdamskiego. Niedługo przed wyborami do Europarlamentu przedstawiciele świata nauki, mediów i organizacji społecznych postanowili zbadać, jaki wpływ na trwającą kampanię mają obrazy generowane przez AI. 

W wydarzeniu wzięły udział m.in. osoby z AFP Factuel – inicjatywy factcheckingowej Francuskiej Agencji Prasowej, AI Forensics – organizacji badającej algorytmy i vera.ai – projektu opracowującego pomocne przy weryfikacji narzędzia oparte na sztucznej inteligencji. Przyjrzyjmy się efektom ich pracy.

Akcja francuskiej prawicy oparta na obrazach generowanych przez AI

Pierwsza z analiz, która powstała podczas holenderskiego weryfikatonu, dotyczy kampanii Zjednoczenia Narodowego – francuskiej partii prawicowej. Zespół pięciorga analityków i analityczek przejrzał konta w mediach społecznościowych należące do tego ugrupowania i jego czołowych polityków oraz stronę internetową i konta akcji „L’Europe Sans Eux” (z fr. „Europa bez nich”).

Na kontach na Facebooku, X, Instagramie i TikToku przypisanych akcji „L’Europe Sans eux” zespół odnalazł obrazy wygenerowane przez AI, które nie miały odpowiedniego oznaczenia. Zawiodły systemy automatycznego wykrywania sztucznie generowanych treści. Nie znajdziemy też wyraźnej informacji, że są to materiały partii politycznej.

Na grafice rozpowszechnianej na X w ramach akcji „Europa bez nich” widać przewodniczącą Komisji Europejskiej Ursulę von der Leyen i prezydenta Francji Emanuela Macrona na tle łodzi z migrantami. Napis na grafice głosi „Zatrzymajmy powódź migrantów”. Narzędzie vera.ai z wtyczki InVID wskazuje bardzo wysokie prawdopodobieństwo, że obraz ten został sztucznie wygenerowany. Źródło: digitalmethods.net

Jak komentują autorzy i autorki analizy, w akcji „Europa bez nich” wykorzystuje się niemal wyłącznie obrazy generowane przez AI. Zwiększają one dramatyzm prawicowych narracji, np. o zagrożeniach związanych z migracją. Brak skutecznego moderowania takich treści grozi więc rozpowszechnianiem dezinformacji.

Film o zombie wykorzystany do straszenia migrantami

W kolejnej analizie pod lupę wzięto materiały rozpowszechniane w mediach społecznościowych Konfederacji i Nowej Nadziei. Poszukiwano źródeł wykorzystanych tam obrazów, aby sprawdzić, czy nie zostały pozbawione pierwotnego kontekstu. Zidentyfikowano również ich główne narracje.

Okazało się, że w spocie kandydata Konfederacji i członka Nowej Nadziei Tomasza Grabarczyka wykorzystano materiały agencji prasowych, zdjęć stockowych i fragmentów filmu o ataku zombie – „World War Z”. Nie znajdziemy jednak przy nim jasnych informacji o wykorzystanych dziełach.

W spocie Tomasza Grabarczyka wykorzystano m.in. materiały pochodzące z brytyjskiej telewizji Sky News, polskiej telewizji TVN, strony ze zdjęciami stockowymi Shutterstock i produkcji filmowej „World War Z”. Źródło: digitalmethods.net

Spot tworzy więc mieszankę rzeczywistości i fikcji. Z jednej strony ma przekonywać o chaosie ogarniającym Europę Zachodnią i o wielkich zagrożeniach związanych z migracją. Z drugiej strony przedstawia Polskę jako arkadię – krainę spokoju, porządku i szczęścia.

PiS naruszył prawo cytatu? Fragmenty filmów w spocie krytykującym rząd

Ostatnia z analiz dotyczyła materiałów kampanijnych Prawa i Sprawiedliwości. Chodzi konkretnie o jeden ze spotów, który podobnie jak materiał kandydata Konfederacji zawierał miks różnych obrazów. Także w tym przypadku celem analizy było ustalenie źródeł tych obrazów oraz przesłania spotu.

Jak udało się ustalić, w swoim spocie Prawo i Sprawiedliwość wykorzystało fragmenty następujących filmów: „Cztery pokoje” Quentina Tarantino, „Absolwent” z Dustinem Hoffmanem w roli głównej, „Gladiator”, „Titanic”, „Dwóch gniewnych ludzi”, a także polski „Miś”. Dodatkowo w niektórych fragmentach użyto właściwego deepfake’om zamieniania twarzy bohaterów przy użyciu narzędzia opartego na AI.

W spocie Prawa i Sprawiedliwości wykorzystano kadr z filmu „Titanic”. Twarze bohaterów filmu zostały jednak zamienione na twarze polskich polityków – Donalda Tuska i Szymona Hołowni. Źródło: digitalmethods.net

Jak czytamy w analizie, zdaniem prawniczki Magdaleny Miernik-Grzesiowskiej użycie fragmentów filmów opiera się na prawie cytatu przewidzianym w art. 29[1] ustawy o prawie autorskim i prawach pokrewnych. Jednak wykorzystanie tych dzieł do stworzenia materiału dyskryminującego lub z naruszeniem praw osób trzecich może być nadużyciem tego przepisu.

Prawdziwy boom na AI może być dopiero przed nami

Jak pokazują przedstawione wyżej przykłady, podczas minionej kampanii zarówno we Francji, jak i w Polsce wykorzystywano materiały generowane przez sztuczną inteligencję oraz wyjęte z kontekstu dzieła fotograficzne i filmowe. Ich celem było przekonywanie obywatelek i obywateli do określonej wizji świata. Jeśli świat przedstawiony w materiale jest mieszanką rzeczywistości i fikcji, można uznać, że jest to próba manipulacji wyborczyniami i wyborcami.

Demagog był partnerem holenderskiego Weryfikatonu. Na miejscu w roli facylitatora obecny był członek naszego zespołu – Aleksy Szymkiewicz. Jak podkreśla, w kolejnych kampaniach liczba materiałów generowanych przez AI może wzrosnąć:

Analizy przeprowadzone w ramach holenderskiego Weryfikatonu pokazują, jak ważne jest wyraźne oznaczanie nie tylko materiałów generowanych przez AI, lecz wszelkich źródeł prezentowanych filmów i obrazów wykorzystywanych podczas kampanii. Przeciętny odbiorca tych materiałów nie ma przecież wystarczająco czasu, by analizować każdą klatkę spotu, tak jak robiły to osoby uczestniczące w Weryfikatonie.

Cieszymy się, że idea wspólnego weryfikowania informacji przed wyborami zdobywa popularność za granicą i przynosi tak interesujące efekty. Wszystkie organizacje zainteresowane organizacją podobnych wydarzeń zapraszamy do kontaktu – chętnie podzielimy się doświadczeniami.