Analiza w pigułce

Grupa kilkunastu osób na portalu X publikuje antyrządowe wpisy przed wyborami w Mołdawii. W Stanach Zjednoczonych i Kanadzie pojawiają się konta, które popierają działania Izraela w strefie Gazy. W Kenii w czasie protestów przeciwko podwyżce podatków użytkownicy mediów społecznościowych oskarżają demonstrantów o prorosyjskie skłonności. 

Co łączy te wszystkie sprawy? Każda z nich była skoordynowaną kampanią wpływu, do której zaangażowano sztuczną inteligencję.

Także w Polsce przy pomocy generowanych obrazów i filmów można w krótkim czasie stworzyć kłamliwą kampanię na różne tematy społeczne. „Tak, chcę polexitu. Dość rządzenia Polską z Brukseli” – tak rzekomo pewna Polka namawiała na TikToku do polexitu. Podobnych wypowiedzi było więcej. Okazało się, że wszystkie stworzono z użyciem AI. 

Zgodnie z kwietniowym raportem opublikowanym przez NATO StratCom tego typu aktywności będzie tylko więcej, na co jako członkowie Sojuszu nie jesteśmy przygotowani.

Proste boty to przeżytek w świecie AI

Raport „Beyond Spam Bots: The Rise of AI-Powered Disinformation Machines and the Imperative for Strategic Response” opisuje, w jaki sposób generatywna sztuczna inteligencja może pomagać w realizacji skoordynowanych operacji dezinformacyjnych. Do tej pory w tego typu działaniach wykorzystywano np. spam boty, czyli profile w mediach społecznościowych, które udawały prawdziwych użytkowników i podawały fałszywe treści.

Zgodnie z raportem StratComu ten sposób organizowania akcji dezinformacyjnych dominował w latach 2016–2020 (s. 5). Jest on jednak obarczony kilkoma ograniczeniami:

• działania bazują na treściach typu „kopiuj–wklej”, co sprawia, że łatwo wykryć skoordynowane działanie,
• konta-boty mają mało wiarygodną przeszłość, w związku z czym można je szybko zdemaskować jako nieautentyczne,
• do operowania siatką botów o dużej skali potrzebne jest zaangażowanie grupy ludzi.

Te ograniczenia zostają zniwelowane poprzez użycie sztucznej inteligencji. Autorzy raportu zwracają uwagę, że AI umożliwia tworzenie treści bardziej przypominających publikacje prawdziwych użytkowników (s. 5). Programy wykorzystujące duże modele językowe są w stanie prowadzić profile w mediach społecznościowych w taki sposób, że trudno je odróżnić od prawdziwych kont. Wreszcie pozwalają zautomatyzować proces „produkcji fake newsów”, ponieważ ograniczają zaangażowanie osób kierujących tymi działaniami. 

Żaden model AI nie jest odporny na działanie dezinformatorów

Niezależnie, czy chodzi o narzędzie przygotowane przez takie firmy jak Google, Anthropic czy OpenAI czy też bierzemy pod uwagę modele typu open source w rodzaju Huihui AI, każdego z nich można użyć do tworzenia dezinformacji (s. 6). Amerykańscy giganci technologiczni w zasadach korzystania ze swoich modeli podkreślają, że nie mogą być one wykorzystywane do niecnych celów. Jednak, jak wykazała grupa badaczy z NATO StratCom, nie przeszkodziło to w wygenerowaniu fałszywych informacji czy toksycznych komentarzy z użyciem tych właśnie narzędzi.

Autorzy raportu sprawdzali także skuteczność różnych metod skłonienia czatu AI do współpracy. Bezpośrednia prośba o stworzenie jakiejś fałszywej treści miała jedynie 12 proc. skuteczności. Jednak już bardziej złożone podejście, wymagające zbudowania wielowątkowej konwersacji lub zmiany kontekstu pytania, podnosiło ten odsetek do 48 proc. (s. 16).

AI w każdym procesie dezinformacji

Sztuczna inteligencja ma nie tylko tworzyć nieprawdziwe historie czy generować realistyczne wizerunki atrakcyjnych kobiet namawiających do opuszczenia Unii Europejskiej. NATO StratCom wskazuje, że AI może być wykorzystana w każdym elemencie procesu tworzenia kampanii dezinformacyjnej: od namierzenia celów po ewaluację działań (s. 7). Zgodnie z raportem duże modele językowe mogą być użyte w operacji składającej się z pięciu faz:

• odkrywanie – znajdowanie słabych punktów, społeczności podatnych na dezinformację, analiza opinii dotyczących konkretnych zagadnień,
• tworzenie „bohaterów” – generowanie sztucznych bytów, które mają uwiarygadniać fałszywe przekazy (dzięki użyciu AI na bieżąco dostosowują się one do danej dyskusji i sytuacji),
• tworzenie fałszywych przekazów – generowanie nie tylko pojedynczych fake newsów, lecz także np. fałszywych cytatów,
• zamieszczanie – koordynowane działanie siatki botów, kontrowanie treści podważających fałszywy przekaz i tworzenie sztucznego ruchu, tak by wydawało się, że dany przekaz jest autentycznym przejawem myślenia określonej grupy,
• ewaluacja – ocenianie efektów, analiza kontrnarracji i dopasowywanie do nich fałszywego przekazu.

Jak AI pomaga tworzyć wiarygodnych „bohaterów”

Dzięki wykorzystaniu sztucznej inteligencji można już nie tylko stworzyć setkę kont i kierować nią tak, że będzie powtarzać po sobie te same wpisy lub zdjęcia. Elastyczność modeli w tworzeniu treści pozwala kreować wyspecjalizowane konta pomagające uwiarygadniać fałszywe informacje i moderować dyskusję, która wokół nich narasta.

NATO StratCom w ramach swojego eksperymentu stworzyć pięć rodzajów profili szerzących dezinformację (s. 9):

• „autorytet” – prezentujący się np. jako zatroskany ekspert, uwiarygadnia daną fałszywą informację,
• „wzmacniacz emocjonalny” – np. zatroskany rodzic czy pacjent, który wzmacnia emocjonalną część dezinformacji oraz sprawia, że jest łatwiejsza do zrozumienia i przyjęcia,
• „dawca rozwiązań” – osoba, która daje proste odpowiedzi na złożone pytania stawiane przez „autorytet”,
• „kontrolowany krytyk” – głos sprzeciwu, ale na tyle łatwy do skontrowania, aby nie zagroził narracji (może wygasić autentyczne przejawy krytyki),
• „nawrócony” – ktoś, kto kiedyś stał w opozycji do proponowanych rozwiązań, ale koniec końców dał się przekonać (może zachęcać osoby skłonne do zmiany zdania).

Tworzenie tego typu person to nie tylko zakładanie kolejnych kont, lecz także budowanie legendy. W tym pomaga tworzenie realistycznych obrazów. To kolejny obszar, w którym wydatnie pomaga sztuczna inteligencja. 

Jak opisało w maju 2025 roku DFR Lab, narzędzia do tworzenia „sztucznych ludzi” funkcjonują w sieci od dłuższego czasu, jak np. strona This Person Doesn’t Exist. Takie rozwiązanie miało jednak swoje wady, jak chociażby ograniczenia wynikające z bazowania na sieci generatywnej GAN. Sztuczna inteligencja oparta na modelach dyfuzyjnych stanowi kolejny krok w rozwoju i pozwala na tworzenie bardziej realistycznych obrazów.

Źródło: dfrlab.org, „The evolving role of AI-generated media in shaping disinformation campaigns”.

Jakie efekty może przynieść kampania przeprowadzona z użyciem AI?

Zespół NATO StratCom chciał sprawdzić poprzez swój eksperyment, jak łatwo jest zorganizować kampanię dezinformacyjną w sieci. Co istotne, platformy takie jak Facebook czy YouTube usunęły kilkadziesiąt procent fałszywych kont, które stworzyli specjaliści. Wykorzystanie AI znacząco utrudnia ich wykrywanie.

W ramach eksperymentu pierwszego dnia AI pomogło ustalić potencjalny cel, którym okazał się wątek na forum Reddit o nazwie r/HealthAnxiety. Grupa licząca ok. 120 tys. członków została wskazana jako mająca wysoki poziom niepewności, a w związku z tym – podatna na manipulację. Następnie sztuczna inteligencja pomogła wygenerować pięć kont dostosowanych do profilu psychologicznego użytkowników forum (s. 10).

Kolejne etapy przebiegały według opisanych wcześniej faz. Po rozpoznaniu i tworzeniu „bohaterów” przyszła pora na tworzenie fałszywych treści, publikowanych w momencie największego ruchu na platformie. Następnie dyskusję przeniesiono na inne platformy społecznościowe, a po dokonanej ewaluacji zmodyfikowano publikowane wiadomości.

By skutecznie się bronić, trzeba zmienić podejście

Pozostaje pytanie: Jak się bronić przed tym nowym zagrożeniem? W podsumowaniu raportu autorzy zwracają uwagę, że obecnie realizowana polityka członków Sojuszu jest „taktyczną odpowiedzią na strategiczny problem” (s. 12).

Koncentrowanie się na odpowiadaniu na treść dezinformacji zamiast na wzmacnianiu zaufania do instytucji jest zdaniem autorów raportu nieskuteczne. Ostatecznym celem państw adwersarzy jest w opinii NATO StratCom „degradacja struktury epistemicznej”, czyli sposobu, w jaki uznajemy jakieś wiadomości za prawdziwe.

Oprócz tego w rekomendacjach zawarto (s. 13):

• proaktywne budowanie odporności całego społeczeństwa na operacje dezinformacyjne,
• koordynację działań na poziomie instytucji rządowych, prywatnych firm (platform społecznościowych) i naukowców,
• wykorzystanie możliwości AI nie tylko w obronie przed dezinformacją, lecz także jako narzędzia ofensywnego.

Kontroluj polityków!

Patrz władzy na ręce i wspieraj niezależność.

Wpłacam