Centrum Eksperckie Komunikacji Strategicznej NATO (NATO StratCom) przeprowadziło eksperyment, który udowadnia, że zabezpieczenia mediów społecznościowych przed fałszywymi kontami i kampaniami dezinformacjami są dalekie od zadowalających.

Analitycy NATO StratCom byli ciekawi, jak efektywni są dostawcy generujący sztuczny ruch w sieci, czyli na przykład farmy botów lub trolli.

Skoordynowana grupa szybko wybije temat na pierwszy plan

Wpisy i udostępnienia od takich fałszywych kont są wykorzystywane do promocji nieprawdziwych informacji m.in. na temat pandemii, wojny w Ukrainie czy wyborów w USA. 

Farmy trolli mają też wpływ na politykę krajową. Przykładowo, jak ujawniła Wirtualna Polska, siatka kont promowała zwycięską kampanię Łukasza Mejzy w wyborach do Sejmu. 

Z kolei na platformie X poseł KO Roman Giertych koordynuje swoją „Sieć na Wybory”, czyli wolontariacką grupę, która w zorganizowany sposób promuje konkretne hashtagi i narracje.

Boty i trolle nadal w modzie

Podobnie jak rok temu i dwa lata temu celem eksperymentu NATO StratCom było sprawdzenie, czy moderacja Instagrama, TikToka i innych platform społecznościowych potrafi skutecznie zapobiegać takim kampaniom. 

Okazuje się, że wciąż da się wygenerować duże zasięgi relatywnie niskim kosztem. Mniej więcej takim jak bilet na przejazd pociągiem Pendolino z Krakowa do Gdańska.

Poproszę jedną kampanię dezinformacyjną. Ile płacę?

NATO StratCom corocznie sprawdza stworzony przez siebie „koszyk” usług (s. 11). Chodzi o wykupienie u dostawcy 100 polubień, komentarzy i obserwujących oraz 1 tys. wyświetleń. 

Za kolejne 58 euro analitykom udało się łącznie wykupić 1,2 tys. nieautentycznych komentarzy, 11,7 tys. polubień, 3,2 tys. udostępnień i 8,2 tys. wyświetleń na sześciu platformach: Facebooku, Instagramie, YouTubie, TikToku, VKontakte i X. Taki zestaw był trzy razy tańszy niż porównywalny koszyk z poprzedniej edycji badania (s. 7).

Za małą kwotę można namieszać w mediach społecznościowych

Co to oznacza? Już za małą kwotę można znacznie zwiększyć zarówno zasięgi, jak i popularność wybranego wpisu lub filmu w mediach społecznościowych. A większe zaangażowanie tworzy pozory, że prawdziwi ludzie interesują się danym tematem. Może nawet się z nim zgadzają.

O tym, że za pieniądze da się zbudować duże zasięgi, świadczy historia celebrytki Caroline Derpienski. Analityk PR Wojciech Kardyś na platformie X wykazał, że modelka wypromowała swój profil na Instagramie za pomocą wykupionych obserwacji, polubień i komentarzy. Pochodziły one głównie od fałszywych kont z Indii i Indonezji.

Jakie są stawki rynkowe? Fałszywe konto już za kilka centów

Do prowadzenia fałszywej aktywności i generowania nieprawdziwych zasięgów potrzebne są liczne konta. Czy stworzenie takiej armii jest trudne i drogie? Nie.

Z raportu wynika, że założenie lub wykupienie jednego fałszywego profilu w mediach społecznościowych staniało względem danych z eksperymentu z 2022 roku (s. 8). Pewną poprawę na tym polu odnotował TikTok i YouTube, za to cena w przypadku X spadła nawet czterokrotnie. 

Ceny zaczynają się już od kilku centów? Samo założenie konta jest darmowe, ale przy masowej produkcji barierą staje się weryfikacja, na przykład poprzez SMS. Ta metoda też okazuje się tania do ominięcia. W przypadku platform takich jak Instagram i X średnia cena za fałszywą weryfikację opiewała na ok. 1 euro.

Jak szybko działają dostawcy? Wpisy i udostępnienia już po kilku godzinach

Tegoroczny eksperyment NATO StratCom ponownie potwierdził (s. 12), że dostawcy nieautentycznej aktywności są w stanie manipulować aktualnymi wydarzeniami „na żywo”.

93 proc. zamówionych w eksperymencie fałszywych polubień, komentarzy i udostępnień pojawiło się na platformie w ciągu pierwszych 24 godzin. To więcej niż rok temu (89 proc.) i dwa lata temu (77 proc.).

Najwolniej działają fałszywe konta na X – tutaj pierwszego dnia pojawiło się tylko 64 proc. wykupionych interakcji. Za to najgorzej pod tym względem wypadł YouTube i TikTok. Ponad 100 proc. zamówionej aktywności pojawiło się na tych platformach w ciągu 12 godzin (s. 12).

Co z samymi wpisami i komentarzami? Większość nie zniknęła

Wybrane platformy poradziły sobie nieco lepiej (s. 10). Przykładowo YouTube wykrył i usunął ⅕ fałszywej aktywności (21,3 proc.). To wzrost o ponad połowę w porównaniu z poprzednią edycją badania (10 proc.). Nieco lepszy wynik, choć nadal nienapawający optymizmem, odnotowała też platforma X (38,1 proc. usuniętych treści).

Najgorzej za to wypadł TikTok. W przypadku tej platformy niemal cały wykupiony ruch w sieci, pomimo swojej nieautentyczności, nie został wykryty i usunięty. Po czterech tygodniach nadal pozostało tutaj 99,85 proc. interakcji.

Długowieczne konta. Moderacja nie reaguje 

Wnioski z raportu wskazują, że platformy społecznościowe nie zawsze radzą sobie z wykrywaniem nieautentycznych profili. Czytamy, że usunęły one średnio tylko 15 proc. takich kont w ciągu czterech tygodni trwania eksperymentu (s. 9). To mniej niż w poprzednich latach. Przykładowo w 2021 roku zablokowano co czwarte takie konto.

Dużą poprawę w tym zakresie odnotował Facebook – wzrost z 1 proc. w 2022 roku do 25 proc. w 2024 roku (s. 9). W ostatnich dwóch latach poprawiła się też sytuacja na platformie X, która przedtem wykrywała co czwarte fałszywe konto, a teraz wykrywa już co drugie. 

Analitycy NATO StratCom zauważają jednak, że nadal nie są to zadowalające wyniki, przez co platformy są podatne na manipulację.

Konta wielorazowego użytku. Gloryfikowały Grupę Wagnera, mieszały w amerykańskiej kampanii

Analitycy NATO StratCom nie ograniczyli się do jednorazowego skorzystania z usług dostawców nieautentycznej aktywności. Gdy poznali już konta używane do tego procederu, postanowili prześledzić ich dalsze losy (s. 15).

Okazuje się, że konta, z których usług skorzystano, były później używane na frontach kilku operacji informacyjnych. Mowa tu m.in. o promowaniu prokremlowskiej propagandy na VKontakte czy prorosyjskich filmików gloryfikujących najemników z Grupy Wagnera na TikToku (s. 16).

Szczególnie pracowite były nieautentyczne profile na platformie X. W raporcie czytamy, że aktywnie angażowały się one w promowanie rosyjskich polityków i ich narracji na temat wojny, a równocześnie włączały się też w krytykę niepodległości Tajwanu i jego relacji z USA (s. 17). 

Co więcej, boty na X były wykorzystywane podczas kampanii wyborczej w USA (s. 17–19). Generowały one zasięgi wpisom krytycznym wobec prezydenta Joe Bidena i kandydatki demokratów Kamali Harris (s. 18). Wybrane profile angażowały się też w dyskusje dotyczące unijnej polityki klimatycznej oraz zarzucały państwom zachodnim manipulacje podczas Igrzysk Olimpijskich (s. 19).