Rynek dezinformacji, niestety, ma się świetnie

Centrum Eksperckie Komunikacji Strategicznej NATO (NATO StratCom COE) po raz kolejny przeanalizowało sytuację na rynku mediów społecznościowych. Wnioski nie napawają optymizmem – podobnie jak w ostatnich latach, rynek manipulacji (fałszywych kont oraz fałszywej aktywności sieciowej) pozostaje łatwo dostępny, tani i skuteczny.

Kampanie dezinformacyjne są wykorzystywane przez osoby, których celem jest manipulowanie wynikami wyborów, zwiększanie polaryzacji społecznej, wpływanie na opinię publiczną, nasilanie sporów politycznych lub silny wpływ na rynek komercyjny.

Obecnie, w trakcie wojny w Ukrainie, wojna informacyjna stała się szczególnie niebezpieczna. Kreml atakuje nie tylko bronią konwencjonalną, ale również w sieci. Celem Rosjan jest osłabienie pozycji międzynarodowej Ukrainy oraz promowanie propagandowych narracji prorosyjskich.

Fałszywe konta w mediach społecznościowych

Przede wszystkim autorzy raportu przeprowadzili eksperyment, w ramach którego sprawdzili, na jaką skalę da się wygenerować fałszywe zasięgi relatywnie małym kosztem. 

W Internecie nie jesteśmy sami

Do przeprowadzenia kampanii dezinformacyjnej można wykorzystać trzy rodzaje kont. Przede wszystkim, najtańsze są boty, pozwalające na szybkie wygenerowanie sztucznych zasięgów pod postami (co zapewnia wrażenie, że dana informacja jest ciekawa także dla innych ludzi). 

Bardziej zaawansowane nieautentyczne konta wymagają, aby nadzorował je człowiek. Są one droższe, lecz utrzymują się w sieci nawet przez kilka lat.

Oprócz tego, do kampanii dezinformacyjnych mogą zostać wykorzystane także prawdziwe osoby, czego przykładem są rosyjscy influencerzy, którzy zostali wynajęci przez Kreml do rozsiewania prorosyjskich narracji na temat wojny.

StratCom wystawia ocenę mediom społecznościowym

W eksperymencie uwzględniono sześć mediów społecznościowych: 

• Facebooka, 
• Twittera, 
• YouTube’a, 
• Instagrama, 
• TikToka,
• VKontakte. 

Platformy oceniono według siedmiu kryteriów.

Fałszywe konta są bardzo tanie

Jednym z najważniejszych rozwiązań przeciwdziałających kampaniom dezinformacyjnym są odpowiednie procedury blokujące zakładanie fałszywych kont. 

Niestety, na tym polu żadna z platform nie wypadła zbyt dobrze. Zdaniem autorów raportu, stworzenie nieautentycznego profilu jest proste oraz niskobudżetowe.

Najtaniej kupimy konto na Facebooku, nawet za jedynie 0,013 euro. Odrobinę droższe są konta na Twitterze, choć i tak musimy za nie zapłacić jedynie 0,06 euro. Co ciekawe, najdroższe okazały się fałszywe profile na rosyjskim VKontakte (ok. 0,25 euro za jedno).

Media społecznościowe rzadko wykrywają fałszywe profile

Zdaniem autorów, kolejnym ważnym rozwiązaniem ograniczającym kampanie dezinformacyjne jest identyfikowanie oraz blokowanie kont angażujących się w nieautentyczne aktywności.

Platformy takie jak Facebook, Instagram, TikTok i YouTube niemal nie usuwają nieautentycznych profilów. Na tym tle stosunkowo pozytywnie wypada Twitter, na którym fałszywe konta rozpadają się po ok. 25 dniach. W przypadku Facebooka mowa o 437 dniach.

Platformy (powoli) starają się usuwać fałszywą aktywność

Blokowanie fałszywych profilów to jedynie pierwszy krok do zatrzymania kampanii dezinformacyjnej. Konieczne jest jeszcze kontrolowanie publikowanych przez nie treści. Autorzy raportu sprawdzili, czy platformy usuwają spreparowane posty, komentarze i udostępnienia.

Nawet do 96 proc. fałszywej aktywności pozostaje niewykryta. Oznacza to, że gdybyśmy wykupili 1 000 fałszywych „lajków”, to po pewnym czasie najwyżej 40 z nich zostanie wycofanych.

Na wzmiankę zasługują dość duże postępy, których na tym polu dokonał TikTok. W porównaniu do poprzedniej edycji platforma przeskoczyła z ostatniego na pierwsze miejsce pod względem moderacji treści.

Koszt kampanii zależy od platformy

Oprócz nieautentycznych kont możemy wykupić także cały koszyk usług: spreparowane „lajki”, komentarze, wyświetlenia lub obserwujących. W raporcie wyceniono, jak wiele fałszywej aktywności można zakupić za 10 euro.

Źródło: NATO StratCom COE

Kampanie manipulacyjne są szybkie i intensywne

Fałszywe treści są po sfinalizowaniu transakcji publikowane dość szybko. Autorzy raportu stwierdzili, że nawet 77 proc. wykupionej przez nich nieautentycznej aktywności pojawiło się na platformach w ciągu 24 godzin. Ponadto pierwsze 20 proc. było dostępne już po godzinie.

Potwierdza to, że dzięki usługom internetowych oszustów, możliwe jest manipulowanie aktualnymi wydarzeniami „na żywo”. Najszybciej dezinformacja pojawia się na YouTube.

Platformy niewystarczająco reagują na zgłoszenia

Część z wykupionych nieautentycznych kont zgłoszono do zweryfikowania przez platformy. Niestety, zawiadomienia od pojedynczego użytkownika nie spotkały się z reakcją, nawet w sytuacji, gdy dany profil angażował się w promowanie manipulacji w sieci.

W ciągu 5 dni od zgłoszenia, z platform usunięte zostało jedynie od 1 do 10 proc. nieautentycznych kont. Najbardziej responsywny okazał się Facebook (10 proc. zidentyfikowanych profilów), a najmniej YouTube i VKontakte (0 proc.)

Zakres transparentności jest zróżnicowany

W ramach eksperymentu postanowiono sprawdzić, czy poszczególne platformy są transparentne w swojej walce z fałszywą aktywnością. Nie wszystkie platformy publikują informacje na ten temat, a dostęp udało się uzyskać jedynie do danych od TikToka, Facebooka, Twittera i YouTube’a.

Najwięcej informacji na ten temat publikuje TikTok, który pochwalił się, że w 2021 roku udało mu się powstrzymać 16,6 mld fałszywych polubień. Platforma udostępnia także informacje na temat usuniętych kont (1,7 mln) czy fałszywych obserwujących (231 mln).

Z drugiej strony, TikTok nie dzieli się raportami lub bazami danych na temat naruszania polityki dotyczącej nieuczciwej aktywności (inauthentic coordinated behaviour). Tymczasem Twitter i YouTube udostępniają dane w tym zakresie.

O dezinformację najłatwiej na Instagramie

Natomiast najbardziej pozytywnie wypowiedziano się na temat Twittera, który podejmuje skuteczne działania przeciw fałszywej aktywności na swojej platformie.

Z analizy wynika także, że – w porównaniu do poprzedniej edycji raportu – TikTok znacząco poprawił swoje praktyki i stara się coraz lepiej radzić z działalnością nieautentycznych kont.