Jak media społecznościowe wypadają pod względem przeciwdziałania manipulacji?

W 2022 roku NATO StratCom COE przeprowadził eksperyment. Celem było przetestowanie firm z branży mediów społecznościowych pod kątem identyfikowania, wykrywania i usuwania manipulujących treści na ich stronach.

Ocenie zostały poddane: Facebook, Instagram, Twitter, YouTube, TikTok i VKontakte. Do przeprowadzenia badania skorzystano z oferty firm dostarczających usługi manipulacyjne w sieci.

Z ubiegłorocznego raportu wynikało, że przeprowadzenie kampanii dezinformacyjnej na platformach społecznościowych jest łatwe, tanie i szybkie. Najłatwiejszy do zmanipulowania okazał się Instagram. Jak sytuacja zmieniła się w ciągu roku?

Kampania dezinformacyjna już za 170 euro

Kampanie dezinformacyjne są wykorzystywane przez osoby, których celem jest manipulowanie wynikami wyborów, zwiększanie polaryzacji społecznej, wpływanie na opinię publiczną, nasilanie sporów politycznych lub silny wpływ na rynek komercyjny.

Ceny fałszywych kont się wahają, ale są niskie

Jeśli chodzi o przeciwdziałanie tworzeniu fałszywych kont, Facebook radzi sobie najlepiej na tle pozostałych mediów społecznościowych. Najgorzej pod tym względem wypadły Instagram i VKontakte.

Sytuacja ta wskazuje na brak wewnętrznej koordynacji między dwiema platformami firmy Meta. Facebook blokował niektóre próby tworzenia fałszywych kont, podczas gdy Instagram akceptował te same fałszywe dane osobowe wykorzystane do tworzenia profili (s. 5).

Usuwanych jest mniej fałszywych kont niż rok wcześniej

Procent usuwanych wszystkich zidentyfikowanych fałszywych kont spadł do 16 proc. (z poziomu 25 proc. w ostatnim badaniu). Jednocześnie niemal na każdej platformie odsetek usuwanych kont zmalał. Wyjątkami był TikTok i YouTube. Pomimo tego tylko na TikToku sytuacja uległa polepszeniu z 2 proc. w 2021 roku do 12 proc. w 2022 roku.

Największą liczbę fałszywych kont usunął VKontakte (50 proc.), a na drugim miejscu był Twitter (26 proc.). Obydwie platformy zaliczyły jednak znaczny spadek w porównaniu z rokiem poprzednim – odpowiednio z poziomu 71 proc. i 55 proc.

Od czasu, kiedy Elon Musk został właścicielem Twittera, zmieniono politykę weryfikacji kont na tej platformie. Obecnie wystarczy zapłacić, aby dostać oznaczenie zweryfikowanego konta. Utrudnia to weryfikację wiarygodności kont, a co za tym idzie, może ułatwiać szerzenie dezinformacji na platformie.

Większość fałszywej aktywności wciąż jest dostępna po 4 tygodniach

Usuwanie fałszywych kont to jeszcze nie wszystko. Równie istotne jest usuwanie fałszywego zaangażowania powielanego przez te konta. Fałszywe zaangażowanie to komentarze, „lajki” i udostępnienia służące do wypromowania danego tematu, wywołane przez wykupione konta.

„Usuwanie nieautentycznej aktywności to proces identyfikowania i usuwania fałszywego zaangażowania publikowanego na platformie. Im szybciej nieautentyczna aktywność zostanie usunięta, tym mniejszy jest wpływ na konwersacje w mediach społecznościowych, ponieważ mniej osób miało szansę wejść z nim w interakcję”.

Koszty kampanii dezinformacyjnej nie są wysokie

Wskaźnik kosztów manipulacji obrazuje, jak skutecznie platformy radzą sobie w zwalczaniu zmanipulowanych treści. W skrócie: im bardziej wzrosną koszty manipulacji, tym lepiej dana platforma radzi sobie ze zwalczaniem tych treści.

Obecnie najdrożej pod tym względem wypada Facebook, a za nim – Twitter. Jednocześnie zauważalny jest spadek wskaźnika dla YouTube’a, którego cena obecnie jest ok. 3 razy niższa niż w 2018 roku. Manipulacja szerzona w mediach społecznościowych nadal pozostaje tania.

Większość fałszywej aktywności jest dostarczana w ciągu doby

W badanym okresie aż 89 proc. wszystkich zmanipulowanych aktywności zostało dostarczonych w ciągu 24 godzin od zamówienia. Niestety ten odsetek wzrósł w porównaniu do poprzednich lat. Jeszcze w 2020 roku było to 60 proc.

Tylko Twitterowi udało się wprowadzić rozwiązania, dzięki którym zamówione manipulujące treści dostawały się wolniej na platformę. Osiągnięto poziom mniej niż 50 proc. w ciągu pierwszych 12 godzin.

Platformy nie radzą sobie z usuwaniem zgłoszonych kont

Najnowszy raport sugeruje również, że zmniejszyła się liczba zraportowanych fałszywych kont, które zostały usunięte. Facebook, który najlepiej radził sobie pod tym kątem, usunął zaledwie 3 proc. tych kont. YouTube i Twitter nie usunęły żadnego ze zraportowanych przez eksperymentatorów kont.

Swego rodzaju opieszałość w usuwaniu tych kont wynika m.in. z tego, że platformy zwykle czekają, aż konta zostaną zgłoszone za złe zachowanie odpowiednią ilość razy.

W celu zweryfikowania, czy platformy radzą sobie lepiej w dłuższych horyzontach czasowych, sięgnięto po konta zgłoszone w ramach ubiegłorocznego badania. Jak się okazało znaczna większość kont pozostała nadal online.

Skala problemu jest ciężka do oceny przez niską transparentność

W ostatnim wydaniu raportu nie zaobserwowano znacznej poprawy w transparentności platform. Spośród wszystkich najlepiej wypadł TikTok. Przykładowo: na tej platformie usunięto 33 mln fałszywych kont, a dodatkowo zapobiegnięto lub usunięto 26 mld fałszywych zaangażowań (s. 12).

Twitter nie aktualizował tych danych od grudnia 2021 roku. Meta ponownie wykazuje różne standardy między swoimi platformami – dostarcza dane pokazujące transparentność jedynie dla Facebooka. Z kolei YouTube zgłasza liczbę filmów usuniętych za naruszenie zasad dotyczących dezinformacji, ale gorzej wypada w przypadku danych związanych z nieautentycznym zaangażowaniem.

Ile warta jest branża zajmująca się szerzeniem manipulacji w mediach społecznościowych?

Dostępne dane nie pozwalają na precyzyjne określenie ekonomiki manipulacji w social mediach. Mimo tego, na podstawie danych udostępnionych przez TikToka o usunięciu 1,4 mld fałszywych obserwujących, można szacować, ile te konta były warte. StratCom ocenił, że miały one wartość 1,9 mln euro (s. 14).

Całkowita sprzedaż fałszywych obserwujących jest prawdopodobnie znacznie większa. Przeprowadzony eksperyment zdaje się to potwierdzać. Wskazuje bowiem, że jedynie 5 proc. fałszywych kont zostało usuniętych w ciągu 4 tygodni.

Należy pamiętać, że fałszywi obserwujący na TikToku to jedynie niewielki wycinek usług manipulacji dostępnych do zakupienia. Ten czynnik oraz brak wystarczających danych w innych serwisach uniemożliwia dokładne oszacowanie problemu.

Fałszywe konta promują celebrytów, ale też oszustwa i rosyjską propagandę

Sprawdzono również, z jakimi innymi treściami konta użyte przez StratCom wchodziły w interakcję. Na niektórych platformach, takich jak YouTube i TikTok, dostęp do wystarczających danych był trudny, a widoczne były tylko konta używane do umieszczania komentarzy.

Na Instagramie niektóre konta rozpowszechniały treści pornograficzne, a inne reklamowały usługi manipulacyjne w mediach społecznościowych. Na Instagramie, VKontakte i TikToku konta promowały również sprzedawców luksusowych towarów i suplementów diety, które mogły być podrabiane (s. 15).

Na VKontakte zaobserwowano największy odsetek treści politycznych, głównie prokremlowskich i propagujących wojnę (s. 16). Na TikToku większość wzmacnianych treści politycznych pochodziła od rosyjskich influencerów, w tym treści gloryfikujące rosyjskie wojsko. Na YouTubie konta systematycznie promowały informacje o bieżących wydarzeniach, historii i wojnie, podpadające pod kremlowską narrację.