W lipcowym wydaniu miesięcznika „Misinformation Monitor” NewsGuard – firma zapewniająca narzędzia do przeciwdziałania dezinformacji – opisał fałszywe informacje o dziewięciu znanych markach, rozpowszechnione na TikToku.

Algorytm TikToka jest bardzo skuteczny w podpowiadaniu (w zakładce „Dla Ciebie”) filmików dopasowanych na podstawie poprzednich interakcji oraz kont, które użytkownik obserwuje. To samo dzieje się przy użyciu wyszukiwarki w aplikacji.

Dlatego NewsGuard założył na TikToku nowe konto, aby algorytmy nie zakłóciły wyników badania. Do wyszukiwarki TikToka wpisano nazwy dziewięciu marek, o których krążyły fałszywe informacje. Każdy wpis do wyszukiwarki sugeruje 20 najlepszych wyników.

NewsGuard śledzi materiały o „satanistycznym Targecie” 

NewsGuard natrafił w ten sposób na materiały, w których padały zarzuty wobec amerykańskiej sieci sklepów Target. Satanistyczne symbole i postacie z diabolicznymi twarzami miały pojawić się w sklepach amerykańskiej sieci. Filmiki na TikToku nasilały niepokój i aurę kontrowersji, aby skłonić kupujących do bojkotu.

Według ustaleń NewsGuarda wszystkie wyniki zawierające frazy „bojkot” i „kontrowersja” prowadziły do filmów zawierających fałszywe informacje. 12 z 20 takich filmików pojawiło się przy wpisaniu wyrażenia „satanizm Balenciaga” – był to najwyższy wynik.

Wciąż wiele materiałów narusza jasne zasady TikToka

TikTok nie jest przeciwny używaniu sztucznej inteligencji do celów kreatywnych w filmach użytkowników. Zgodnie z zasadami platformy przy publikacji takiego filmiku należy zaznaczyć, że zawiera on treści niezgodne z rzeczywistością. 

NewsGuard podaje w swojej analizie, że żaden z 520 filmów nie był oznaczony jako „generowany sztucznie”, „nieprawdziwy” czy „edytowany”. Jeden film zawierał logo grupy w serwisie Reddit, która publikuje obrazy wygenerowane za pomocą programu Midjourney. W odpowiedzi na zapytanie NewsGuarda rzecznik TikToka uznał, że jest to zgodne z ich polityką oznaczania materiałów wygenerowanych przez AI. 

TikTok prezentuje dane na temat usuniętych treści

Kwartalne sprawozdanie dotyczące egzekwowania „Zasad Społeczności” TikToka podaje, że od stycznia do marca br. zostało usuniętych 0,6 proc. opublikowanych filmów. Daje to łącznie nieco ponad 91 mln filmików na całym świecie.

Zaledwie 1 proc. tych materiałów naruszało „Zasady Społeczności” zawarte w dziale „Rzetelność i Autentyczność”. Dział ten reguluje m.in. wykorzystywanie w materiałach sztucznej inteligencji. 57 proc. filmów usuniętych w ramach polityki „Rzetelności i Autentyczności” zawierało szkodliwe informacje wprowadzające w błąd.

Jak szybko TikTok skutecznie usuwa fałszywe treści?

W ostatnim kwartalnym sprawozdaniu TikToka możemy przeczytać, że z materiałów usuniętych od stycznia do marca 2023 roku 89,9 proc. zdjęto z platformy w ciągu 24 godzin od ich opublikowania. Jednocześnie prawie 40 proc. materiałów zawierających fałszywe informacje było obecnych na TikToku przez ponad 1 dzień.

Eksperyment przeprowadzony pod koniec zeszłego roku przez GlobalWitness sprawdził skuteczność mechanizmów walki ze szkodliwymi materiałami nie tylko na TikToku, lecz także na YouTubie i na Facebooku. Za pomocą konta testowego opublikowano posty w formie reklam z błędnymi informacjami na temat wyborów w USA w 2020 roku. Mimo że TikTok nie zezwala na reklamy o tematyce politycznej, to aż 90 proc. tych publikacji z fałszami nie zostało zablokowanych przez system.

Sztuczna inteligencja zwiększa ilość fałszu w internecie

Sztuczna inteligencja może służyć do rozpowszechniania fałszywych informacji. Spowodowała też, że fałszywe informacje mogą być przekonujące, przez co internautom jest coraz trudniej odróżnić fakty od nieprawdy.

Timothy Shoup z Copenhagen Institute for Future Studies przewiduje, że do 2030 roku aż 99 proc. treści umieszczonych w internecie będzie wykreowanych przez sztuczną inteligencję.

Profesor Uniwersytetu Waszyngtońskiego Kate Starbird powiedziała Axios, że sztuczna inteligencja jest tanim i łatwym narzędziem do tworzenia fałszywych informacji. „Zatruwanie” źródeł, z których sztuczna inteligencja pobiera dane, jest jednym ze sposobów manipulacji informacjami. AI powiela nieprawdziwe informacje na podstawie danych, które wprowadzi człowiek.

Ty też możesz walczyć z fałszywymi informacjami

Gdy platformy wciąż mają problemy ze zwalczaniem fałszywych informacji, sami możemy bronić się przed nimi poprzez rozwijanie umiejętności do krytycznego myślenia. Dwa lata temu Stowarzyszenie Demagog stworzyło edukacyjną grę Fajnie, że wiesz!, która pomaga internautom odróżniać fakty od fałszu.