Na łamach naszego portalu już w przeszłości wskazywaliśmy na potencjalne zagrożenia czyhające na TikToku. W innym artykule pisaliśmy, że na fałszywe informacje dotyczące wojny w Ukrainie da się tam natrafić w mniej niż godzinę od założenia konta. Z niedawnej analizy dowiesz się, jakie jeszcze fake newsy rozprzestrzeniają się na tej platformie.

Kolejnych powodów do czujności dostarcza niedawny raport amerykańskiego Centrum Przeciwdziałania Nienawiści w Sieci (CCDH). Okazuje się, że algorytmy TikToka aktywnie podsuwają nastolatkom groźne treści dotyczące zaburzeń odżywiania i samookaleczania się.

Niepokojące treści już chwilę po założeniu konta

W ramach eksperymentu analitycy Centrum Przeciwdziałania Nienawiści w Sieci (Center for Countering Digital Hate; CCDH) założyli kilka nowych kont na TikToku stylizowanych na profile trzynastolatków z czterech różnych państw. Eksperyment przeprowadzono jedynie na ośmiu kontach, ale wyniki stanowią dobry punkt wyjścia do dyskusji o niewystarczającej moderacji treści na platformie.

Analitycy używali TikToka przez 30 minut. Gdy natrafili na treści dotyczące zdrowia psychicznego, ciała i wagi, zaburzeń odżywiania lub samookaleczania oglądali je oraz dawali polubienie. Pozostałe filmy szybko pomijali. W ten sposób sygnalizowali, że dany profil jest zainteresowany takimi treściami (s. 10-11).

Przeanalizowane przez CCDH filmy znalezione pod hashtagami dotyczącymi zaburzeń odżywiania mogły zebrać ponad 13 mld wyświetleń (s. 37). Do konta, które weszło z nimi w interakcję, treści na temat wyglądu i wagi albo zdrowia psychicznego zaczęły być podrzucane nawet co 39 sekund.

Okaż zainteresowanie – algorytm wrzuci cię do odpowiedniej bańki

W ramach eksperymentu analitycy wchodzili w interakcję ze wspomnianymi treściami. Spowodowało to sprofilowanie ich konta i wejście głębiej w świat filmów na temat zaburzeń odżywiania lub samookaleczania (s. 19).

Raport przytacza obserwacje, według których do kont „zainteresowanych” zdrowiem psychicznym oraz wagą, zaczęły prędko trafiać filmiki na takie tematy jak próby samobójcze, metody samookaleczania się, brak pewności siebie ze względu na masę ciała, zaburzenia odżywiania (s. 20).

Po lewej: „Idę do szkoły po próbie (samobójczej)”. Po prawej: „Wideo nakręcone w łóżku szpitalnym. »Nawet nie jesteś taka gruba, dlaczego brakuje ci pewności siebie? Widzę rzeczy, których NIKT INNY nie widzi « otagowane #ed (zaburzenia odżywiania) #sh (samookaleczanie)”. Źródło: CCDH

Analitycy natrafili również na filmy pod hasłem „junkorexia”, stanowiącym połączenie słów „junk” (śmieciowe jedzenie) i „anorexia” (anoreksja). Pod tym nieformalnym pojęciem kryją się osoby anorektyczne i odżywiające się niezdrowym jedzeniem (s. 20).

Wrażliwe nastolatki są jeszcze bardziej zagrożone

Na potrzeby eksperymentu analitycy założyli cztery dodatkowe konta, aby zasymulować profil nastolatków szczególnie narażonych na treści dotyczące zaburzeń odżywiania. W tym celu w nazwę profilu wpleciono określenie „loseweight” (utrata wagi). Zainspirowali się w tym przypadku zjawiskiem faktycznie występującym na Instagramie, o czym można przeczytać w raporcie Reset Australia.

Okazuje się, że do tak sprofilowanych kont trafiało jeszcze więcej szkodliwych treści. W porównaniu do „neutralnych kont” z poprzedniego segmentu badania na profilach wrażliwych nastolatków filmy wyświetlały się średnio co minutę (s. 24).

Po lewej: „Nagranie użytkownika spuszczającego żyletki w toalecie w ramach próby powstrzymania się od samookaleczeń. Czytamy: »OSTRZEŻENIE«, »OSTATNIA PRÓBA«”. Po prawej: „Montaż zdjęć temperówek, żyletek i nożyczek. Podłożona piosenka zawiera słowa: »Jeden ostatni pocałunek. Kocham cię jak alkoholik«”. Źródło: CCDH

Oprócz tego nastolatki narażone na problemy z zaburzeniami odżywiania otrzymywały 3-krotnie więcej rekomendacji filmików na ten temat oraz 12-krotnie więcej filmików na temat samookaleczania i samobójstw (s. 24).

W ostatnich dziesięciu minutach półgodzinnego eksperymentu już nawet co czwarty filmik na koncie narażonego nastolatka stanowiły treści na temat zdrowia psychicznego, w tym zarówno prozdrowotne, jak i szkodliwe (s. 36).

Hashtagi skupiają osoby z zaburzeniami

Autorzy w podsumowaniu wyników swojego eksperymentu podkreślają, że na TikToku można znaleźć zarówno pożyteczne i zdrowe treści, jak i bardzo szkodliwe. Nie inaczej jest z zaburzeniami odżywiania.

Udało im się zidentyfikować nawet 56 hashtagów, pod którymi udostępniane są treści na ten temat, a zebrane pod nimi filmy zostały obejrzane łącznie 13 mld razy (s. 37).

Zdaniem autorów na 35 z tych hashtagów udostępniane filmy są w znacznej mierze szkodliwe i promują zaburzenia odżywiania, zachęcając do angażowania się w takie zachowania (s. 37), przykładowo poprzez udostępnianie zdjęć z hasłem „thinspiration”, stanowiącym połączenie słów „thin” (chuda) i „inspiration” (inspiracja); (s. 26).

TikTok ma problem z moderowaniem treści

Wśród materiałów oznaczonych kolejnymi 21 hashtagami znaleziono zarówno szkodliwe treści, jak i filmy promujące zdrowe nawyki i rozmowy na temat zwalczania zaburzeń odżywiania. Platforma jednak nie ingeruje w te treści, a jak czytamy w raporcie: „Żaden z tych hashtagów nie zawiera ostrzeżeń ani linków do pomocy i porad dla użytkowników zmagających się z zaburzeniami odżywiania” (s. 37).

Z podobnymi problemami w przeszłości mierzył się portal Tumblr, który według analiz był przepełniony treściami „pro-ana”, czyli zachęcającymi do anoreksji. Z podobnym problemem mierzył się również Instagram, o czym więcej dowiesz się z naszej analizy na temat „Facebook Files”.

Dotychczas TikTok wydał poradnik dot. dobrostanu psychicznego dla swoich użytkowników oraz realizuje projekt Młode Głowy, czyli badanie zdrowia psychicznego polskiej młodzieży.

Osoby z anoreksją potrzebują wsparcia

CCDH podkreśla, że celem ich eksperymentu nie była krytyka twórców treści udostępnianych na TikToku. Anoreksja jest poważnym problemem, a osoby z zaburzeniami odżywiania potrzebują profesjonalnego wsparcia w pokonaniu tej choroby. Zdaniem autorów raportu to na samej platformie spoczywa odpowiedzialność za rozpowszechnianie szkodliwych treści (s. 6).

Jeżeli podejrzewasz anoreksję u siebie lub kogoś bliskiego – zareaguj! Warto udać się w tej sprawie do specjalisty, np. do lekarza psychiatry, który zaoferuje pomoc. Więcej porad znajdziesz na stronie pacjent.gov.pl.

Zdrowie psychiczne jest równie ważne jak zdrowie fizyczne. Więcej na ten temat dowiesz się z naszej analizy na temat mitów o zdrowiu psychicznym.

Jeśli podejrzewasz u siebie depresję, nie lekceważ tego. Pomoc znajdziesz tutaj:

Stowarzyszenie Aktywnie Przeciwko Depresji prowadzi działalność społeczno-edukacyjną w zakresie profilaktyki, wykrywania i leczenia zaburzeń psychicznych, a w szczególności zaburzeń depresyjnych. Kontakt do stowarzyszenia znajdziesz na stronie www.depresja.org.

Forum Przeciw Depresji – portal społecznościowy prowadzony w ramach ogólnopolskiej kampanii, na którym możesz znaleźć kompendium wiedzy w zakresie depresji, w tym informacje o tym, gdzie szukać pomocy. Strona obejmuje również forum moderowane przez lekarzy specjalistów, na którym osoby chore oraz ich bliscy mogą uzyskać wsparcie www.forumprzeciwdepresji.pl.

Fundacja Itaka prowadzi Antydepresyjny Telefon Zaufania (numer: 22 484 88 01) oraz udziela szerokiego wsparcia osobom chorującym na depresję i ich najbliższym. Informacje na temat wsparcia, którego udziela fundacja, znajdziesz na stronie www.stopdepresji.pl.

Fundacja Dajemy Dzieciom Siłę oferuje bezpłatną pomoc telefoniczną i online dla dzieci i młodzieży oraz dla rodziców i nauczycieli poprzez prowadzenie Telefonu Zaufania dla Dzieci i Młodzieży (116 111) i Telefonu dla Rodziców i Nauczycieli w sprawie Bezpieczeństwa Dzieci (800 100 100), gdzie młodzi obywatele mają możliwość opowiedzenia o swoich kłopotach, a ich najbliżsi – uzyskania informacji i wsparcia w trudnościach wynikających z zaburzeń depresyjnych dostrzeżonych u dzieci. Więcej informacji i kontakt online przez stronę www.116111.pl oraz www.800100100.pl.