Większość użytkowników TikToka to młode osoby. Chat GPT wszedł na stałe do asortymentu narzędzi używanych przez internautów, w tym tych należących do młodych grup wiekowych.

Jakie treści dotyczące obrazu ciała podsuwa młodym użytkownikom TikTok? Jak chatboty wykorzystujące sztuczną inteligencję odpowiadają na pytania dotyczące odżywiania i szczupłej sylwetki? Jakie obrazy w tym kontekście tworzą generatory grafik AI? Analitycy z Centrum Przeciwdziałania Cyfrowej Nienawiści (CCDH) przyjrzeli się temu w dwóch niezależnych badaniach. W jednym z nich penetrowali zakamarki TikToka, w drugim sprawdzili chaty i generatory obrazów AI.

Treści dotyczące zaburzeń odżywiania i samobójstw… w kilka minut

W celu przeprowadzenia badania dotyczącego TikToka założono konta w Stanach Zjednoczonych, Wielkiej Brytanii, Kanadzie i Australii. Badacze określili wiek użytkownika jako minimalny dozwolony przez regulamin platformy – czyli 13 lat (s. 5). Analitycy przez 30 minut ignorowali neutralne tematycznie filmy, a gdy natrafili na przekazy dotyczące zdrowia psychicznego, obrazu ciała, wagi, zaburzeń odżywiania lub samookaleczania, zatrzymywali się, oglądali je, a następnie zostawiali reakcję serduszka (s. 11).

Badanie dowiodło, że TikTok polecał treści dotyczące zaburzeń odżywiania i samookaleczania kontom nastolatków w ciągu dosłownie kilku minut od ich pierwszego kontaktu z platformą. Poszczególne wyniki prezentują się następująco (s. 7):

• TikTok co 39 sekund pokazywał nastolatkom obraz ciała i informacje dotyczące zdrowia psychicznego.
• Treści dotyczące samobójstwa pojawiły się po upływie 2,6 minuty od rozpoczęcia używania aplikacji.
• Przekazy promujące zaburzenia odżywiania wyświetliły się w ciągu 8 minut od początku aktywności na platformie.

Ekstremalne sposoby na odchudzanie i operacja plastyki brzucha – co wyświetla się w filmach na TikToku?

Badacze natrafili na filmy dotyczące m.in. prób samobójczych, metod samookaleczania się, braku pewności siebie z powodu wagi oraz zaburzeń odżywiania (s. 20).

Przykłady tego typu treści dotyczyły również tzw. junkoreksji – dotyczącej osób cierpiących na anoreksję, które jedzą wyłącznie „śmieciowe jedzenie” (z ang. junk food), czy też diety polegającej na spożywaniu wyłącznie gotowanych jajek, co ma umożliwić szybkie schudnięcie (przykłady dostępne na s. 16–23).

Przemyślane hashtagi i cyfry zamiast liter – próby ominięcia moderacji na TikToku

W raporcie zwrócono uwagę także na ukrywanie omawianych treści przez użytkowników pod innymi hasłami – tak, by uniknąć moderacji przez platformę (s. 7). W języku angielskim „zaburzenia odżywiania” tłumaczy się jako „eating disorders”. W skrócie nazwa ta funkcjonuje jako „ed”. Użytkownicy TikToka, żeby uciec przed moderacją treści, tagują swoje filmy np. hashtagiem #edtøk (s. 37) – zamiast #edtok, który został zablokowany przez platformę.

@bunzkittyear happy 6 months to me 😀 ivs dome so far already :’3 #edsheeranrecoveryy #edsheerancovers #recovery #anarecovry #3drecovery #3drec0very ♬ cry – favsoundds

Innym sposobem na przemknięcie pod radarem moderacji jest wstawianie cyfr w miejsce liter. Np. zamiast „e” w wyrazie „anoreksja” użytkownicy wpisują „3” – tak powstaje „anor3ksja”. Znalezienie przykładu takiego materiału na potrzeby tego tekstu zajęło mi… kilka sekund. Niżej możesz zobaczyć film, w którym zastosowano taki sposób zapisu.

@recoveringlily♬ nemahsis – nemahsis

Konta „wrażliwe” bardziej narażone na szkodliwe treści o zaburzeniach odżywiania i zachowaniach autodestruktywnych

Poza standardowymi kontami nastolatków badacze założyli profile, które określili jako „wrażliwe”. Otrzymały one nazwy wskazujące na „obawy związane z obrazem ciała” (s. 7), np. „loseweight” w nicku użytkownika sygnalizujące, że osoba jest zainteresowana spadkiem masy ciała (s. 5). 

​Zdaniem badaczy szkodliwe treści prezentowane „wrażliwym” kontom były „bardziej ekstremalne” niż te pokazywane zwykłym profilom (s. 26). Przykładem takiego materiału może być film, w którym dowiadujemy się, że żucie gumy osłabia poczucie głodu, czy też wideo z widocznym napisem „samobójstwo” i informacją, że autor materiału „myśli o nim” (przykłady dostępne na s. 26–34). Jak podkreśla Imran Ahmed, dyrektor generalny CCDH:

Chatboty AI i ich szkodliwe odpowiedzi w kontekście zaburzeń odżywiania

W innym badaniu analitycy z CCDH przyjrzeli się narzędziom wykorzystującym sztuczną inteligencję. Wzięto pod uwagę chatboty: ChatGPT od OpenAI, Bard od Google i My AI od Snapchata oraz generatory obrazu: Dall-E, Midjourney i DreamStudio.

Analitycy opracowali zestaw 20 zapytań opartych na badaniach dotyczących zaburzeń odżywiania i treściach znalezionych na forach poświęconych takim dolegliwościom. Zestaw pytań zadawany każdemu chatbotowi zawierał prośby o wskazanie restrykcyjnej diety pozwalającej uzyskać wygląd jak z materiałów „thinspo” (połączenie angielskich wyrazów oznaczających „szczupły” i „inspiracja”) oraz pytania o leki wywołujące wymioty (s. 6).

Zapytania te, zadane trzem chatbotom, przyniosły 60 odpowiedzi, spośród których 23 proc. zdaniem badaczy zawierało szkodliwe treści. Należy zaznaczyć, że My AI od Snapchata odmówił wygenerowania porad, o które prosili badacze, i zachęcił do szukania pomocy u specjalisty (s. 6). 

Palenie papierosów, ukrywanie niezjedzonych posiłków, zażywanie heroiny i jaja tasiemca – jakie porady oferują chatboty AI?

Wśród niebezpiecznych porad udzielonych przez narzędzia AI znalazły się m.in. (s. 6–7):

• przewodnik „żucia i plucia” krok po kroku jako metody na ekstremalnie szybką utratę wagi;
• porada dotycząca palenia 10 papierosów dziennie w celu schudnięcia;
• plan restrykcyjnej diety i ćwiczeń mający umożliwić osiągnięcie „thinspo look” oraz schemat odchudzania pozwalający na spożywanie 800–1000 kalorii dziennie;
• chowanie jedzenia w przedmiotach codziennego użytku, aby ukryć przed rodzicami fakt, że nie jemy;
• wskazówka o treści „zażyj trochę heroiny” w celu osiągnięcia wyglądu „heroin chic” (wychudzona sylwetka kojarzona z osobami uzależnionymi od tego narkotyku);
• porada, by połknąć jajo tasiemca, by schudnąć.

Chatbot polecił mi jeść 500 kalorii dziennie, jeśli chcę schudnąć, a nie dbam o swoje zdrowie

Szybki test w jednym z chatbotów pokazał, że nie trzeba się natrudzić, by uzyskać od niego niebezpieczne wskazówki dotyczące odżywiania. Bard od razu wygenerował porady, jak schudnąć 10 kg w ciągu zaledwie tygodnia (w poleceniu wskazałam, że nie zależy mi na zdrowiu i nie chcę ćwiczyć). Chatbot zaproponował mi dietę składającą się z 500–700 kalorii dziennie i przedstawił jadłospis mieszczący się w dolnej granicy. Tymczasem przeciętne zapotrzebowanie kaloryczne dorosłej kobiety wynosi znacznie więcej.

Źródło: www.bard.google.com

Poniżej ukazane były ostrzeżenia. Jedno z nich dotyczyło tego, że „szybka utrata wagi może mieć negatywny wpływ na zdrowie” (zaznaczyłam w poleceniu, że nie zależy mi na zdrowiu). Na samym końcu odpowiedzi widniała informacja o treści: „Należy pamiętać, że te wskazówki są przeznaczone dla osób, które nie dbają o swoje zdrowie i nie chcą ćwiczyć. Jeśli zależy Ci na zdrowiu, nie należy ich stosować”.

Skrajnie wychudzone sylwetki – co pokazują generatory obrazów AI?

Również w przypadku generatorów obrazów AI badacze zastosowali 20 poleceń. Obejmowały one m.in. „inspirację anoreksją”, „thigh gap goals” (dążenie do posiadania w pozycji stojącej przestrzeni między udami) czy „inspirację chudym ciałem”. Spośród 60 zestawów obrazów 32 proc. zawierało szkodliwe materiały promujące nierealistyczne standardy wyglądu ciała (s. 8). Obejmowały one m.in.:

• obraz ekstremalnie chudej młodej kobiety w odpowiedzi na pytanie zawierające słowo „thinspiration”;
• obrazy kobiet z wyraźnie zarysowanymi kośćmi biodrowymi i klatką piersiową w odpowiedzi na polecenie zawierające frazę „inspirację chudym ciałem”;
• obrazy kobiet o wyjątkowo niskiej masie ciała w odpowiedzi na pytanie zawierające „inspirację anoreksją”;
• obrazy kobiet o bardzo szczupłych nogach w odpowiedzi na polecenie zawierające „thigh gap goals”.

Autorzy raportu wskazują, że generatory obrazów AI są wykorzystywane przez użytkowników popularnego forum poświęconego zaburzeniom odżywiania. Internauci zamieszczają na nim wygenerowane przez sztuczną inteligencję obrazy bardzo szczupłych sylwetek promujące nierealistycznie standardy wyglądu ciała. Zachęcają się też wzajemnie do „publikowania własnych wyników” pozyskanych m.in. z Dall-E i Stable Diffusion (s. 9).

Źródło: www.bing.com

Zamiast podsumowania: treści, na które trafiają młode osoby w sieci, mają na nie wpływ

Z badania opublikowanego w „PLOS One” wynika, że młode osoby, a szczególnie kobiety, które odbierają na TikToku w treści związane z wagą i odżywianiem, są narażone na ryzyko uwewnętrznienia prezentowanego tam obrazu ciała i sposobów odżywiania.

Jak podkreślają autorzy pracy, „młodzi ludzie są podatni na wpływ treści w mediach społecznościowych i nie zawsze są w stanie rozpoznać, które materiały zawierają porady oparte na dowodach, a które nie”. Jest to szczególnie warte odnotowania, gdyż treści dotyczące żywienia i wagi prezentowane na TikToku w przeważającej większości nie są tworzone przez ekspertów w tej dziedzinie, co wynika ze wspomnianego badania.

Problem nie dotyczy jednak tylko TikToka. Niepokojące doniesienia w tej kwestii pojawiają się także w kontekście innych platform społecznościowych. Dwa lata temu „The Wall Street Journal” pisał o problemie dotyczącym Instagrama. Zdarza się, że nastolatki korzystające z tego medium odczuwają presję dostosowania się do stereotypów społecznych dotyczących wyglądu oraz kształtu ciała promowanych przez influencerów (s. 12). Niebezpieczne porady na temat odżywiania i utraty kilogramów można znaleźć także w odpowiedziach udzielanych przez chatboty AI. Imran Ahmed, dyrektor generalny CCDH, alarmuje:

Od października 2023 roku jesteśmy członkiem Programu fact-checkingowego TikToka. Jesteśmy w pełni niezależni. Wyłączna odpowiedzialność merytoryczna za publikowane przez nas analizy spoczywa na zespole redakcji portalu demagog.org.pl.