Ofiarą nowego sposobu na obejście moderacji na TikToku padła m.in. młoda raperka Bambi – pod nagraniami z jej występów pojawiły się wulgarne komentarze. Co prawda, nie znajdziemy ich na oficjalnym profilu wokalistki. 

Komentarze są zamieszczane pod nagraniami udostępnionymi przez jej fanów. Chociaż są w języku polskim, to dodawane są do nich treści, które nie są zapisane w alfabecie łacińskim.

Źródło: TikTok, 20.08.2024

Wysyp podobnych komentarzy zawierających mowę nienawiści znajdziemy także pod nagraniem z Marszu Równości w Krakowie. Jak się okazuje, problem nie dotyczy tylko Polski. Na komentarze „ze szlaczkami” można natrafić np. pod kilkunastosekundowym materiałem wideo z Paryża. Komentujący prezentują rasistowskie i homofobiczne opinie, niekiedy wprost nawołują do przemocy. 

Jak to się stało, że wpisy nie zostały usunięte i jakiego języka używają komentujący? Te pytania zaczynają zadawać użytkownicy TikToka z Polski.

„O co chodzi z tymi znaczkami?”

Na wykorzystanie języka amharskiego przez użytkowników Tik Toka zwróciła uwagę redaktorka naczelna portalu o języku, językoznawczyni i antropolożka, która tłumaczy, czym są „dziwne znaczki w obraźliwych komentarzach”.

„Algorytmy i różne systemy służące do monitorowania takich treści, niestety przepuszczają takie komentarze, które zawierają to pismo, bo po prostu nie radzą sobie z rozkodowaniem” – tłumaczy.

@o.jezyku Znaczki, które coraz częściej pojawiają się w komentarzach na platformach społecznościowych, to pismo etiopskie (ge’ez). Niestety używa się ich do unikania banów i moderacji mowy nienawiści Pismo to jest używane do zapisu kilku języków, w tym amharskiego, tigrinia, tigre i innych języków Etiopii i Erytrei. Amharski to język urzędowy Etiopii, używany przez ok. 32mln ludzi jako pierwszy język (jeśli dodać osoby, które znają go jako drugi, wyjdzie nawet 60mln). Jest to język semicki, spokrewniony z arabskim i hebrajskim. Choć amharski dzieli korzenie z innymi językami semickimi, różni się m.in. kierunkiem zapisu i strukturą pisma. W amharskim każda litera reprezentuje sylabę, a nie tylko spółgłoskę. Oto kilka podstawowych słów w amharskim: ሰላም (selam) – pokój/cześć, አመሰግናለሁ (ameseginallehu) – dziękuję, ቤት (bet) – dom, ፍቅር (fikir) – miłość. Jeśli ktoś zna języki semickie, zauważy podobieństwa. 😉 #językiobce #język #Amharski #Etiopia #komentarze #ciekawostka #Polska ♬ Apple – Charli xcx

W komentarzach w języku amharskim użytkownicy często piszą, że dana osoba używa metody, dzięki której może skomentować treści na TikToku jak tylko jej się podoba i to bez żadnych konsekwencji. Zdarza się jednak, że użytkownicy po prostu kopiują przypadkowe znaki, które nic nie znaczą. W języku amharskim zamieszczane są także nienawistne komentarze.

Źródło: TikTok, 25.07.2024

Komentarze pod jednym z nagrań prezentujących Marsz Równości w Krakowie. W sekcji komentarzy można napotkać na nienawistne komentarze w języku polskim dotyczące uczestników marszu. Jednocześnie w języku amharskim komentujący obrażają osoby czarne.

TikTok nie komentuje

12 września zwróciliśmy się do TikToka z prośbą o komentarz w tej sprawie. Spytaliśmy, czy zauważono ten problem i w jaki sposób próbuje się go rozwiązać. Chcieliśmy również wiedzieć, czy rzeczywiście użycie języka amharskiego powoduje, że algorytmy nie wyłapują wulgarnych komentarzy.

Niestety do tej pory nie otrzymaliśmy odpowiedzi. Użytkownicy TikToka na pewno mogą zgłaszać tego typu komentarze, co sami również zrobiliśmy. Niektóre z nich zostały dzięki temu usunięte. TikTok oficjalnie odcina się od mowy nienawiści i podkreśla, że nie ma na nią miejsca na platformie.

Na stronie TikToka czytamy:

Informacja zamieszczona w Centrum Bezpieczeństwa TikToka

Automatyzacja moderacji treści ma swoje wady

Rozwiązania technologiczne mają swoje wady i zalety. Narzędzia do automatycznej moderacji treści zmagają się z problemem interpretacji kontekstu i to nawet w przypadku powszechnie używanych języków, jak np. angielskiego. 

Zdarza się więc, że treści, które nie powinny budzić zastrzeżeń, znajdują się na celowniku algorytmów i odwrotnie: te, które powinny zostać sprawdzone, pozostają poza zasięgiem algorytmów. 

Z problemem tym może mierzyć się TikTok, który w dużej mierze opiera moderacje treści na jej automatyzacji.

Amharski jako „przeklęty język”

Gdy Donald Trump w 2020 roku ogłosił, że ma COVID-19, media społecznościowe zalała fala nietypowych komentarzy, które zwróciły uwagę dziennikarzy. Użytkownicy mediów społecznościowych publikowali tekst w języku amharskim i dodawali do tego grafiki, które miały być przerażające, chociaż czasami były raczej prześmiewcze. 

Treść była zazwyczaj swoistą klątwą lub creepypastą, czyli krótką i straszną historią, mającą wzbudzić strach w czytelnikach, rozpowszechnianą w sieci przez internautów. Zazwyczaj pisano coś o demonach, grzesznej duszy i bliskim końcu. 

Jak pisała dziennikarka Morgan Sung, jest to forma trollingu. „Nie przejmuj się – możesz nie znać tego języka, ale nie jest on »zły « tylko dlatego, że go nie rozpoznajesz” – wyjaśniała czytelnikom. Jak dodaje, ponieważ alfabet amharski jest tak różny od tego znanego przez świat zachodni, stał się copypastą.

Urażone są tym osoby, które posługują się amharskim. – To ogromny brak szacunku, nie tylko dla Etiopczyków, lecz także dla wszystkich osób, które posługują się tym językiem. Język amharski jest piękny i używanie go jako języka „przeklętego” jest dla osób mówiących nim po prostu obrzydliwe – tłumaczyła jedna z użytkowniczek TikToka.

Od mowy nienawiści do przemocy

Bez wątpienia używanie alfabetu amharskiego w celu rozpowszechniania nienawistnych komentarzy czy zaśmiecania debaty publicznej, jest czymś nagannym w oczach Etiopczyków i przedstawicieli innych narodowości posługujących się tym językiem. Jednak niepokojące jest także to, że w ten sposób ułatwia się mowę nienawiści w sieci, m.in. wymierzoną w mniejszości społeczne.

Zgodnie z tzw. skalą lub piramidą nienawiści Gordona Allporta, niechęć wobec obcej grupy społecznej ma pięć stadiów: słowny brak akceptacji (jak np. mowa nienawiści), unikanie, dyskryminacja, ataki fizyczne i eksterminacja (s. 45). Allport chciał pokazać, jak jedne działania – wrogie wobec danej grupy – mogą eskalować.

Choć sam przyznał, że często jest tak, że niechęć wobec danej grupy zatrzymuje się na pierwszym poziomie i nie przechodzi wyżej, to prawdą jest, że aktywność na jednym poziomie ułatwia przejście na wyższy poziom nienawiści (s. 46).