Podejście TikToka do treści AI

Na początku września zwracaliśmy uwagę, że treści wygenerowane za pomocą sztucznej inteligencji (AI) powoli zadomowiają się w debacie politycznej. Jednym z mediów, na którym prężnie pojawiają się deepfake’i popularnych polityków jest TikTok.

Zasady społeczności TikToka zezwalają na publikowanie niektórych treści AI pod warunkiem, że są one odpowiednio oznaczone, np. za pomocą hasztagu. Niedozwolone są natomiast deepfake’i osób prywatnych.

Nieco bardziej liberalne zasady obowiązują w przypadku deepfake’ów osób publicznych. TikTok dopuszcza je, jeżeli nie stanowią one formy poparcia (np. dla partii politycznej lub dla innego celu) lub nie naruszają innych zasad platformy (np. dotyczących mowy nienawiści).

TikTok wprowadza etykietę

We wrześniu apelowaliśmy do platform społecznościowych, aby wprowadziły rozwiązania, które ułatwią użytkownikom oznaczanie treści AI, dzięki czemu będą one lepiej widoczne (hasztag nie jest wystarczający). TikTok pod koniec września zdecydował się na wdrożenie specjalnej etykiety „Twórca oznaczył jako treść wygenerowaną przez AI”.

Deepfake Jarosława Kaczyńskiego oznaczony etykietę przez twórcę. Na nagraniu prezes PiS mówił w języku niemieckim.

Pozytywnie należy więc ocenić komunikat TikToka zapowiadający rozpoczęcie testów nad automatycznym narzędziem wykrywającym treści wygenerowane przez sztuczną inteligencję. Niestety, pomimo zapowiedzi wciąż na platformie można znaleźć nagrania nieposiadające oznaczenia. 

Duże zasięgi treści wygenerowanych przez AI

I nie chodzi wcale w tym przypadku o treści niszowe. Przykładowe nagranie z zeszłego tygodnia, w którym Andrzej Duda stanowczo podkreśla: „If you wanna be president, you have to be tough” (tłum. Jeśli masz być prezydentem, musisz być twardy), uzyskało ponad 800 tys. wyświetleń. To fragment wywiadu, którego prezydent udzielił portalowi wPolsce.pl w maju 2021 roku.

W tym tiktoku nie byłoby nic dziwnego, gdyby nie fakt, że prezydent wypowiadał się w nim po angielsku, podczas gdy wywiad został udzielony w języku polskim. Dla niewtajemniczonych, mówiąc dyplomatycznie, Andrzej Duda nie jest osobą mówiącą płynnie w języku angielskim, a w internecie krążą memy, w których głowa państwa ma problemy, aby skonstruować zdanie w tym języku.

Tymczasem we wspomnianym tiktoku Andrzej Duda mówi stosunkowo szybko i płynnie. Do przetłumaczenia wypowiedzi prezydenta na język obcy prawdopodobnie użyto jednego z generatorów mowy opartych na AI. Z części komentarzy można wywnioskować, że niektóre osoby nie zdały sobie sprawy, że zobaczyły deepfake’a. Jeden z nich zyskał ponad 3 tys. polubień: „pewnie uczył się tego jednego tekstu cały rok xD” – napisała jedna z użytkowniczek.

Treści AI bez oznaczeń etykietą

Filmik z Andrzejem Dudą nie jest jedynym przykładem popularnego tiktoka bez stosownej etykiety. 1,4 mln wyświetleń zyskał film z końca października, w którym deepfake’i polityków pojawiają się na losowych spotkaniach na Zoomie. 

@mlody1sarmataa [Link do całego filmu w bio] #kaczyński #politycy #młodysarmata #zoom #śmieszne #dc ♬ dźwięk oryginalny – Młody Sarmata

Etykiety nie ma także nagranie, w którym deepfake Jarosława Kaczyńskiego używa wulgaryzmów i wyzywa Donalda Tuska. Można się pokusić także o stwierdzenie, że materiał, który zyskał ponad 2 mln wyświetleń, jest niezgodny ze standardami społeczności TikToka.

@goralx790 Kaczyński – Tam Tusk był u mnie w socjoterapeutycznym #dc #polska #dlaciebie #foryoupage #foryoupageofficiall #przeróbka #pis #śmieszne #ytp #trend #fypシ #kaczyński #wybory2023 #wybory #tusk #rafonix #ai #deepfake #polityka ♬ oryginalny dźwięk – goralx79 – goralx79

Co więcej, na TikToku istnieją kanały, które zamieszczają niemal wyłącznie treści AI. O ile są takie, które stosują etykietę oznaczającą treści AI (np. @starpar), tak są również takie, które jej nie nakładają (np. @ozyrysek).

TikTok potrzebuje efektywniejszej moderacji

Decyzja TikToka dotycząca wprowadzenia etykiety pozwalającej oznaczać treści AI stanowi krok we właściwym kierunku. Należy mieć nadzieję, że TikTok zacznie samodzielnie oznaczać treści wygenerowane przez sztuczną inteligencję przy pomocy testowanego narzędzia.

Jednak jeszcze bez niego zespół moderacyjny TikToka mógłby już samodzielnie oznaczać treści wygenerowane przez AI. Nawet jeśli są to tylko materiały humorystyczne. Satyra również może zmienić się w dezinformację, o czym więcej przeczytasz tutaj.

TikTok dysponuje kadrą posługującą się językiem polskim w liczbie powyżej 200 osób, która jest odpowiedzialna za moderowanie treści. To więcej niż serwisy X (zaledwie 1 osoba) czy Facebook (65 osób). Problemem pozostaje więc nie liczebność kadry, a efektywniejsze zarządzanie zasobami.

Od października 2023 roku jesteśmy członkiem Programu fact-checkingowego TikToka. Jesteśmy w pełni niezależni. Wyłączna odpowiedzialność merytoryczna za publikowane przez nas analizy spoczywa na zespole redakcji portalu demagog.org.pl.