Zasady zasadami, ale jeśli jesteś dzieckiem zainteresowanym grami wideo, prędzej czy później YouTube zaproponuje ci obejrzenie filmu o prawdziwej broni czy przemocy z jej użyciem. Oficjalnie platforma zakazuje tego typu treści lub nakłada na nie ograniczenia wiekowe. Jak jest w praktyce? Można się o tym przekonać, poznając wyniki badania przeprowadzonego przez Tech Transparency Project.

Tylko filmy o grach – jak przebiegało badanie?

Badacze utworzyli w serwisie YouTube konta testowe i zarejestrowali je jako dziewięcioletni i czternastoletni chłopcy (po dwa konta w każdym wieku). Profile młodszych użytkowników zostały założone w ramach usługi YouTube Kids i połączone z „kontami rodziców”, zgodnie z regulaminem platformy (minimalny wiek na założenie własnego konta wynosi 13 lat).

Następnie przy użyciu tych profili oglądano listy odtwarzania składające się wyłącznie z nagrań przedstawiających gry wideo. Dorosły badacz wcielający się rolę dziecka wyświetlał listę co najmniej 100 filmów z grami. Wśród nagrań prezentowanych kontu dziewięciolatka znalazły się te dotyczące gier takich jak: Among Us, Lego Star Wars i Five Nights at Freddy’s. Były to m.in. następujące materiały:

• LEGO Star Wars: The Skywalker Saga – Lightsaber Combat Gameplay (dostępny tutaj),
• The Most Insane 900 IQ Among Us Outplay! (dostępny tutaj),
• i finally did it…. | Five Nights At Freddy’s (FNAF) Part 1 (dostępny tutaj).

Z kolei profile utworzone jako konta czternastolatków odtwarzały filmy z gier np. Grand Theft Auto, Halo Infinite i Red Dead Redemption. Na liście nagrań znalazły się m.in.:

• Halo Infinite Season 2 LAST SPARTAN STANDING Gameplay 4K (dostępny tutaj),
• GTA 5 vs. FAR CRY 6 | Ultimate Face-Off 🔥(dostępne tutaj),
• GoldenEye 007 – N64 Gameplay (dostępny tutaj).

Badacze przyjrzeli się filmom zaproponowanym testowym profilom przez algorytmy YouTube’a. Gdy zakończono oglądanie list odtwarzania materiałów z grami, badacze monitorowali i rejestrowali filmy polecane przez platformę, które pojawiały się na stronie głównej każdego użytkownika przez 30 dni. Dwa konta angażowały się w polecenia platformy i oglądały to, co polecały algorytmy, pozostałe dwa nie podążały za rekomendacjami serwisu. 

Wyniki badania – czyli jak rekomendacje na YouTubie działają w praktyce?

Wyniki badania Tech Transparency Project wskazują, że YouTube poleca filmy na temat prawdziwej broni kontom dzieci i nastolatków zainteresowanych grami wideo. Algorytm platformy prowadzi młodych widzów zainteresowanych filmikami związanymi z grami wideo do nagrań przedstawiających:

• używanie prawdziwej broni,
• instrukcje, jak ją modyfikować i ulepszać,
• sceny przemocy z wykorzystaniem broni oraz przedstawienie, jakie szkody może ona wyrządzić ludzkiemu ciału,
• strzelaniny, w tym te rozgrywające się w szkołach.

Znacznie większe natężenie tego typu rekomendacji ma miejsce w przypadku kont, które kliknęły polecane przez platformę treści. Innymi słowy, jeśli dziecko wykazywało zainteresowanie tego typu materiałami, algorytm polecał ich więcej.

Przykłady? Na koncie dziewięciolatka znalazła się rekomendacja filmu ukazującego kilkuletnią dziewczynkę strzelającą z pistoletu SIG Sauer M18. Na kanale, na którym opublikowano wideo, znajduje się znacznie więcej materiałów przedstawiających dziecko bawiące się bronią (np. 1, 2, 3). YouTube podpowiedział też profilom dzieci i nastolatków, by obejrzeć nagranie przedstawiające celowanie z karabinu w głowę manekina wypełnioną sztuczną krwią, która rozbryzguje się po trafieniu, ku uciesze bohaterów film (czas nagrania 14:44).

Źródło: www.youtube.com

Strzelaniny w szkołach

Wiele z materiałów rekomendowanych dzieciom i nastolatkom przez YouTube prezentowało sceny strzelanin. Część z nich odbywała się na terenie szkoły.

YouTube podpowiedział chłopcom zainteresowanym grami wideo materiał przedstawiający scenę z filmu „Słoń”, opowiadającego o masakrze w szkole w USA. Film nawiązywał do wydarzeń z 1999 roku w Columbine High School, gdzie miała miejsce strzelanina, w wyniku której życie straciło 13 osób. 

Omawiane wideo nie jest już dostępne, co może świadczyć o działaniach YouTube’a po opublikowaniu raportu z badania.

Na uwagę zasługuje też rekomendacja materiału będącego fragmentem odcinka serialu pt. „19-2”, który wedle amerykańskich standardów otrzymał kategorię wiekową TV-MA. Oznacza to, że jest przeznaczony wyłącznie dla dojrzałych widzów i może być nieodpowiedni dla osób poniżej 17. roku życia”. Na nagraniu widać starcie napastnika z policją, podczas gdy na podłodze leżą ciała postrzelonych osób (czas nagrania 07:04).

Instrukcje używania broni

Wśród filmów rekomendowanych czternastolatkom znalazło się też nagranie zawierające nazwę broni, w którego opisie widnieje link do sklepu internetowego, gdzie można ją zakupić. Podobnie ma to miejsce w przypadku innego polecanego nastolatkom wideo z kanału ImprovedgunsDotCom (jego nazwa jest równocześnie adresem strony, gdzie sprzedaje się broń).

Algorytm YouTube’a podpowiadał chłopcom zainteresowanym grami również materiał pokazujący, jak używać pistoletu Glock wraz z instruktażem, jak przerobić go na broń samoczynną. Wprawdzie omawiane wideo nie jest już dostępne, jednak jego twórca opublikował podobne materiały, które wciąż można oglądać (pokazują np. jak naprawić broń). 

Opowieść o seryjnym mordercy

YouTube rekomendował dzieciom i nastolatkom także film o życiu seryjnego mordercy, Jeffreya Dahmera, który pozbawił życia 17 osób. Polecany przez platformę materiał pt. „My Friend Dahmer” dotyczy młodych lat przestępcy, zanim ten zaczął zabijać. 

Chcąc obejrzeć film, otrzymujemy informację, że może on być „nieodpowiedni dla niektórych użytkowników” z powodu treści „przeznaczonych dla pełnoletnich odbiorców”. Podczas badania Tech Transparency Project przy filmie widniała inna informacja – kilka miesięcy temu był on zaklasyfikowany do kategorii TV-PG, co oznacza materiał, który rodzice mogą uznać za nieodpowiedni dla najmłodszych, jednak starsze dzieci mogą go obejrzeć.

Źródło: www.youtube.com

USA nałożyły sankcje, YouTube nie nałożył ograniczeń wiekowych

Wśród proponowanych nastolatkom filmów znalazły się również materiały z oficjalnego kanału Kalashnikov Group. To rosyjski producent broni, na którego w 2014 roku rząd USA nałożył sankcje w związku z aneksją Krymu i próbami destabilizacji wschodniej Ukrainy.

Konto nie jest obecnie dostępne na YouTubie (stan na lipiec 2023 roku). Jednak – jak wynika z informacji dostępnych na stronie SPEAKRJ, audytora mediów społecznościowych – kanał Kalashnikov Group czerpał zyski z filmów zamieszczonych na platformie jeszcze w 2023 roku, po pełnoskalowej inwazji Rosji na Ukrainę.

Regulamin – czyli jak to powinno wyglądać w teorii?

Jak wskazują autorzy badania, wiele z proponowanych dzieciom i nastolatkom filmów narusza regulamin YouTube’a. Zgodnie z zasadami platformy:

Podobnie wygląda sytuacja z materiałami „mającymi na celu sprzedaż broni palnej” i „instruowanie widzów, jak wytwarzać broń palną, amunicję”. Są one – zgodnie z zasadami – niedozwolone. Warto również podkreślić, że regulamin YouTube’a zakazuje brutalnych treści, gdy widz nie ma dostępu do wystarczającego kontekstu pozwalającego zrozumieć, że materiał jest „udramatyzowany lub fikcyjny”. 

Jeśli chodzi o ochronę dzieci i młodzieży, platforma zakazuje publikacji treści:

• prezentujących szkodliwe lub niebezpieczne działania z udziałem nieletnich (przedstawiających dziecko biorące udział w niebezpiecznych czynnościach lub zachęcających nieletnich do wykonywania takich działań),
• zadających cierpienie emocjonalne nieletnim (narażających dzieci na dojrzałe tematy, symulujących przemoc rodzicielską, ukazujących zmuszanie nieletnich lub przemoc),
• wprowadzających w błąd przez przedstawienie jako materiały dozwolone dla nieletnich (treści prezentowane jako skierowane do dzieci, ale zawierające motywy seksualne, przemoc, obsceniczne sceny itd.),
• o charakterze jednoznacznie seksualnym z udziałem nieletnich,
• zawierających cyberprzemoc (ujawnianie danych osobowych, nagrywanie bez zgody itd.).

YouTube zastrzega sobie możliwość nałożenia ograniczenia wiekowego na film, który jest niestosowny dla nieletnich użytkowników (poniżej 18. roku życia). Jednym z powodów takiego obostrzenia może być to, że materiał „przedstawia osoby dorosłe biorące udział w niebezpiecznych czynnościach, które nieletni mogą z łatwością naśladować”. Jako takie aktywności wskazano „obchodzenie się z materiałami wybuchowymi lub wyzwania powodujące obrażenia ciała”.

Algorytm YouTube’a ma na celu utrzymanie użytkowników jak najdłużej – służy temu radykalizacja treści

Jak podkreśla w wywiadzie z analityczką Demagoga Wiolettą Myszkowską Max Fisher, dziennikarz The News York Times i autor książek, YouTube rekomenduje użytkownikom coraz bardziej kontrowersyjne treści na interesujące ich tematy, by jak najdłużej utrzymać ich na platformie. Potwierdzają to badania (np. 1, 2, 3, 4).

Dziennikarz podkreśla, że algorytm YouTube’a jest w tym kontekście szczególnie niebezpieczny i „robi najmniej w celu zminimalizowania szkody”. 

Podsumowanie – dziurawe zasady YouTube’a

YouTube przekonuje, że system rekomendacji jest bezpieczny. Jak twierdzi Cristos Goodrow, wiceprezes ds. inżynierii, rekomendacje odgrywają ważną rolę w utrzymywaniu „odpowiedzialnej platformy”. „Łączą widzów z wysokiej jakości informacjami i minimalizują szanse, że zobaczą problematyczne treści” – przekazuje Goodrow. Brzmi to optymistycznie, ale nieprawdziwie.

Również z innych badań wynika, że system rekomendacji YouTube’a może ułatwiać użytkownikom dotarcie do problematycznych, niebezpiecznych treści. Jest to szczególnie istotne ze względu na to, że pozostaje on w czołówce platform, z których internauci czerpią wiedzę o świecie (s. 13).