Strona główna Analizy Rekomendacje YouTube’a dla dzieci – broń, strzelaniny i mordercy

Rekomendacje YouTube’a dla dzieci – broń, strzelaniny i mordercy

Przyglądamy się raportowi z badania przeprowadzonego przez Tech Transparency Project.

Rekomendacje YouTube’a dla dzieci – broń, strzelaniny i mordercy

Fot. Nordwood Themes / Unsplash / Modyfikacje: Demagog

Rekomendacje YouTube’a dla dzieci – broń, strzelaniny i mordercy

Przyglądamy się raportowi z badania przeprowadzonego przez Tech Transparency Project.

Zasady zasadami, ale jeśli jesteś dzieckiem zainteresowanym grami wideo, prędzej czy później YouTube zaproponuje ci obejrzenie filmu o prawdziwej broni czy przemocy z jej użyciem. Oficjalnie platforma zakazuje tego typu treści lub nakłada na nie ograniczenia wiekowe. Jak jest w praktyce? Można się o tym przekonać, poznając wyniki badania przeprowadzonego przez Tech Transparency Project.

Tylko filmy o grach – jak przebiegało badanie?

Badacze utworzyli w serwisie YouTube konta testowe i zarejestrowali je jako dziewięcioletni i czternastoletni chłopcy (po dwa konta w każdym wieku). Profile młodszych użytkowników zostały założone w ramach usługi YouTube Kids i połączone z „kontami rodziców”, zgodnie z regulaminem platformy (minimalny wiek na założenie własnego konta wynosi 13 lat).

Następnie przy użyciu tych profili oglądano listy odtwarzania składające się wyłącznie z nagrań przedstawiających gry wideo. Dorosły badacz wcielający się rolę dziecka wyświetlał listę co najmniej 100 filmów z grami. Wśród nagrań prezentowanych kontu dziewięciolatka znalazły się te dotyczące gier takich jak: Among Us, Lego Star WarsFive Nights at Freddy’s. Były to m.in. następujące materiały:

Z kolei profile utworzone jako konta czternastolatków odtwarzały filmy z gier np. Grand Theft Auto, Halo InfiniteRed Dead Redemption. Na liście nagrań znalazły się m.in.:

Są to wyłącznie materiały prezentujące gry wideo, nie zaś prawdziwą broń i realną przemoc w rzeczywistym świecie.

Badacze przyjrzeli się filmom zaproponowanym testowym profilom przez algorytmy YouTube’a. Gdy zakończono oglądanie list odtwarzania materiałów z grami, badacze monitorowali i rejestrowali filmy polecane przez platformę, które pojawiały się na stronie głównej każdego użytkownika przez 30 dni. Dwa konta angażowały się w polecenia platformy i oglądały to, co polecały algorytmy, pozostałe dwa nie podążały za rekomendacjami serwisu. 

Wyniki badania – czyli jak rekomendacje na YouTubie działają w praktyce?

Wyniki badania Tech Transparency Project wskazują, że YouTube poleca filmy na temat prawdziwej broni kontom dzieci i nastolatków zainteresowanych grami wideo. Algorytm platformy prowadzi młodych widzów zainteresowanych filmikami związanymi z grami wideo do nagrań przedstawiających:

  • używanie prawdziwej broni,
  • instrukcje, jak ją modyfikować i ulepszać,
  • sceny przemocy z wykorzystaniem broni oraz przedstawienie, jakie szkody może ona wyrządzić ludzkiemu ciału,
  • strzelaniny, w tym te rozgrywające się w szkołach.

Znacznie większe natężenie tego typu rekomendacji ma miejsce w przypadku kont, które kliknęły polecane przez platformę treści. Innymi słowy, jeśli dziecko wykazywało zainteresowanie tego typu materiałami, algorytm polecał ich więcej.

W ciągu 30 dni YouTube rekomendował użytkownikowi zarejestrowanemu jako dziewięciolatek średnio 12 filmów przedstawiających prawdziwą broń palną dziennie (mowa o koncie, które podążało za poleceniami). Z kolei na profilu czternastolatka polecano średnio 44 takie materiały na dzień.

Przykłady? Na koncie dziewięciolatka znalazła się rekomendacja filmu ukazującego kilkuletnią dziewczynkę strzelającą z pistoletu SIG Sauer M18. Na kanale, na którym opublikowano wideo, znajduje się znacznie więcej materiałów przedstawiających dziecko bawiące się bronią (np. 1, 2, 3). YouTube podpowiedział też profilom dzieci i nastolatków, by obejrzeć nagranie przedstawiające celowanie z karabinu w głowę manekina wypełnioną sztuczną krwią, która rozbryzguje się po trafieniu, ku uciesze bohaterów film (czas nagrania 14:44).

Zrzut ekranu filmu na YouTubie. Widoczna jest kilkuletnia dziewczynka trzymająca w dłoni pistolet.

Źródło: www.youtube.com

Strzelaniny w szkołach

Wiele z materiałów rekomendowanych dzieciom i nastolatkom przez YouTube prezentowało sceny strzelanin. Część z nich odbywała się na terenie szkoły.

YouTube podpowiedział chłopcom zainteresowanym grami wideo materiał przedstawiający scenę z filmu „Słoń”, opowiadającego o masakrze w szkole w USA. Film nawiązywał do wydarzeń z 1999 roku w Columbine High School, gdzie miała miejsce strzelanina, w wyniku której życie straciło 13 osób

Do sceny przemocy w wideo zamieszczonym na YouTubie dołączono tło muzyczne w postaci piosenki „Pumped Up Kicks” grupy Foster the People. Jej tekst opowiada o nastolatku, który wyobraża sobie strzelanie do rówieśników. Refren utworu brzmi: „Wszystkie dzieciaki w wypasionych trampkach, lepiej biegnijcie, lepiej biegnijcie. Uciekajcie przed moją spluwą. Wszystkie dzieciaki w wypasionych trampkach, lepiej biegnijcie. Lepiej biegnijcie, szybciej niż mój pocisk”.

Omawiane wideo nie jest już dostępne, co może świadczyć o działaniach YouTube’a po opublikowaniu raportu z badania.

Na uwagę zasługuje też rekomendacja materiału będącego fragmentem odcinka serialu pt. „19-2”, który wedle amerykańskich standardów otrzymał kategorię wiekową TV-MA. Oznacza to, że jest przeznaczony wyłącznie dla dojrzałych widzów i może być nieodpowiedni dla osób poniżej 17. roku życia”. Na nagraniu widać starcie napastnika z policją, podczas gdy na podłodze leżą ciała postrzelonych osób (czas nagrania 07:04).

Instrukcje używania broni

Wśród filmów rekomendowanych czternastolatkom znalazło się też nagranie zawierające nazwę broni, w którego opisie widnieje link do sklepu internetowego, gdzie można ją zakupić. Podobnie ma to miejsce w przypadku innego polecanego nastolatkom wideokanału ImprovedgunsDotCom (jego nazwa jest równocześnie adresem strony, gdzie sprzedaje się broń).

Algorytm YouTube’a podpowiadał chłopcom zainteresowanym grami również materiał pokazujący, jak używać pistoletu Glock wraz z instruktażem, jak przerobić go na broń samoczynną. Wprawdzie omawiane wideo nie jest już dostępne, jednak jego twórca opublikował podobne materiały, które wciąż można oglądać (pokazują np. jak naprawić broń). 

Wyniki badania wskazują także, że jednym ze sposobów obejścia zasad panujących na platformie jest zamieszczenie informacji, że materiał służy celom edukacyjnym. To zresztą sposób na „oszukanie” regulaminów także innych stron, np. generatorów grafik korzystających ze sztucznej inteligencji.

Opowieść o seryjnym mordercy

YouTube rekomendował dzieciom i nastolatkom także film o życiu seryjnego mordercyJeffreya Dahmera, który pozbawił życia 17 osób. Polecany przez platformę materiał pt. „My Friend Dahmer” dotyczy młodych lat przestępcy, zanim ten zaczął zabijać. 

Chcąc obejrzeć film, otrzymujemy informację, że może on być „nieodpowiedni dla niektórych użytkowników” z powodu treści „przeznaczonych dla pełnoletnich odbiorców”. Podczas badania Tech Transparency Project przy filmie widniała inna informacja – kilka miesięcy temu był on zaklasyfikowany do kategorii TV-PG, co oznacza materiał, który rodzice mogą uznać za nieodpowiedni dla najmłodszych, jednak starsze dzieci mogą go obejrzeć.

Zrzut ekranu filmu „My Friend Dahmer” na Youtubie. Widoczny jest napis o treści: „Film może być nieodpowiedni dla niektórych użytkowników. Żądany film otrzymał ocenę Unrated i może zawierać treści przeznaczone dla pełnoletnich odbiorców”.

Źródło: www.youtube.com

USA nałożyły sankcje, YouTube nie nałożył ograniczeń wiekowych

Wśród proponowanych nastolatkom filmów znalazły się również materiały z oficjalnego kanału Kalashnikov Group. To rosyjski producent broni, na którego w 2014 roku rząd USA nałożył sankcje w związku z aneksją Krymu i próbami destabilizacji wschodniej Ukrainy.

Konto nie jest obecnie dostępne na YouTubie (stan na lipiec 2023 roku). Jednak – jak wynika z informacji dostępnych na stronie SPEAKRJ, audytora mediów społecznościowych – kanał Kalashnikov Group czerpał zyski z filmów zamieszczonych na platformie jeszcze w 2023 roku, po pełnoskalowej inwazji Rosji na Ukrainę.

Regulamin – czyli jak to powinno wyglądać w teorii?

Jak wskazują autorzy badania, wiele z proponowanych dzieciom i nastolatkom filmów narusza regulamin YouTube’a. Zgodnie z zasadami platformy:

Przemoc lub brutalne, krwawe treści, których celem jest zaszokowanie lub zniesmaczenie widzów, a także treści zachęcające innych do popełniania aktów przemocy są niedozwolone”.

Zasady dotyczące treści brutalnych lub drastycznych na YouTubie

Podobnie wygląda sytuacja z materiałami „mającymi na celu sprzedaż broni palnej” i „instruowanie widzów, jak wytwarzać broń palną, amunicję”. Są one – zgodnie z zasadaminiedozwolone. Warto również podkreślić, że regulamin YouTube’a zakazuje brutalnych treści, gdy widz nie ma dostępu do wystarczającego kontekstu pozwalającego zrozumieć, że materiał jest „udramatyzowany lub fikcyjny”. 

Jeśli chodzi o ochronę dzieci i młodzieży, platforma zakazuje publikacji treści:

  • prezentujących szkodliwe lub niebezpieczne działania z udziałem nieletnich (przedstawiających dziecko biorące udział w niebezpiecznych czynnościach lub zachęcających nieletnich do wykonywania takich działań),
  • zadających cierpienie emocjonalne nieletnim (narażających dzieci na dojrzałe tematy, symulujących przemoc rodzicielską, ukazujących zmuszanie nieletnich lub przemoc),
  • wprowadzających w błąd przez przedstawienie jako materiały dozwolone dla nieletnich (treści prezentowane jako skierowane do dzieci, ale zawierające motywy seksualne, przemoc, obsceniczne sceny itd.),
  • o charakterze jednoznacznie seksualnym z udziałem nieletnich,
  • zawierających cyberprzemoc (ujawnianie danych osobowych, nagrywanie bez zgody itd.).

YouTube zastrzega sobie możliwość nałożenia ograniczenia wiekowego na film, który jest niestosowny dla nieletnich użytkowników (poniżej 18. roku życia). Jednym z powodów takiego obostrzenia może być to, że materiał „przedstawia osoby dorosłe biorące udział w niebezpiecznych czynnościach, które nieletni mogą z łatwością naśladować”. Jako takie aktywności wskazano „obchodzenie się z materiałami wybuchowymi lub wyzwania powodujące obrażenia ciała”.

Algorytm YouTube’a ma na celu utrzymanie użytkowników jak najdłużej – służy temu radykalizacja treści

Jak podkreśla w wywiadzie z analityczką Demagoga Wiolettą Myszkowską Max Fisher, dziennikarz The News York Times i autor książek, YouTube rekomenduje użytkownikom coraz bardziej kontrowersyjne treści na interesujące ich tematy, by jak najdłużej utrzymać ich na platformie. Potwierdzają to badania (np. 1, 2, 3, 4).

„Algorytmy zawsze będą Cię popychać do oglądania ekstremalnych i coraz bardziej emocjonalnych treści. Do wizji świata, która jest bardziej czarno-biała. Że ci drudzy są źli i nie ma już dla nich ratunku. Do zajmowania coraz bardziej radykalnego stanowiska”.

Max FisherwywiadzieWiolettą Myszkowską, analityczką Demagoga

Dziennikarz podkreśla, że algorytm YouTube’a jest w tym kontekście szczególnie niebezpieczny i „robi najmniej w celu zminimalizowania szkody”. 

Podsumowanie – dziurawe zasady YouTube’a

YouTube przekonuje, że system rekomendacji jest bezpieczny. Jak twierdzi Cristos Goodrow, wiceprezes ds. inżynierii, rekomendacje odgrywają ważną rolę w utrzymywaniu „odpowiedzialnej platformy”. „Łączą widzów z wysokiej jakości informacjami i minimalizują szanse, że zobaczą problematyczne treści” – przekazuje Goodrow. Brzmi to optymistycznie, ale nieprawdziwie.

badania Tech Transparency Project wynika, że system rekomendacji na YouTubie jest daleki od idealnego. Filmy polecane dzieciom i nastolatkom zawierają nieodpowiednie dla nich treści, które niejednokrotnie naruszają regulamin samej platformy.

Również z innych badań wynika, że system rekomendacji YouTube’a może ułatwiać użytkownikom dotarcie do problematycznych, niebezpiecznych treści. Jest to szczególnie istotne ze względu na to, że pozostaje on w czołówce platform, z których internauci czerpią wiedzę o świecie (s. 13).

Wspieraj niezależność!

Wpłać darowiznę i pomóż nam walczyć z dezinformacją, rosyjską propagandą i fake newsami.

*Jeśli znajdziesz błąd, zaznacz go i wciśnij Ctrl + Enter

Pomóż nam sprawdzać, czy politycy mówią prawdę.

Nie moglibyśmy kontrolować polityków, gdyby nie Twoje wsparcie.

Wpłać

Dowiedz się, jak radzić sobie z dezinformacją w sieci

Poznaj przydatne narzędzia na naszej platformie edukacyjnej

Sprawdź!