Sztuczna inteligencja a media społecznościowe

Sztuczna inteligencja (Artificial Intelligence, AI) może być rozumiana jako maszyny, które przewidują, automatyzują i optymalizują zadania w sposób, który naśladuje ludzką inteligencję, natomiast algorytmy uczenia maszynowego (Machine Learning, ML), jako podzbiór AI, wykorzystujący statystykę do identyfikacji wzorców w danych. Obecnie platformy internetowe wykorzystują narzędzia AI i ML do moderowania i klasyfikowania treści, które widzimy w sieci.

Wiele z tych narzędzi zaprojektowanych jest w celu maksymalizowania trafności prezentowanych treści, a także wzmożonej aktywności wśród użytkowników. Platformy społeczne twierdzą, że przez dostarczanie spersonalizowanych treści użytkownikom podnoszą jakość ich doświadczeń. Z drugiej strony działanie te mogą również wzmacniać szkody w życiu wirtualnym i realnym, ponieważ wiele rodzajów szkodliwych treści, w tym mowa nienawiści i przemoc, osiągają wysokie zasięgi i dużą aktywność.

Na przykład algorytmy dostarczające reklamy mogą przesyłać ogłoszenia o pracę w zawodach tradycyjnie zdominowanych przez mężczyzn, takich jak lekarze lub inżynierowie, tylko do mężczyzn poszukujących pracy. W rezultacie kobiety mogą zostać wykluczone z możliwości zapoznania się z ofertami mimo posiadania odpowiednich kwalifikacji. Dzieje się tak, ponieważ algorytm dostarczania ogłoszeń opiera swoją strategię optymalizacji na danych o danym użytkowniku w połączeniu z aktualnymi i historycznymi danymi na temat osób poszukujących pracy, co może prowadzić do dyskryminacji w danej profesji ze względu na płeć. 

Walka z dezinformacją

Podczas gdy systemy rankingowe i rekomendacyjne mogą dostarczać użytkownikom odpowiednie treści, tak wiele z tych systemów jest zaprojektowanych w celu optymalizacji pod kątem zaangażowania i aktywności w mediach społecznościowych, co wiąże się z tym, że szkodliwe treści mogą również ulec wzmocnieniu. W związku z tym wiele platform zaczęło stosować techniki rankingu algorytmicznego, aby ograniczyć rozprzestrzenianie się treści wprowadzających w błąd.

Na przykład, gdy fałszywa treść na Facebooku jest zweryfikowana i obalona przez jednego z partnerów w ramach współpracy fact-checkingowej, post dostaje etykietę ostrzegawczą, a algorytm ogranicza zasięgi jego rozpowszechnianie w kanałach informacyjnych użytkowników (downranking). Jednak metody takie jak downranking nadal umożliwiają wprowadzanie szkodliwych wiadomości, co oznacza, że użytkownicy nadal mogą mieć do nich dostęp i możliwość ich udostępniania. 

Według wyników badań z 2018 roku, opublikowanych w czasopiśmie „Science”, fałszywe informacje miały o 70 proc. większe szanse na ich udostępnienie (retweet) niż wiadomości prawdziwe, więc sam algorytmiczny downranking może nie być wystarczający do powstrzymania rozprzestrzeniania szkodliwych i wprowadzających w błąd informacji.

Obecnie większość firm z branży mediów społecznościowych angażuje się w moderowanie treści w postaci ich tagowania, przeglądania i czytania. Firmy polegają na połączeniu sił ludzkich moderatorów oraz narzędzi opartych na AI. Giganci technologiczni (Big Tech) zazwyczaj wdrażają narzędzia oparte na AI i ML na dwóch etapach procesu moderacji: premoderacji i postmoderacji. 

Podczas etapu wstępnego sprawdzane jest, czy użytkownik napisał post zawierający błędne informacje. Jeśli tak, to narzędzia mogłyby oznaczyć treść jako naruszenie i uniemożliwić użytkownikowi jego opublikowanie. Takie podejście najlepiej sprawdza się, gdy kategorie treści są jasno zdefiniowane, dlatego że zautomatyzowane narzędzia często nie są w stanie dokładnie ocenić kontekstu.

Na etapie postmoderacji moderowana jest już opublikowana treść. Na przykład, jeśli użytkownik udostępnił wpis zawierający błędne informacje, a inny użytkownik lub zautomatyzowane narzędzie oflagowały go jako potencjalne naruszenie polityki platformy, treść mogłaby zostać skierowana do sprawdzenia przez ludzkiego moderatora lub automatycznie usunięta.

Wykorzystanie AI i narzędzi opartych na ML do identyfikacji i usuwania dezinformacji w sieci ma pewne zalety. Najbardziej oczywistą korzyścią są oszczędności, ponieważ pozwala to na przeniesienie pracy związanej z moderowaniem treści z ludzi na systemy zautomatyzowane.

Jeśli jednak w projektowaniu narzędzi opartych na sztucznej inteligencji uwzględnione zostaną uprzedzenia lub treści stronnicze, może prowadzić to do wzmocnienia szkodliwych treści. Zautomatyzowane systemy uczą się podejmować decyzje na podstawie danych szkoleniowych, a te z kolei są często reprezentatywne dla społecznych i instytucjonalnych nierówności, zatem mogą mieć wpływ na ludzkie uprzedzenia.

Biorąc pod uwagę ograniczenia narzędzi do moderacji treści opartych na AI i ML, najlepszą formą kontroli treści online jest połączenie automatów i oceny ludzkiego operatora. Zmniejszony nadzór ze strony człowieka zwiększa ryzyko błędów, co może skutkować wzmocnieniem treści o znamionach dezinformacyjnych.

Artykuł powstał w ramach projektu „Fakty w debacie publicznej”, realizowanego z dotacji programu „Aktywni Obywatele – Fundusz Krajowy”, finansowanego z Funduszy EOG.