STOA zleciło badanie polegające na przeanalizowaniu kontekstu społecznego, technicznego i prawnego w celu opracowania wytycznych do kodeksu usług cyfrowych (Digital Service Act), kodeksu o sztucznej inteligencji (Artificial Intelligence Act) oraz rozporządzenia ogólnego o ochronie danych osobowych (General Data Protection Regulation). Z proponowanymi regulacjami można zapoznać się w notatce Komisji Europejskiej.

Raport naświetla kluczowe cechy technologii deepfake. Zakres zastosowań deepfake’ów jest szeroki, podobnie jak ich zasięg oddziaływania. Mogą być wykorzystywane w produkcji mediów, interakcji człowiek-maszyna, wideokonferencjach, znajdować zastosowanie w nowatorskich działaniach medycznych (np. tworzenie głosu) czy sprzyjać kreatywnym rozwiązaniom. Niestety mają one również wysoki potencjał nadużyć. Szeroki zakres szkodliwych oddziaływań można podzielić na trzy kategorie: psychologiczne, społeczne i finansowe.

Psychologiczne: 

• szantaż seksualny (niefizyczne formy przymusu w celu wyłudzenia od ofiary przysługi seksualnej, np. poprzez groźby ujawnienia zdjęć lub prywatnych materiałów),
• zniesławienie, 
• zastraszanie,
• znęcanie się,
• podważanie zaufania.

Finansowe: 

• wyłudzanie środków, 
• kradzież tożsamości,
• oszustwa (np. ubezpieczeniowe, płatnościowe), 
• manipulacja cenami akcji, 
• szkodzenie wizerunkowi marki, 
• zniszczenie reputacji. 

Społeczne: 

• manipulacja informacjami medialnymi, 
• naruszenie stabilności gospodarczej, 
• działania przeciwko wymiarowi sprawiedliwości, 
• dezorganizacja systemu naukowego,
• działanie na szkodę zaufania społecznego, 
• naruszanie zasad systemu demokratycznego,
• manipulowanie wyborami,
• szkody w stosunkach międzynarodowych, 
• zagrażanie bezpieczeństwu narodowemu.

Skutki są z reguły kaskadową kombinacją szkodliwych działań, oddziałującą na różnych poziomach i nie ograniczając się do konsekwencji jednego rodzaju. Deepfake może uderzać zarówno personalnie w osobę rozpoznawalną i medialną, jak i skupiać się na grupach czy organizacjach, mając wówczas wpływ na poziomie społecznym. Deepfake’iem może być fałszywy film pornograficzny (z podłożoną twarzą lub głosem), zmanipulowany plik dźwiękowy przedstawiony jako dowód w sądzie lub fałszywe oświadczenie, które ma wpłynąć na pewien proces polityczny.

Prewencja i rozpoznawanie deepfake’ów 

Istnieją dwa sposoby wykrywania deepfake’ów: manualny i automatyczny. Manualny wymaga wykwalifikowanej osoby, która będzie analizowała materiał (np. film) i wyszukiwała niespójności lub śladów wskazujących na fałszerstwo. Taki sposób działania może sprawdzić się w przypadku niewielkich ilości materiałów, ale w przypadku współczesnego społeczeństwa, w którym spotykamy się z olbrzymią ilością informacji, jest ono niestety nieefektywne.

Wykrywanie automatyczne opiera się na oprogramowaniu, które korzysta z kombinacji różnych środków, do których należą: 

• rozpoznawanie mówcy,
• wykrywanie głosu,
• rozpoznawanie twarzy, 
• rozpoznawanie niespójności czasowych, 
• kojarzenie artefaktów wizualnych,
• wykrywanie braku autentycznych wskaźników.

Wbrew pozorom wykrywanie automatyczne nie jest w pełni skuteczne. Badania wykazują, że nawet proste modyfikacje w technice produkcji drastycznie obniżają niezawodność automatycznego detektora. Kolejnym problemem jest kompresowanie plików zamieszczanych w mediach społecznościowych i w komunikatorach czatowych, gdzie dzielimy się materiałami. Zmniejszanie np. liczby pikseli przez kompresje obniża zdolność oprogramowania do wykrywania fałszerstw.

Na szczęście pojawia się coraz więcej strategii technologicznych, które uniemożliwiają wykorzystanie obrazu lub pliku jako podstawy do tworzenia deepfake’ów lub ograniczają ich potencjalny wpływ. Strategie te obejmują ataki antagonistyczne na algorytmy manipulujące plikami, wzmacniają znaczniki autentyczności materiałów audiowizualnych oraz zapewniają pomoc techniczną.

Ponadto środki te są uzupełnione o nadrzędne narzędzia instytucjonalne i organizacyjne, wspierające działania we wszystkich pięciu wymienionych obszarach. Zawierają one usystematyzowaną i zinstytucjonalizowaną  metodę gromadzenia informacji dotyczących technologii deepfake, co ma na celu ochronę organizacji przed zgubnymi konsekwencjami oraz ma pomóc zidentyfikowanie słabości tej technologii, a także znalezienie odpowiednich praktyk do przeciwdziałania.

Scenariusze na przyszłość

Deepfake’i prawdopodobnie staną się częścią augmented reality (rozszerzonej rzeczywistości). Zdaniem specjalistów z panelu STOA technologia ta stanie się niebawem szeroko dostępna, łatwa w użyciu, popularna i – podobnie jak aplikacje umożliwiające zmianę wizerunku (np. FaceApp lub Wombo) – stanie się ona częścią naszej codzienności.

Oczekiwany gwałtowny wzrost dostępności z dużym prawdopodobieństwem przełoży się na liczbę nadużyć. Mimo że aktualnie rzadko spotykamy się z deepfake’ami, wszystko wskazuje na to, że już niedługo staną się one częścią naszej rzeczywistości. Do najbardziej znanych przypadków można zaliczyć fałszywe orędzie królowej Elżbiety II z okazji Świąt Bożego Narodzenia czy przemówienie Baracka Obamy.

Możliwe, że coraz częściej będziemy kontaktować się z realistycznymi awatarami, które będę pełnić funkcję wirtualnych asystentów. Oprogramowania, takie jak Google Home lub Alexa od Amazon, prawdopodobnie zostaną poszerzone o wizerunek osoby tak, aby zmniejszyć przepaść poznawczą i odczuwać wrażenie nawiązywania relacji z realną osobą, a nie robotem.

Panel STOA wskazuje na potencjalne zagrożenia, których skutków jeszcze nie potrafimy przewidzieć. Jednym z nich jest np. awatar z głosem lub wizerunkiem krewnego, który prezentuje nam sfałszowane treści. Otwiera to nowe możliwości manipulacji, których konsekwencje pozostają dla nas na tę chwilę niewiadome.

Niestety aktualnie zmieniające się środowisko medialne ze względu na swój nacisk na komunikację wizualną stanowi dogodne i sprzyjające środowisko dla deepfake’ów. Możliwość uczestniczenia przez użytkowników mediów społecznościowych w kreowaniu wiadomości była odbierana jako zjawisko pozytywne, wspierające procesy demokratyzacji. Z upływem czasu okazało się, iż media społecznościowe utrudniły proces kontroli informacji. Problematyzują również wszelkie próby stworzenia etycznych norm i kodeksów postępowania w Internecie, tworząc przestrzeń dla dezinformacji (celowego rozprzestrzeniania fałszywych informacji), misinformacji (informacji fałszywych, lecz udostępnionych nieintencjonalnie lub bez złych intencji) oraz informacji złośliwych (czyli prawdziwych informacji wykorzystywanych do szkodzenia osobom, instytucjom lub państwom). 

Jednym z największych problemów związanych ze zjawiskiem deepfake’ów jest rozmycie prawdy. Zjawisko to prowadzi do erozji zaufania i zbiorowej dezorientacji. Granice między prawdą a fałszem będą coraz częściej zamazywane. Odkrycie fałszerstwa coraz rzadziej przekonuje odbiorców do tego, że zastosowano manipulację, a dociekanie i przekazywanie prawdy przez dziennikarzy jest coraz trudniejsze z powodu obniżającego się zaufania. Samo istnienie technologii deepfake wymaga wyższej nieufności, co już oznacza, że prawda staje się bardziej rozmyta. W jednym z badań cytowanych w raporcie, okazało się, że poinformowanie odbiorców o tym, że treść, z którą się zapoznają, może być fałszywa, uśpiła ich czujność i spowodowała obniżenie zaufania do prezentowanych filmów niezależnie od tego, czy były prawdziwe, czy zmanipulowane.  

Technologia deepfake podobnie jak cały trwający proces digitalizacji stanowi dla współczesnego globalnego społeczeństwa olbrzymie wyzwanie. Może zarówno być wykorzystywana w sposób słuszny, jak i prowadzący do nadużyć. Związane z nią zagrożenia prawdopodobnie obniżą zaufanie społeczne oraz utrudnią proces weryfikacji informacji. Regulacja aspektów technologicznych jest niezbędna, jednak niewystarczająca. Kluczem jest medialna edukacja oraz dbałość o instytucje stojące na straży praw i danych osobowych. 

Artykuł powstał w ramach projektu „Fakty w debacie publicznej”, realizowanego z dotacji programu „Aktywni Obywatele – Fundusz Krajowy”, finansowanego z Funduszy EOG.