Czym jest deepfake? Jakie są aplikacje do tworzenia deepfake'ów?

„Is this the real life? Is this just fantasy?” Co to jest deepfake?

Ostatnimi czasy dopadła mnie dość smutna refleksja: włączając laptopa czy sięgając po smartfon, dobrowolnie otaczamy się ławicą mniejszych lub większych drapieżników, które dzieli rozbieżność interesów, światopoglądów, uwikłań politycznych, za to łączy wspólna intencja – intencja zrobienia nas w ch**a. Fake newsy, SM-owe trolle, hodowane do siania tej czy innej propagandy, czy wreszcie wynalazek ostatnich lat: deepfake’i, stwarzające zupełnie nowe możliwości dezinformacyjne – wszystko to zmusza współczesnego Homo Interneticus do maksymalnej ostrożności względem każdej informacji znalezionej w sieci.

Ktoś powie: „chcąc uniknąć manipulacji, musisz weryfikować wszystko to, o czym czytasz”. Trudno się z tym nie zgodzić, przy czym należy pamiętać – przeciętny internauta dysponuje dość ograniczonymi narzędziami weryfikacyjnymi. Te sprowadzają się zwykle do przeczytania kilku artykułów na ten sam temat i intuicyjnego znalezienia prawdy gdzieś pośrodku; rzadziej – do odszukania tekstu źródłowego i sprawdzenia, na ile pierwotna treść uległa zniekształceniu wraz z kolejnymi tłumaczeniami i przeniesieniami do innych tekstów, filmów, postów na Twitterze, podcastów etc.

Inna rzecz – tempo do pary z ilością docierających do nas informacji są dziś tak zatrważająco wysokie, że trudno oczekiwać każdorazowej weryfikacji internetowych treści. Nie ma co się łudzić – jest to proces zbyt praco- i czasochłonny, by realizować go w kontekście całego tego informacyjnego bagna, przez które dzień w dzień „się przedzieramy”.

Nie to jednak budzi u mnie największe obawy. Najbardziej martwią mnie coraz doskonalsze narzędzia technologiczne wykorzystywane do celowego wprowadzania odbiorcy w błąd. Mowa przede wszystkim o wspomnianych już deepfake’ach, czyli filmach (choć także i obrazach oraz dźwiękach), które na etapie produkcji zaprzęgają sztuczną inteligencję, na przykład, do zastąpienia twarzy aktora twarzą… kogokolwiek innego.

Czym jest deepfake?

W największym skrócie — to technika łączenia obrazów przy pomocy sztucznej inteligencji, wykorzystywana głównie do „zamiany” ludzkich twarzy w materiałach wideo. Uzyskane w ten sposób efekty, często bardzo realistyczne, najczęściej wykorzystywane są w charakterze satyrycznym, choć niestety rośnie liczba deepfake’ów tworzonych po to, by manipulować odbiorcami, puszczać w obieg fałszywe informacje i poniżać osoby odgrywające w przeróbkach „główne role”.

Ty też możesz zagrać w produkcji porno. Nawet jeśli się na to nie zgadzasz

O tym, jak szybko deepfake’i się rozwijają i jak wiarygodne efekty są dziś w stanie wygenerować, przekonuje chociażby wrzucony ostatnio na YouTube fragment „Powrotu do przyszłości”, w którym twarze dwójki głównych bohaterów zostały zastąpione facjatami Roberta Downey Juniora i Toma Hollanda:

To nie pierwsze tego typu przedsięwzięcie. Na YT znajdziecie m.in. przeróbki klasyków kinematografii w Nicolasem Cage’em w roli… każdego. I choć wypowiadane przez Nicka: „You do not talk about Fight Club” wygląda dość zabawnie, olbrzymi potencjał deepfake’ów dostrzegli nie tylko internetowi śmieszkowie.

Warto wiedzieć, iż termin „deepfake” wszedł do użycia i spopularyzował się za sprawą użytkownika Reddita o takim samym nicku. Ów jegomość zasłynął z przerabiania filmów porno, przy czym autorska ingerencja w materiał źródłowy sprowadzała się tu do podmiany twarzy aktorek na twarze znanych kobiet. Jedną z „ofiar” Deepfake’a była Daisy Ridley, brytyjska aktorka, znana przede wszystkim z roli Rey w ostatnich odsłonach „Gwiezdnych Wojen”.

„Supermoc, którą zawsze chciałeś mieć”. Programy do tworzenia „niegrzecznych” deepfake’ów

Porno tropem użytkownika Deepfake poszli m.in. twórcy aplikacji DeepNude. Apka ta służyła – i służy dalej, choć oficjalnie nie jest już dystrybuowana – do „rozbierania” kobiet na zdjęciach. Co ciekawe, DeepNude jest bezużyteczne w przypadku fotografii, na których znajdują się mężczyźni. Tak czy inaczej aplikacja analizuje wgrane zdjęcie kobiety, po czym preparuje fotomontaż z fałszywym aktem.

I trzeba przyznać, że z założeniem twórców DeepNude radzi sobie niebezpiecznie dobrze. Uwagę zwracają nie tylko „efekty końcowe”, ale i łatwość w obsłudze aplikacji. Wystarczy bowiem wgrać wybrane zdjęcie, cała reszta dzieje się bez ingerencji użytkownika.

Deepfake może rujnować ludziom życie

Nie trzeba silić się na głęboki pomyślunek, aby zdać sobie sprawę z niebezpieczeństw, jakie generować mogą podobne aplikacje. W prosty i szybki sposób możliwe jest skompromitowanie jakiejkolwiek osoby (w tym przypadku – kobiety), której zdjęciem dysponujemy. W wielu przypadkach DeepNude jest w stanie wygenerować na tyle wiarygodny fotomontaż, aby co najmniej część odbiorców zdołała się nabrać.

A to już może stanowić wystarczającą iskrę do wzniecania gargantuicznych wizerunkowych pożarów. Pożarów, których całkowite ugaszenie może być niezwykle trudne i kosztowne, a w części przypadków – pewnie i niemożliwe.

O ile jednak tacy celebryci posiadają PR-owe wsparcie na wypadek podobnych sytuacji, tak przeciętny człowiek już niekoniecznie. I choć fantazje erotyczne z udziałem kogoś, kto normalnie raczej by na nie nie przystał, są – powiedzmy – nieszkodliwe, oczywiście tylko jeśli pozostają „w sferze prywatnej”, tak już jakiekolwiek publikacje fejkowych aktów w social mediach w skrajnych przypadkach mogą zniszczyć komuś życie. Zemsta na dziewczynie, która dała kosza? Cyk, kilka sekund i naga fotka gotowa, pozostaje jedynie opublikować na Facebooku, Twitterze lub rozesłać znajomym na Messengerze.

Twitterowe konto aplikacji ma na swoim profilu opis: „supermoc, którą zawsze chciałeś mieć”. Co ciekawe, za pośrednictwem Twittera właśnie 29 czerwca 2019 roku twórcy DeepNude opublikowali oświadczenie, w którym poinformowali o zakończeniu projektu. Swoją decyzję argumentowali m.in. – a jakże – ryzykiem nadużyć ze strony użytkowników, nawet pomimo wdrożenia środków ostrożności w postaci znaków wodnych.

pic.twitter.com/8uJKBQTZ0o
— deepnudeapp (@deepnudeapp) June 27, 2019

Jak to w życiu bywa, oświadczenia oświadczeniami, a rzeczywistość i tak rządzi się własnymi prawami. Zwłaszcza ta internetowa, w której ponoć nic nie ginie. DeepNude na przykład nie zginęło. Aplikacji nie pobierzecie co prawda z oficjalnych źródeł, ale bez problemu znajdziecie ją w „innych” miejscach. Co więcej, wciąż działa przeglądarkowa wersja aplikacji, którą zresztą przetestowałem. Efekty są różne, niemal całkowicie zależne od wrzuconego zdjęcia. I jakość bynajmniej nie jest tu kluczowa, dużo istotniejsza jest kompozycja zdjęcia i ekspozycja modelki. No i najlepiej, jeśli modelka jest w bikini, z rozbieraniem wierzchniego odzienia DeepNude radzi sobie albo przeciętnie, albo wcale.

Warto wspomnieć jeszcze o jednej kwestii. Twórcy zarzekają się, że zarówno materiały źródłowe, jak i te po przerobieniu, nie są zapisywane i przechowywane na serwerach aplikacji ani zresztą na żadnych innych. Jednocześnie osoby odpowiedzialne za aplikację nie biorą odpowiedzialności za to, co za jej pośrednictwem powstaje.

Deepfake jako narzędzie do prowadzenia polityki

Jeśli zerkniecie na stronę Deepfake na Wikipedii, przeczytacie, że jednym z największych zagrożeń związanych z tą techniką jest potencjalny wpływ na wyniki wyborów. To bardzo uzasadniona obawa, bo wyobraźcie sobie taką sytuację: dzień przed wyborami na Twittera trafia materiał wideo, w którym lider partii X mówi bez ogródek, że dobro obywateli ma w czterech literach, bo obywatele to w gruncie rzeczy dzicz, którą trzeba trzymać krótko, aby nie odbiło jej zanadto od nadmiaru swobody. A w ogóle to j***ć partię Y.

Pal licho złamanie ciszy wyborczej, tym bardziej że opublikować tweeta można z fejkowego konta. Czy tego typu wideo rozejdzie się viralowo po sieci? To bardziej niż pewne.

Czy obywatele poczują się urażeni? Znaczna ich część pewnie tak. Czy PR polityka zdąży wyjaśnić sprawę na czas? Jest bardziej niż prawdopodobne, że nie.

Czy pod wpływem deepfake’owego filmu elektorat polityka zmieni swoje wyborcze decyzje? W mniejszym lub większym stopniu tak pewnie się stanie.

Podmianki twarzy czy głosu w filmach nie są idealne. Wprawne oko, do tego nastawione na szukanie niuansów mających odróżnić prawdę od fałszu, pewnie dostrzeże nienaturalną mimikę czy syntetycznie brzmiący głos, niemniej należy mieć na uwadze, że prawa wyborcze mają osoby, które w ogóle z pojęciem deepfake’ów nie są zaznajomione, co czyni je – częściowo lub całkowicie – bezbronnymi wobec nowych technik manipulowania informacją.

Amerykanie już dzisiaj walczą z deepfake videos na scenie politycznej

Niesławne deepfake video z 2018 z Barackiem Obamą w roli głównej rozpoczęło w Stanach Zjednoczonych intensywną debatę o potencjalnym wpływie preparowanych filmów na kształt i wyniki wyborów.

W maju 2019 w sieci opublikowano film ośmieszający Nancy Pelosi – spikerkę Izby Reprezentantów USA. Materiał nie był najbardziej wyrafinowanym deepfake’iem, jaki widział świat, bo sprowadzał się do spowolnienia tempa nagrania z przemówienia Pelosi. W efekcie jednak można było odnieść wrażenie, że kobieta jest pod wpływem alkoholu lub narkotyków.

W związku z narastającymi obawami dotyczącymi wykorzystywania deepfake’ów na arenie politycznej w październiku 2019 roku Kalifornia przyjęła projekt ustawy, wedle której publikowanie politycznych deepfake’ów w okresie krótszym niż 60 dni od zaplanowanych wyborów jest nielegalne.

W styczniu tego roku natomiast amerykańska Komisja ds. Etyki poinformowała, iż publikowanie deepfake’ów w mediach społecznościowych może być traktowane jako pogwałcenie ustanowionego przezeń regulaminu.

W listopadzie w USA odbędą się wybory prezydenckie. Amerykanie doskonale zdają sobie sprawę z siły oddziaływania deepfake’ów i tego, w jakim stopniu mogą przełożyć się na ostateczny wynik wyborów. Z tego powodu chociażby wiele serwisów społecznościowych (m.in. Reddit) zaktualizowało swoje regulaminy, opowiadając się przeciwko dezinformacji w jakiejkolwiek postaci.

Jest jednak kraj, w którym technika deepfake została świadomie użyta w ramach kampanii wyborczej.

Indyjski polityk posłużył się deepfake’iem, aby dotrzeć do większej liczby wyborców

Jak donosi Vice, niejaki Manoj Tiwari, członek partii Bharatiya Janata i kandydat na urząd sekretarza generalnego Delhi, posłużył się techniką deepfake do stworzenia alternatywnych wersji filmów ze swoim przemówieniem.

W filmach tych Tiwari wypowiada się, używając języków i dialektów, których w rzeczywistości nie zna. W ten sposób udało mu się dotrzeć do większego grona potencjalnych wyborców. Jakie liczby mamy na myśli, mówiąc „większego”? Według raportu Vice filmowe „fałszywki” pozwoliły Tiwariemu poszerzyć grono odbiorców aż o 15 milionów ludzi w całych Indiach.

W przygotowanie deepfake’ów zaangażowana była firma Ideaz Factory, zajmująca się m.in. kampaniami politycznymi w mediach społecznościowych. Jeden z przedstawicieli firmy, Sagar Vishnoi, zdradził, że przy produkcji filmów wykorzystano algorytm odpowiedzialny za synchronizację ruchu ust z generowanymi dźwiękami. Ponadto Ideaz Factory zaangażowało aktora dubbingowego, który podszywał się pod Tiwariego mówiącego w różnych językach i dialektach.

Jak dodał Vishnoi, w ten sposób Tiwari mógł dotrzeć do osób, do których nie mógłby dotrzeć bezpośrednio z uwagi na barierę językową (Indie mają dwa języki urzędowe: hindi i angielski, niektóre stany indyjskie mają jednak własne języki wraz z setkami różnych dialektów).

Poniżej znajduje oryginalne wideo z przemówieniem Manoja Tiwariego:

Tutaj deepfake z Manojem Tiwarim mówiącym po angielsku:

Firma Ideaz Factory podkreśla, że specjalnie preparowane filmy pozwoliły na wykreowanie pozytywnej kampanii, budującej poczucie więzi między politykiem a obywatelami, którzy mogli usłyszeć go w sposób bezpośredni, a przynajmniej z iluzją bezpośredniości.

Jaką przyszłość wykreują deepfake videos. Czy każdy z nas może zostać „zaangażowany” do roli w filmie porno?

No właśnie, jakie jest Wasze zdanie co do społecznej roli „deepfake’ów” w bliskiej przyszłości? Producenci i reżyserzy filmowi będą wskrzeszać zmarłych aktorów? Prezenterzy telewizyjni z krwi i kości będą zastępowani przez tych wirtualnych? Czy deepfake’i staną się standardowymi narzędziami walk politycznych?

Pytań rodzi się mnóstwo, choć na odpowiedzi pewnie jeszcze przyjdzie nam trochę poczekać. Tak czy inaczej, czekam na Wasze opinie w komentarzach.

PS. zajrzyjcie też do tekstu Macieja o fake newsach i o tym, jak z nimi walczyć.

Źródła: The Verge, Vice, Outlook India, TechZimo, LATESTLY, Financialexpress, Fossbytes, Wikipedia, DeepNudeOnline, BuzzFeedVideo, CBS, TheNextWeb