Facebook walczy z deepfake’ami. Naukowcy z Facebooka twierdzą, że mogą określić, skąd wziął się deepfake

Deepfake to filmy, które zostały zmienione cyfrowo za pomocą sztucznej inteligencji. W ostatnich latach stają się one tak realistyczne, że zaczęły utrudniać ludziom określenie, co jest prawdziwe w Internecie, a co nie. Facebook coraz mocniej chce przeciwdziałać tej formie manipulacji i dezinformacji. W środę naukowcy Facebooka ogłosili, że ich oprogramowanie może zidentyfikować sztuczną inteligencję użytą do stworzenia deepfake’a.

Deepfake i dezinformacja

Żyjemy w czasach, w których ludzie zalewani są z każdej strony sprzecznymi informacjami. Niestety Internet jest narzędziem, które w ogromnej mierze przyczynia się do dezinformacji w społeczeństwie. Jeśli chcemy usłyszeć, że ziemia jest płaska, nie musimy się szczególnie natrudzić, żeby znaleźć zwolenników takiej teorii na YouTubie czy na stronach poświęconych tego typu tematom. A później już wpadamy do bańki filtującej/informacyjnej, z której niestety ciężko czasem wyjść.

Oprócz tego istnieje szereg różnych metod, które pomagają fałszować rzeczywistość, jak np. deepfake. Facebook walczy z dezinformacją na różne sposoby, a teraz rozpoczyna wojnę także z tym zjawiskiem. Deepfake to wyższy poziom dezinformacji polegający na manipulacji obrazem. Są to filmy, które są zmanipulowane za pomocą sztucznej inteligencji, w taki sposób, by np. podmienić twarz prezentowanej osoby.

stop deepfake'om w social mediach

Efekty takiego majstrowania przy filmach są coraz bardziej wiarygodne. Do tej pory jednym z głównych zastosowań deepfake’ów była pornografia, ale także były one używane do podkładania twarzy celebrytów, w różnych, najczęściej śmiesznych sytuacjach. Jednym z przykładów jest konto na TikToku, @deeptomcruise, gdzie bohaterem bardzo realistycznie wyglądających deepfake’ów jest Tom Cruise. Konto ma 1,5 mln obserwujących, a nagrania obejrzano już prawie 70 mln razy.

Dziś każdy może tworzyć własne deepfake za pomocą bezpłatnych aplikacji, takich jak FakeApp lub Faceswap. I choć do tej pory w większości przypadków jesteśmy w stanie rozpoznać, że dany film jest deepfake’iem i tworzone one są w dużej mierze tylko w celach rozrywkowych, to nietrudno wyobrazić sobie jak łatwo mogą zacząć być wykorzystywane właśnie, by wprowadzić dezinformację i jakie mogą być tego skutki.

Facebook walczy z deepfake’ami

Facebook nie czeka dłużej i rozpoczyna walkę z tym deepfake’ami na poważnie. W środę Facebook i Michigan State University zadebiutowały z nowatorską metodą, która jest w stanie nie tylko identyfikować deepfake, ale także jego pochodzenie.

Badacze Facebook AI Xi Yin i Tal Hassner wraz z zespołem uniwersyteckich naukowców powiedzieli, że ich oprogramowanie może „cofnąć” pliki deepfake za pomocą technologii inżynierii wstecznej. Dzięki temu mogą wykrywać obrazy twarzy i określać, w jaki sposób i gdzie powstały.

Facebook

Wyjaśnili, że proces tworzenia deepfake’a zwykle zmienia cyfrowy „odcisk palca” pliku, pozostawiając pewne niedoskonałości. Nowe oprogramowanie uruchamia deepfake przez sieć w celu wyszukania tych znaków.

Podobny program, Video Authenticator , został zaprezentowany przez Microsoft pod koniec ubiegłego roku, podczas ostatnich burzliwych wyborów prezydenckich w USA. Program ten może ujawniać pliki typu deepfake, analizując obraz lub wideo i wykrywając manipulacje, które mogą być niewidoczne gołym okiem.

Źródło: Facebook, www.cnbc.com, TikTok