Deep fake'ów w sieci już nie unikniemy - naukowcy o możliwości ich weryfikacji

Walka z deep fake'amiShutterstock

Chociaż technologia tworzenia filmów typu deep fake staje się coraz bardziej doskonała i powszechna, naukowcy z Rochester Institute of Technology zapowiadają, że także narzędzia do weryfikacji takich nagrań będą wkrótce dostępne. Przedstawiają dwie metody, które są wykorzystywane.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Dziennikarze na całym świecie wkrótce będą mogli korzystać z narzędzia pozwalającego na wykrywanie materiałów typu deep fake - zapowiadają John Sohrawardi i Matthew Wright, badacze z Rochester Institute of Technology. Ich zdaniem za kilka lat takie narzędzie może być używane przez każdego, kto będzie chciał sam wyłapywać i usuwać fałszywe wideo publikowane w jego mediach społecznościowych.

Sohrawardi i Wright są autorami artykułu na ten temat, który opublikował portal The Conversation. Poniżej przestawiamy jego tłumaczenie (śródtytuły pochodzą od redakcji).

Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Widzimy przyszłość dla takich narzędzi

Dziennikarz śledczy dostaje wideo od anonimowego informatora. Film przedstawia kandydata na prezydenta przyznającego się do działań niezgodnych z prawem. Ale czy to nagranie jest prawdziwe? Jeśli tak, to byłaby to bardzo ważna historia - może najważniejszy materiał w karierze tego dziennikarza, która mógłby zmienić bieg kampanii wyborczej i wynik nadchodzących wyborów.

Ale dziennikarz sprawdza wideo za pomocą specjalistycznego narzędzia - ono pokazuje, że nagranie nie jest tym, czym się wydaje. To tak naprawdę deep fake, film stworzony przy użyciu sztucznej inteligencji i deep learning, czyli głębokiego uczenia się (rodzaj uczenia maszynowego; na dużych zbiorach informacji sztuczna inteligencja doskonali swoje umiejętności rozpoznawania tekstu, obrazu i dźwięku - red.).

Jako naukowcy, którzy już od jakiegoś czasu badają sposoby wykrywania deep fake'ow, widzimy przyszłość dla takich narzędzi. Nie rozwiążą wszystkich naszych problemów, ale będą częścią arsenału broni do walki z dezinformacją.

Dlaczego demaskowanie deep fake'ów jest takie ważne

Wielu z nas wie, że nie można wierzyć we wszystko, co się widzi. Przez ostatnie kilka dekad świadomi odbiorcy informacji przyzwyczaili się do oglądania zdjęć z przerobionych za pomocą programów do fotoedycji. Jednak wideo to inna historia. Hollywoodzcy reżyserzy, by stworzyć realistyczną scenę, potrafią wydać miliony dolarów na efekty specjalne. A przy użyciu technologii deep fake amatorzy ze sprzętem komputerowym za kilka tysięcy dolarów w ciągu kilku tygodni mogą stworzyć coś, co do złudzenia imituje rzeczywistość.

Deep fake'i pozwalają umieścić w filmowych scenach osoby, które nigdy w nich nie wystąpiły - na przykład Toma Cruise'a w roli Iron Mana - co czyni tego typu materiały zabawnymi.Niestety, dzięki tej samej technologii możliwe jest również tworzenie fałszywej pornografii, bez zgody przedstawionych w nich osób (o tego typu fałszywych nagraniach pisaliśmy w Konkret24 - red.). To one są dziś głównymi ofiarami nadużyć technologii deep fake.

Technologia ta może być wykorzystana do tworzenia filmów, w których polityczni przywódcy mówią rzeczy, jakich nigdy nie powiedzieli. W 2018 roku Belgijska Partia Socjalistyczna opublikowała słabej jakości nagranie, na którym prezydent Trump miał obrażać Belgię. To nie deep fake, ale jest to nieprawdziwe wideo. Uzyskało wystarczająco dużo reakcji, by pokazać potencjalne zagrożenia związane z pojawieniem się wysokiej jakości deep fake'ów.

Niebezpieczne jest także i to, że można je wykorzystać, by wzbudzić wątpliwości co do autentyczności prawdziwych filmów - sugerując, że mogły powstać z wykorzystaniem sztucznej inteligencji.

Biorąc pod uwagę te zagrożenia, wyjątkowo cenna byłaby możliwość wykrycia fałszywych nagrań i wyraźnego oznaczenia ich. Dzięki temu fałszywe wideo nie wprowadzałoby w błąd opinii publicznej, a prawdziwe nagrania mogłyby nadal być uznawane za autentyczne.

Dwie metody wykrywania deep fake'ów

Wykrywanie fałszywych nagraństało się przedmiotem badań naukowców nieco ponad trzy lata temu. Początkowo prace koncentrowały się na wykrywaniu zauważalnych problemów w nagraniach deep fake, np. ich bohaterowie nie mrugali. Z czasem jednak takie materiały stawały się coraz lepsze w naśladowaniu prawdziwych filmów. Tym samym dostrzeżenie, czy wideo to deep fake, czy nie, stało się trudne zarówno dla ludzi, jak i dla narzędzi mających to wykrywać.

Są dwa główne sposoby na wykrywanie deep fake'ów. Pierwszy polega na analizie zachowań konkretnych ludzi widocznych na nagraniach. Załóżmy, że masz sporo materiału wideo z udziałem kogoś sławnego - na przykład byłego prezydenta Stanów Zjednoczonych Baracka Obamy. Sztuczna inteligencja (AI) potrafi wykorzystać informacje z nagrań, by nauczyć się zachowań Obamy: od gestów dłoni po to, kiedy robi pauzy w mówieniu. Sztuczna inteligencja może wtedy przeanalizować deep fake'a z Obamą i zauważyć, gdzie jego zachowanie nie pasuje do schematu. Ten sposób może działać, nawet jeśli sama jakość zmanipulowanego wideo jest praktycznie doskonała.

Spot typu deepfake przygotowany przez belgijską partię sp.a
Spot typu deepfake przygotowany przez belgijską partię sp.asp.a

Inni badacze, w tym nasz zespół, koncentrują się na różnicach między deep fake'em a prawdziwym nagraniem. Filmy deep fake są często tworzone poprzez łączenie indywidualnie wygenerowanych kadrów. Dlatego metody naszego zespołu pozwalają wyodrębnić istotne informacje z twarzy widocznych w poszczególnych klatkach filmu, a następnie śledzić je poprzez kolejne zestawy ujęć. Pozwala to na wykrycie niespójności w przepływie informacji z jednej klatki na drugą. Podobną metodę stosujemy również w naszym systemie weryfikacji dźwięku.

Te subtelne szczegóły są trudne do dostrzeżenia przez ludzi, ale pokazują, że nagrania deep fake nie są jeszcze całkiem doskonałe. Detektory fałszywych nagrań mogą przydać się każdemu, nie tylko garstce światowych liderów. Może się okazać, że oba podejścia do wykrywania deep fake'ów znajdą się w użyciu.

Najnowsze systemy weryfikacji bardzo dobrze sprawdzają się w przypadku filmów zgromadzonych specjalnie w celu oceny tych narzędzi. Niestety, nawet najlepsze słabo radzą sobie z filmami znalezionymi w internecie. Ulepszenie tych narzędzi tak, aby stały się bardziej użyteczne, będzie kluczowe.

Dziennikarze pierwszą linią obrony

Dobrze byłoby, gdyby każdy miał dostęp do narzędzi pozwalających na weryfikację deep fake'ow. Dziś ta technologia znajduje się we wczesnej fazie rozwoju. Zanim zostanie udostępniona na szeroką skalę, naukowcy muszą ją udoskonalić i chronić przed hakerami.

Jednak w tym samym czasie narzędzia do tworzenia deep fake'ów są dostępne dla każdego, kto chce oszukać opinię publiczną. Czekanie na ostateczną technologię demaskująca je nie wchodzi więc w grę. Dla naszego zespołu właściwą równowagą była praca z dziennikarzami, ponieważ to oni są pierwszą linią obrony przed rozprzestrzenianiem się dezinformacji.

Przed opublikowaniem historii dziennikarze muszą zweryfikować uzyskane informacje. Dysponują już sprawdzonymi metodami jak konsultacje z ekspertami i sprawdzanie kluczowych faktów przez więcej niż jedną osobę. Oddając narzędzie w ich ręce, przekazujemy im więcej informacji i wiemy, że nie będą polegać wyłącznie na technologii, gdyż i ta może popełniać błędy.

Jako badacze podejmujemy wyzwanie

Dobrze jest widzieć, że zespoły Facebooka i Microsoftu inwestują w technologię, by zrozumieć i wykrywać nagrania deep fake. By dotrzymać kroku postępowi tej technologii, potrzeba więcej badań. Dziennikarze i portale społecznościowe muszą także wypracować najlepsze możliwe sposoby ostrzegania ludzi przed wykrytymi fałszywymi nagraniami. Badania pokazały, że ludzie pamiętają kłamstwo, ale nie fakt, że było ono kłamstwem. Czy ten sam problem będzie dotyczył fałszywych filmów? Samo umieszczenie w tytule "deep fake" może nie wystarczyć.

Nagrania typu deep fake już są - i z nami zostaną. Ponieważ sztuczna inteligencja staje się coraz bardziej skuteczna, zarządzanie dezinformacją i ochrona społeczeństwa będą trudniejsze niż kiedykolwiek wcześniej. Jesteśmy częścią rosnącej społeczności badawczej, która podejmuje wyzwanie, jakim jest technologia deep fake.

John Sohrawardi jest doktorantem nauk informatycznych Rochester Institute of Technology. Profesor Matthew Wright specjalizujący się w bezpieczeństwie cyfrowym jest kierownikiem badań Global Cybersecurity Institute w Rochester Institute of Technology. Ich artykuł został opublikowany w portalu The Conversation pt. "In a battle of AI versus AI, researchers are preparing for the coming wave of deepfake propaganda". Tłumaczenie na podstawie licencji Creative Commons.

Autor: John Sohrawardi i Matthew Wright (tłum. Gabriela Sieczkowska) / Źródło: The Conversation; zdjęcie: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Wygląda jak lokalny serwis, ale nim nie jest. Zamiast informować, strona ta szerzy antymigrancki hejt. W rzekomej trosce o bezpieczeństwo mieszkańców karmi ich strachem. Promują ją politycy, a firmuje człowiek z komitetu poparcia Karola Nawrockiego. Portal Gazeta Zielonogórska to modelowe źródło dezinformacji niemedialnej. Na czym polega to zjawisko? 

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Źródło:
TVN24+

Przed zapowiadanymi wielkimi opadami oczy wielu Polaków zwrócone są na największe zbiorniki przeciwpowodziowe w kraju. Zarządzający nimi zapewniają, że wszystkie mają zabezpieczone rezerwy. Porównaliśmy stan ich wypełnienia teraz oraz tuż przed powodzią we wrześniu 2024 roku. Eksperci tłumaczą, czy i jakie wnioski można z tego wyciągnąć.

Wypełnienie zbiorników retencyjnych teraz i przed powodzią 2024. Co nam to mówi

Wypełnienie zbiorników retencyjnych teraz i przed powodzią 2024. Co nam to mówi

Źródło:
Konkret24

Prawica rozpowszechnia przekaz o tysiącach "nielegalnych imigrantów" z Afryki, czy Bliskiego Wschodu zawróconych z Niemiec do Polski. Dane - także te najnowsze - pokazują coś zupełnie innego.

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Źródło:
Konkret24

Politycy opozycji grzmią w mediach społecznościowych, że "ludzie Bodnara chcieli zapewnić sobie bezkarność". Jako dowód rozsyłają rzekomy zapis, który miał się znaleźć w ustawie przygotowywanej w Ministerstwie Sprawiedliwości. Resort już się do tego odniósł, a my wyjaśniamy, co dało początek tej narracji.

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

Źródło:
Konkret24

Zdjęcie wykonane nocą niedaleko granicy z Niemcami przez umieszczoną w lesie fotopułapkę wywołało oburzenie w sieci. Polityczka Konfederacji uznała bowiem, że kamera pokazała niemiecki patrol po polskiej stronie granicy. Wyjaśniamy, kogo naprawdę widać na fotografii.

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Źródło:
Konkret24

Po głośnym pożarze budynku w podwarszawskich Ząbkach w mediach społecznościowych pojawiły się teorie, że jego przyczyną były panele fotowoltaiczne. Jako potwierdzenie tej tezy publikowano nawet zdjęcia satelitarne. Straż pożarna dementuje ten przekaz.

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Źródło:
Konkret24

"Wszyscy powinni bić na alarm", "dlaczego zbiorniki retencyjne są pełne", "nie spuszczają wody"... - takie komentarze pojawiły się w sieci po informacjach o zbliżających się ulewach. Internauci alarmują, że zbiorniki retencyjne są już zapełnione, a Wody Polskie na to nie reagują. Przedsiębiorstwo zarządzające zbiornikami odpowiada, że "tworzący alternatywne teorie" internauci nie mają racji.

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Źródło:
Konkret24

Internauci dyskutują, czy na nagraniu z płonącym samochodem, które krąży w sieci, rzeczywiście płonie auto elektryczne. Sprawdzamy, więc co o całym zajściu wiadomo.

"Płonie elektryk" w Koszalinie? Co to za auto

"Płonie elektryk" w Koszalinie? Co to za auto

Źródło:
Konkret24

Kolejne państwa strefy Schengen przywracają kontrole graniczne, dlatego coraz częściej można usłyszeć głosy o "końcu" czy nawet "zabiciu Schengen". Eksperci wymieniają jednak zaskakujące powody, dla których ich zdaniem strefa nie tylko przetrwa, ale będzie się rozszerzać.

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Źródło:
TVN24+

Internauci, ale też poseł Marek Jakubiak oburzają się na zdjęcie polskiego policjanta, który na ramieniu ma naszywkę z flagą unijną. Wyjaśniamy, co to za naszywka.

"Europejska policja"? Co oznacza naszywka na mundurze

"Europejska policja"? Co oznacza naszywka na mundurze

Źródło:
Konkret24

Politycy opozycji utrzymują, że polski rząd nie przedstawia prawdziwych danych o liczbie migrantów "przerzucanych" z Niemiec do Polski, podczas gdy według władz niemieckich są to "duże liczby, tysiące w skali jednego miesiąca". Publikujemy więc najnowsze statystyki otrzymane z niemieckiej policji - nie potwierdzają takich twierdzeń.

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Źródło:
Konkret24

Szef MSZ oferuje Karolowi Nawrockiemu "możliwość zbriefowania" go, jeśli chodzi o politykę zagraniczną rządu. W odpowiedzi przyszły rzecznik kancelarii prezydenta poucza, co należy do prerogatyw głowy państwa. Tak więc w nowej politycznej rzeczywistości wróci stary spór, a konstytucja się przecież nie zmieniła. Wyjaśniamy.

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

Źródło:
Konkret24

W kancelarii prezydenta Nawrockiego ma pozostać przynajmniej jeden minister z czasów obecnego prezydenta. A reszta? I co się stanie obecnymi doradcami Andrzeja Dudy? Wyjaśniamy.

Ministrowie i doradcy Andrzeja Dudy. Jaki ich los po 6 sierpnia?

Ministrowie i doradcy Andrzeja Dudy. Jaki ich los po 6 sierpnia?

Źródło:
Konkret24

Poszukujący Tadeusza Dudy policjanci jakoby nawet nie potrafią nosić broni, a sam poszukiwany rzekomo zamieszcza w sieci nagranie obozowiska; na dodatek miał też sfilmować policyjny śmigłowiec, a nagranie zamieścił w sieci. Akcja w okolicach Limanowej stała się pretekstem do drwienia z policjantów biorących w niej udział lub zwiększania zasięgów i popularności w sieci. Pokazujemy przykłady krążących wokół niej fake newsów.

"Vlogi Tadeusza Dudy" i zdjęcie policjantki. Fałszywki o obławie w Starej Wsi

"Vlogi Tadeusza Dudy" i zdjęcie policjantki. Fałszywki o obławie w Starej Wsi

Źródło:
Konkret24

Ministra funduszy i polityki regionalnej Katarzyna Pełczyńska-Nałęcz, stwierdziła, że dla jej partii istotna jest objęcie funkcji wicepremiera w planowanej rekonstrukcji rządu, bo "wicepremier może więcej niż minister". A co na to akty prawne?

Pełczyńska-Nałęcz: "wicepremier może więcej niż minister". Ekspert: "nieco ryzykowne stwierdzenie"

Pełczyńska-Nałęcz: "wicepremier może więcej niż minister". Ekspert: "nieco ryzykowne stwierdzenie"

Źródło:
Konkret24

Komentując "patrole obywatelskie" na granicy polsko-niemieckiej, politycy opozycji mówią po raz kolejny o "tysiącach migrantów przerzucanych przez Niemców". Dane o rzeczywistych przekazaniach są jednak dużo niższe. Wyjaśniamy.

"Kilka tysięcy nielegalnych migrantów dziennie" z Niemiec? Dane pokazują coś innego

"Kilka tysięcy nielegalnych migrantów dziennie" z Niemiec? Dane pokazują coś innego

Źródło:
Konkret24

Mateusz Morawiecki zamieścił wykres, który miał pokazywać, jak bardzo za rządów PiS rosły dochody budżetu państwa, gdy podczas rządów PO-PSL i obecnej koalicji wzrosty nie są tak znaczące. Ekonomiści tłumaczą, co były premier pomija.

Mateusz Morawiecki o dochodach państwa. Jak wprowadza w błąd

Mateusz Morawiecki o dochodach państwa. Jak wprowadza w błąd

Źródło:
Konkret24

Po tragedii w Starej Wsi, podczas policyjnej obławy pojawiło się zdjęcie, które ma pokazywać ulicę przed domem, gdzie dokonano zbrodni. Jest rozpowszechniane z twierdzeniem, że podejrzany Tadeusz Duda uciekł stamtąd na motocyklu. Oba przekazy są nieprawdziwe.

"Tak wygląda ulica", morderca na motocyklu? Nic tu się nie zgadza

"Tak wygląda ulica", morderca na motocyklu? Nic tu się nie zgadza

Źródło:
Konkret24

W sieci pojawił się fragment kodu, który ma świadczyć o tym, że tak zwana aplikacja Mateckiego miała być podłączona do serwerów PKW. Nieznających się na programowaniu może wprowadzać w błąd. Tłumaczymy.

"Aplikacja Mateckiego" podpięta pod PKW? Fałszywy "niezbity dowód"

"Aplikacja Mateckiego" podpięta pod PKW? Fałszywy "niezbity dowód"

Źródło:
Konkret24

Nagranie z kilkudziesięcioma bocianimi gniazdami na słupie wysokiego napięcia przyciągnęło uwagę tysięcy internautów. Jedni twierdzą, że to Polska, inni wskazują na zagranicę. Sprawdziliśmy, co wiadomo o tym materiale.

"Blokowisko bocianów" w Polsce? Sprawdzamy popularne nagranie

"Blokowisko bocianów" w Polsce? Sprawdzamy popularne nagranie

Źródło:
Konkret24

Były wicepremier Jacek Sasin pytał w wywiadzie radiowym, gdzie są pieniądze z Krajowego Planu Odbudowy i czy "ktoś odczuł jakąś poprawę z tego względu". Pokazujemy więc, na co do tej pory przeznaczono te środki: od pracowni AI, przez żłobki, po oczyszczalnie ścieków i modernizacje linii kolejowych.

Sasin: gdzie są mityczne pieniądze z KPO? Odpowiadamy

Sasin: gdzie są mityczne pieniądze z KPO? Odpowiadamy

Źródło:
Konkret24

Mimo zawieszenia przyjmowania wniosków o azyl na granicy polsko-białoruskiej, polskie służby wciąż przyjmują ich ponad tysiąc miesięcznie. Internauci komentują, że "Donald Tusk okłamał Polaków", bo "granica jest nieszczelna". Wyjaśniamy, dlaczego te dane o tym nie świadczą.

Wnioski o azyl w Polsce mimo zawieszenia. Kto i gdzie je składa

Wnioski o azyl w Polsce mimo zawieszenia. Kto i gdzie je składa

Źródło:
Konkret24

Politycy opozycji i internauci komentują, że wyborcy masowo wysyłali do Sądu Najwyższego protesty wyborcze według wzoru przygotowanego przez posła Romana Giertycha i z jego numerem PESEL. Pierwszy Prezes Sądu Najwyższego Małgorzata Manowska dolała oliwy do ognia, mówiąc, że takich protestów jest kilka tysięcy. Inne zdanie ma jednak rzecznik prasowy instytucji. Wyjaśniamy, co wiemy.

"Giertychówki", PESEL posła i dwugłos w Sądzie Najwyższym. Co wiemy

"Giertychówki", PESEL posła i dwugłos w Sądzie Najwyższym. Co wiemy

Źródło:
Konkret24

Prokurator generalny Adam Bodnar wnioskuje o ponowne przeliczenie głosów z niemal 1,5 tysiąca komisji wyborczych, bowiem w kilkunastu przypadkach, w których przeliczono już głosy, wykazano nieprawidłowości. Monitorujemy na bieżąco, w jakich komisjach sprawdzono jeszcze raz oddane głosy i z jakim wynikiem, oraz stan prokuratorskich śledztw.

Komisje, w których przeliczono ponownie głosy. Ile miał Trzaskowski, ile Nawrocki

Komisje, w których przeliczono ponownie głosy. Ile miał Trzaskowski, ile Nawrocki

Źródło:
Konkret24

Rzecznik rządu Adam Szłapka jako sukces koalicji rządzącej wymienił wzrost punktualności pociągów do niemal 95 procent. Sprawdziliśmy więc dane.

Rzecznik rządu o punktualności pociągów. Dane nie potwierdzają

Rzecznik rządu o punktualności pociągów. Dane nie potwierdzają

Źródło:
Konkret24

Internauci z rozbawieniem komentują materiał pochodzący rzekomo z rosyjskiej telewizji. Przedstawia on reportera, który zachwala nowo wybudowaną drogę w Woroneżu, ale asfalt okazuje się być tylko ogromnym kawałkiem tkaniny. "Propaganda sukcesu" - podsumowują. Tyle że nagranie nie jest autentyczne.

Reporter mówi, asfalt "się podnosi"? Nie, to nie Rosja

Reporter mówi, asfalt "się podnosi"? Nie, to nie Rosja

Źródło:
Konkret24