Deep fake'ów w sieci już nie unikniemy - naukowcy o możliwości ich weryfikacji

Walka z deep fake'amiShutterstock

Chociaż technologia tworzenia filmów typu deep fake staje się coraz bardziej doskonała i powszechna, naukowcy z Rochester Institute of Technology zapowiadają, że także narzędzia do weryfikacji takich nagrań będą wkrótce dostępne. Przedstawiają dwie metody, które są wykorzystywane.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Dziennikarze na całym świecie wkrótce będą mogli korzystać z narzędzia pozwalającego na wykrywanie materiałów typu deep fake - zapowiadają John Sohrawardi i Matthew Wright, badacze z Rochester Institute of Technology. Ich zdaniem za kilka lat takie narzędzie może być używane przez każdego, kto będzie chciał sam wyłapywać i usuwać fałszywe wideo publikowane w jego mediach społecznościowych.

Sohrawardi i Wright są autorami artykułu na ten temat, który opublikował portal The Conversation. Poniżej przestawiamy jego tłumaczenie (śródtytuły pochodzą od redakcji).

Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Widzimy przyszłość dla takich narzędzi

Dziennikarz śledczy dostaje wideo od anonimowego informatora. Film przedstawia kandydata na prezydenta przyznającego się do działań niezgodnych z prawem. Ale czy to nagranie jest prawdziwe? Jeśli tak, to byłaby to bardzo ważna historia - może najważniejszy materiał w karierze tego dziennikarza, która mógłby zmienić bieg kampanii wyborczej i wynik nadchodzących wyborów.

Ale dziennikarz sprawdza wideo za pomocą specjalistycznego narzędzia - ono pokazuje, że nagranie nie jest tym, czym się wydaje. To tak naprawdę deep fake, film stworzony przy użyciu sztucznej inteligencji i deep learning, czyli głębokiego uczenia się (rodzaj uczenia maszynowego; na dużych zbiorach informacji sztuczna inteligencja doskonali swoje umiejętności rozpoznawania tekstu, obrazu i dźwięku - red.).

Jako naukowcy, którzy już od jakiegoś czasu badają sposoby wykrywania deep fake'ow, widzimy przyszłość dla takich narzędzi. Nie rozwiążą wszystkich naszych problemów, ale będą częścią arsenału broni do walki z dezinformacją.

Dlaczego demaskowanie deep fake'ów jest takie ważne

Wielu z nas wie, że nie można wierzyć we wszystko, co się widzi. Przez ostatnie kilka dekad świadomi odbiorcy informacji przyzwyczaili się do oglądania zdjęć z przerobionych za pomocą programów do fotoedycji. Jednak wideo to inna historia. Hollywoodzcy reżyserzy, by stworzyć realistyczną scenę, potrafią wydać miliony dolarów na efekty specjalne. A przy użyciu technologii deep fake amatorzy ze sprzętem komputerowym za kilka tysięcy dolarów w ciągu kilku tygodni mogą stworzyć coś, co do złudzenia imituje rzeczywistość.

Deep fake'i pozwalają umieścić w filmowych scenach osoby, które nigdy w nich nie wystąpiły - na przykład Toma Cruise'a w roli Iron Mana - co czyni tego typu materiały zabawnymi.Niestety, dzięki tej samej technologii możliwe jest również tworzenie fałszywej pornografii, bez zgody przedstawionych w nich osób (o tego typu fałszywych nagraniach pisaliśmy w Konkret24 - red.). To one są dziś głównymi ofiarami nadużyć technologii deep fake.

Technologia ta może być wykorzystana do tworzenia filmów, w których polityczni przywódcy mówią rzeczy, jakich nigdy nie powiedzieli. W 2018 roku Belgijska Partia Socjalistyczna opublikowała słabej jakości nagranie, na którym prezydent Trump miał obrażać Belgię. To nie deep fake, ale jest to nieprawdziwe wideo. Uzyskało wystarczająco dużo reakcji, by pokazać potencjalne zagrożenia związane z pojawieniem się wysokiej jakości deep fake'ów.

Niebezpieczne jest także i to, że można je wykorzystać, by wzbudzić wątpliwości co do autentyczności prawdziwych filmów - sugerując, że mogły powstać z wykorzystaniem sztucznej inteligencji.

Biorąc pod uwagę te zagrożenia, wyjątkowo cenna byłaby możliwość wykrycia fałszywych nagrań i wyraźnego oznaczenia ich. Dzięki temu fałszywe wideo nie wprowadzałoby w błąd opinii publicznej, a prawdziwe nagrania mogłyby nadal być uznawane za autentyczne.

Dwie metody wykrywania deep fake'ów

Wykrywanie fałszywych nagraństało się przedmiotem badań naukowców nieco ponad trzy lata temu. Początkowo prace koncentrowały się na wykrywaniu zauważalnych problemów w nagraniach deep fake, np. ich bohaterowie nie mrugali. Z czasem jednak takie materiały stawały się coraz lepsze w naśladowaniu prawdziwych filmów. Tym samym dostrzeżenie, czy wideo to deep fake, czy nie, stało się trudne zarówno dla ludzi, jak i dla narzędzi mających to wykrywać.

Są dwa główne sposoby na wykrywanie deep fake'ów. Pierwszy polega na analizie zachowań konkretnych ludzi widocznych na nagraniach. Załóżmy, że masz sporo materiału wideo z udziałem kogoś sławnego - na przykład byłego prezydenta Stanów Zjednoczonych Baracka Obamy. Sztuczna inteligencja (AI) potrafi wykorzystać informacje z nagrań, by nauczyć się zachowań Obamy: od gestów dłoni po to, kiedy robi pauzy w mówieniu. Sztuczna inteligencja może wtedy przeanalizować deep fake'a z Obamą i zauważyć, gdzie jego zachowanie nie pasuje do schematu. Ten sposób może działać, nawet jeśli sama jakość zmanipulowanego wideo jest praktycznie doskonała.

Spot typu deepfake przygotowany przez belgijską partię sp.a
Spot typu deepfake przygotowany przez belgijską partię sp.asp.a

Inni badacze, w tym nasz zespół, koncentrują się na różnicach między deep fake'em a prawdziwym nagraniem. Filmy deep fake są często tworzone poprzez łączenie indywidualnie wygenerowanych kadrów. Dlatego metody naszego zespołu pozwalają wyodrębnić istotne informacje z twarzy widocznych w poszczególnych klatkach filmu, a następnie śledzić je poprzez kolejne zestawy ujęć. Pozwala to na wykrycie niespójności w przepływie informacji z jednej klatki na drugą. Podobną metodę stosujemy również w naszym systemie weryfikacji dźwięku.

Te subtelne szczegóły są trudne do dostrzeżenia przez ludzi, ale pokazują, że nagrania deep fake nie są jeszcze całkiem doskonałe. Detektory fałszywych nagrań mogą przydać się każdemu, nie tylko garstce światowych liderów. Może się okazać, że oba podejścia do wykrywania deep fake'ów znajdą się w użyciu.

Najnowsze systemy weryfikacji bardzo dobrze sprawdzają się w przypadku filmów zgromadzonych specjalnie w celu oceny tych narzędzi. Niestety, nawet najlepsze słabo radzą sobie z filmami znalezionymi w internecie. Ulepszenie tych narzędzi tak, aby stały się bardziej użyteczne, będzie kluczowe.

Dziennikarze pierwszą linią obrony

Dobrze byłoby, gdyby każdy miał dostęp do narzędzi pozwalających na weryfikację deep fake'ow. Dziś ta technologia znajduje się we wczesnej fazie rozwoju. Zanim zostanie udostępniona na szeroką skalę, naukowcy muszą ją udoskonalić i chronić przed hakerami.

Jednak w tym samym czasie narzędzia do tworzenia deep fake'ów są dostępne dla każdego, kto chce oszukać opinię publiczną. Czekanie na ostateczną technologię demaskująca je nie wchodzi więc w grę. Dla naszego zespołu właściwą równowagą była praca z dziennikarzami, ponieważ to oni są pierwszą linią obrony przed rozprzestrzenianiem się dezinformacji.

Przed opublikowaniem historii dziennikarze muszą zweryfikować uzyskane informacje. Dysponują już sprawdzonymi metodami jak konsultacje z ekspertami i sprawdzanie kluczowych faktów przez więcej niż jedną osobę. Oddając narzędzie w ich ręce, przekazujemy im więcej informacji i wiemy, że nie będą polegać wyłącznie na technologii, gdyż i ta może popełniać błędy.

Jako badacze podejmujemy wyzwanie

Dobrze jest widzieć, że zespoły Facebooka i Microsoftu inwestują w technologię, by zrozumieć i wykrywać nagrania deep fake. By dotrzymać kroku postępowi tej technologii, potrzeba więcej badań. Dziennikarze i portale społecznościowe muszą także wypracować najlepsze możliwe sposoby ostrzegania ludzi przed wykrytymi fałszywymi nagraniami. Badania pokazały, że ludzie pamiętają kłamstwo, ale nie fakt, że było ono kłamstwem. Czy ten sam problem będzie dotyczył fałszywych filmów? Samo umieszczenie w tytule "deep fake" może nie wystarczyć.

Nagrania typu deep fake już są - i z nami zostaną. Ponieważ sztuczna inteligencja staje się coraz bardziej skuteczna, zarządzanie dezinformacją i ochrona społeczeństwa będą trudniejsze niż kiedykolwiek wcześniej. Jesteśmy częścią rosnącej społeczności badawczej, która podejmuje wyzwanie, jakim jest technologia deep fake.

John Sohrawardi jest doktorantem nauk informatycznych Rochester Institute of Technology. Profesor Matthew Wright specjalizujący się w bezpieczeństwie cyfrowym jest kierownikiem badań Global Cybersecurity Institute w Rochester Institute of Technology. Ich artykuł został opublikowany w portalu The Conversation pt. "In a battle of AI versus AI, researchers are preparing for the coming wave of deepfake propaganda". Tłumaczenie na podstawie licencji Creative Commons.

Autor: John Sohrawardi i Matthew Wright (tłum. Gabriela Sieczkowska) / Źródło: The Conversation; zdjęcie: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Ponad 130 milionów złotych wydało w sumie na kampanię pięć komitetów wyborczych, które w wyborach parlamentarnych w 2023 roku wprowadziły posłów do Sejmu. Blisko jedną trzecią tej sumy stanowią wydatki Prawa i Sprawiedliwości. Z analizy kosztów promocyjnych wynika, że spośród mediów najważniejszym kanałem komunikacji dla wszystkich głównych partii był internet.

Miliony złotych na kampanię wyborczą 2023. Kto ile wydał?

Miliony złotych na kampanię wyborczą 2023. Kto ile wydał?

Źródło:
Konkret24

Karolina Pikuła, kandydatka Konfederacji Korony Polskiej na prezydenta Rzeszowa, opublikowała w serwisie X tekst uderzający w Ukrainę, ilustrując go zdjęciem powieszonych na drzewie dzieci. Według niej fotografia ta dokumentuje zbrodnie na Wołyniu - a to nieprawda. Nie ma nic wspólnego ani z Ukrainą, ani tym bardziej z wydarzeniami z 1943 roku.

Kandydatka na prezydenta Rzeszowa i jej antyukraiński fejk

Kandydatka na prezydenta Rzeszowa i jej antyukraiński fejk

Źródło:
Konkret24

"To przedział 400 czy 350 tysięcy...", "jedna osoba to 22 tysiące euro..." - politycy opozycji przekonują, że zgoda na unijny pakt migracyjny będzie kosztowała Polskę nawet 40 miliardów złotych rocznie. Jednak ani podawane przez nich liczby, ani kwoty nie są prawdziwe. To manipulacja mająca wzmacniać w społeczeństwie niechęć do Unii Europejskiej i migrantów.

"33 miliardy, 40 miliardów złotych". PiS przelicza migrantów na złotówki. Wprowadza w błąd

"33 miliardy, 40 miliardów złotych". PiS przelicza migrantów na złotówki. Wprowadza w błąd

Źródło:
Konkret24

Poseł Konfederacji Stanisław Tyszka dyskutował w radiu z posłanką Lewicy Dorotą Olko na temat Krajowego Planu Odbudowy. Według posła w KPO nie przewidziano pieniędzy na budowę mieszkań, jednak posłanka Lewicy nie zgadzała się z tą tezą. Sprawdziliśmy, kto ma rację. Odpowiedź jest zawarta między innymi w nowym programie Ministerstwa Rozwoju i Technologii.

Tyszka czy Olko? Kto ma rację w sprawie pieniędzy na mieszkania w KPO

Tyszka czy Olko? Kto ma rację w sprawie pieniędzy na mieszkania w KPO

Źródło:
Konkret24

Uwaga na fałszywe informacje i manipulacje nawiązujące do trwających m.in. w Polsce ćwiczeń NATO. Użytkownicy serwisu X rozsyłają wpis z wprowadzającym w błąd przekazem o uczestniczących w manewrach brytyjskich żołnierzach.

"Wielka Brytania przygotowuje się do konfliktu z Putinem?" Ekspert: typowe elementy rosyjskiego przekazu propagandowego

"Wielka Brytania przygotowuje się do konfliktu z Putinem?" Ekspert: typowe elementy rosyjskiego przekazu propagandowego

Źródło:
Konkret24, PAP

Na komisji sejmowej ekspertka resortu klimatu i środowiska stwierdziła, że "polskie lasy przestały pochłaniać dwutlenek węgla, czyli nie pełnią już swojej roli". Reakcją był śmiech części obecnych na obradach. Nagranie tej sytuacji wywołuje wiele emocji również wśród internautów. Tyle że zostało zmanipulowane, a słowa ekspertki mają szerszy kontekst, który wyjaśnia w dalszej części wypowiedzi jak i w sieci.

Ekspertka: polskie lasy przestały pochłaniać dwutlenek węgla. Została wyśmiana i skrytykowana w sieci. Niesłusznie

Ekspertka: polskie lasy przestały pochłaniać dwutlenek węgla. Została wyśmiana i skrytykowana w sieci. Niesłusznie

Źródło:
Konkret24

Premier Donald Tusk zapowiedział, że rząd wprowadzi na listę infrastruktury krytycznej przejścia graniczne z Ukrainą i wybrane odcinki dróg i torów kolejowych. Z pomocą ekspertów tłumaczymy, co ta decyzja może oznaczać w praktyce.

Premier: przejścia graniczne, drogi i tory kolejowe mają być infrastrukturą krytyczną. Co to znaczy w praktyce?

Premier: przejścia graniczne, drogi i tory kolejowe mają być infrastrukturą krytyczną. Co to znaczy w praktyce?

Źródło:
Konkret24

Poseł Konfederacji Grzegorz Płaczek napisał, że resort edukacji planuje wprowadzić "nowy przedmiot omawiający skuteczność szczepień i świat osób LGBT". Ale to inny urząd zaproponował nauczanie przedmiotu pokrywającego się z tymi zagadnieniami, a MEN nie ma takich planów.

Poseł Konfederacji: MEN planuje nowy przedmiot o szczepieniach i LGBT. Nie

Poseł Konfederacji: MEN planuje nowy przedmiot o szczepieniach i LGBT. Nie

Źródło:
Konkret24

Według posła Przemysława Wiplera ani w Polsce, ani w Europie nie produkuje się amunicji, w tym artyleryjskiej. Wipler upierał się, że w tej materii w ciągu ostatnich dwóch lat "nie było żadnych istotnych inwestycji". Wedle zapewnień jednego z najwyższych unijnych urzędników produkcję pocisków artyleryjskich zwiększono o 40 proc.

Wipler: w Polsce i w Europie "nie produkuje się amunicji", "nie było inwestycji". Nieprawda

Wipler: w Polsce i w Europie "nie produkuje się amunicji", "nie było inwestycji". Nieprawda

Źródło:
Konkret24

Politycy PiS lansują obecnie przekaz, że nowy rząd "zwija Polskę" i jakoby rezygnuje z kluczowych, rozpoczętych przez poprzedni rząd inwestycji - CPK, portu kontenerowego czy fabryki półprzewodników. Sprawdziliśmy więc, co o tych projektach mówią przedstawiciele nowej władzy i które z nich na pewno będą kontynuowane.

Posłanka PiS: zwijają Polskę w zawrotnym tempie. Sprawdzamy status inwestycji

Posłanka PiS: zwijają Polskę w zawrotnym tempie. Sprawdzamy status inwestycji

Źródło:
Konkret24

Unia Europejska ma nowy pomysł: każdy właściciel krowy, świni, konia lub kury będzie musiał płacić za emisję gazów cieplarnianych przez te zwierzęta - tak przynajmniej twierdzą autorzy wpisów w mediach społecznościowych. Komisja Europejska zaprzecza, a my wyjaśniamy, na jakim etapie jest wdrażanie koncepcji "kto emituje, ten płaci" w rolnictwie.

Rolnik zapłaci za emisję gazów przez krowę, świnię, kurę? KE: nie ma takich planów

Rolnik zapłaci za emisję gazów przez krowę, świnię, kurę? KE: nie ma takich planów

Źródło:
Konkret24

Wbrew informacjom rozsyłanym przez internautów, w latach 2022-2023 do Polski wcale nie przywieziono 12 milionów ton zboża z Rosji. Sprowadzono wielokrotnie mniej.

"Polska sprowadziła 12 milionów ton rosyjskiego zboża"? To nieprawda

"Polska sprowadziła 12 milionów ton rosyjskiego zboża"? To nieprawda

Źródło:
Konkret24

Jarosław Kaczyński w swoich rozważaniach na temat ochrony środowiska podważył wpływ człowieka na zmiany klimatyczne. Przywołał opinię, że to, "co ludzie robią dla zanieczyszczenia atmosfery, to (...) jakby w wielkiej hali sportowej zapalić zapałkę". Stwierdził też, że naturalna emisja dwutlenku węgla, w tym z erupcji wulkanów, jest większa, niż pochodząca z działalności człowieka. Prezes Prawa i Sprawiedliwości się myli.

Klimat, wulkany i emisje CO2. Co nie zgadza się w wypowiedzi Jarosława Kaczyńskiego

Klimat, wulkany i emisje CO2. Co nie zgadza się w wypowiedzi Jarosława Kaczyńskiego

Źródło:
Konkret24

Zapowiedź wspólnej wizyty polskiego prezydenta i premiera w Białym Domu wzbudziła emocje po obu stronach sceny politycznej. Ze strony polityków PiS pojawiły się sugestie, że takie zaproszenie to bardziej gest Joe Bidena w stronę Donalda Tuska, bo "typowa wizyta" w Białym Domu to wizyta prezydenta. Polscy premierzy gościli jednak u amerykańskich prezydentów, choć rzadziej niż prezydenci.

Szczucki: "typowa wizyta" w Białym Domu to wizyta prezydenta. Ale polscy premierzy też tam bywali

Szczucki: "typowa wizyta" w Białym Domu to wizyta prezydenta. Ale polscy premierzy też tam bywali

Źródło:
Konkret24

"Ludobójstwo na Wołyniu ma zostać skreślone", "Dzieci mają się nie uczyć o tym, w jaki sposób bohatersko Polacy pomagali Żydom" - politycy komentują propozycje zmian szkolnych podstaw programowych z historii. Czy uczniowie rzeczywiście nie dowiedzą się o kluczowych postaciach i wydarzeniach z historii Polski? Tłumaczymy, na czym polegały prekonsultacje w sprawie zmian programowych.

"Dzieci mają się nie uczyć" o Wołyniu, Pileckim, Powstaniu Wielkopolskim? Wyjaśniamy

"Dzieci mają się nie uczyć" o Wołyniu, Pileckim, Powstaniu Wielkopolskim? Wyjaśniamy

Źródło:
Konkret24

Te witryny wyglądają jak lokalne portale, a tak naprawdę są częścią chińskiej siatki dezinformacyjnej działającej w 30 państwach Europy, Azji i Ameryki Łacińskiej. Dwie z nich działają w Polsce - wynika z raportu Citizen Lab. Przeanalizowaliśmy ich treści i powiązania.

Udają lokalne portale, sieją chińską propagandę. Jak działa Paperwall

Udają lokalne portale, sieją chińską propagandę. Jak działa Paperwall

Źródło:
Citizen Lab, Konkret24

"Zamiast CPK - mokradła, zamiast elektrowni jądrowej - mokradła, zamiast Odry - mokradła" - tak ironicznie europoseł PiS Dominik Tarczyński podsumował plany resortu klimatu dotyczące ochrony mokradeł w Polsce. Sugerował, że zamiast stawiać na rozwój i dobrobyt, obecna władza planuje jedynie "powrót do mokradeł". Eksperci tłumaczą, dlaczego nie ma racji.

Tarczyński straszy "powrotem do mokradeł". Eksperci: populizm, etycznie naganne

Tarczyński straszy "powrotem do mokradeł". Eksperci: populizm, etycznie naganne

Źródło:
Konkret24

Ponad 50 tys. wyświetleń ma wpis znanego muzyka Zbigniewa Hołdysa ze zdjęciem piosenkarki Taylor Swift w antytrumpowskiej koszulce. To przerobiona fotografia, która krąży w sieci od kilku tygodni.

Taylor Swift w antytrumpowskiej koszulce. To nieprawdziwe zdjęcie

Taylor Swift w antytrumpowskiej koszulce. To nieprawdziwe zdjęcie

Źródło:
Konkret24

Film robi wrażenie: stacja Euronews miała pokazać, jak francuscy rolnicy, oburzeni listem ukraińskiego ambasadora, obrzucili budynek ambasady Ukrainy obornikiem. Lecz ani nie jest to materiał Euronews, ani ukraińska ambasada, a list został spreparowany. Choć prawdą jest, że zrzucono obornik pod pewnym budynkiem we Francji.

Rolnicy "obrzucili obornikiem ukraińską ambasadę"? W tym filmie nic się nie zgadza

Rolnicy "obrzucili obornikiem ukraińską ambasadę"? W tym filmie nic się nie zgadza

Źródło:
Konkret24

Donald Trump podtrzymuje stanowisko, że Ameryka nie powinna chronić państw, które "nie płacą zobowiązań" w NATO - i powtórzył to na kolejnym wiecu. "Stany Zjednoczone płaciły niemal za wszystko" - oświadczył. Wypowiedzi byłego prezydenta USA mogą wprowadzać w błąd: czym innym są wydatki obronne państw członkowskich, czym innym budżet NATO - na ten składają się wszystkie kraje sojuszu.

Trump: nie płacicie, nie będziemy chronić.  Skąd jest budżet NATO? 

Trump: nie płacicie, nie będziemy chronić. Skąd jest budżet NATO? 

Źródło:
Konkret24

Prawo i Sprawiedliwość w swoim najnowszym spocie o bezpieczeństwie Polski chwali się, że za czasów rządów tej partii podwoiła się liczba żołnierzy. To wprowadzające w błąd porównanie. Wyjaśniamy.

PiS w spocie: podwoiliśmy liczbę żołnierzy. Niezupełnie

PiS w spocie: podwoiliśmy liczbę żołnierzy. Niezupełnie

Źródło:
Konkret24

Kandydat PiS na prezydenta Warszawy Tobiasz Bocheński zarzuca obecnym władzom miasta, że praktycznie nie konsultowały się z mieszkańcami w sprawie wprowadzenia Strefy Czystego Transportu - która, jak wiadomo, budzi duże emocje. Przeanalizowaliśmy działania ratusza w tej sprawie. Bocheński się myli.

Bocheński: Strefa Czystego Transportu w Warszawie "bez konsultacji społecznych". Nieprawda

Bocheński: Strefa Czystego Transportu w Warszawie "bez konsultacji społecznych". Nieprawda

Źródło:
Konkret24

Prawo i Sprawiedliwość mówi o "lewackim Zielonym Ładzie", a rządzący przypominają, że to przecież realizacja "polityki Janusza Wojciechowskiego". Wyjaśniamy, czym jest Europejski Zielony Ład, jak jest powiązany z polityką rolną UE oraz na co zgadzali się w Brukseli polski komisarz i rząd Mateusza Morawieckiego.

Komisarz Wojciechowski, rolnicy i rządy PiS. "Komu zawdzięczamy Zielony Ład"?

Komisarz Wojciechowski, rolnicy i rządy PiS. "Komu zawdzięczamy Zielony Ład"?

Źródło:
Konkret24