Wyścig zbrojeń XXI wieku. Technologie deepfake coraz lepsze i groźniejsze

Deepfake coraz bardziej zaawansowanyYoutube

O deepfake jest głośno wraz z każdym takim materiałem wstawionym do sieci. Na początku sierpnia zaskoczenie zaawansowaniem tej technologii wywołał filmik, w którym komik Bill Hader zamienia się w Toma Cruise'a. Zastosowanie takich manipulacyjnych rozwiązań staje się jednak coraz groźniejsze - jedna z firm w USA miała stracić z tego powodu kilka milionów dolarów. Rząd Stanów Zjednoczonych chce stworzyć zaawansowane narzędzia do identyfikowania sfałszowanych treści pojawiających się w sieci.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Siedzący w telewizyjnym studiu amerykański komik Bill Hader nagle staje się Tomem Cruisem. Dokładnie w momencie, gdy o aktorze opowiada. Prowadzący program David Letterman, jakby tego nie zauważając, kontynuuje rozmowę i nie reaguje też, gdy twarz Cruise’a znów staje się twarzą Hadera, by ni stąd, ni zowąd zmienić się w aktora Setha Rogena. Wszystko to widać na popularnym w internecie nagraniu - kolejnym z kategorii deepfake.

"Przerażające, niebezpieczne", ale i "świetne, niewiarygodne" - te słowa najczęściej pojawiają się w komentarzach do nagrania umieszczonego w sieci. Jego źródłem jest kanał na YouTube - Ctrl Shift Face, na którym można znaleźć także inne materiały deepfake. W momencie publikacji tego artykułu, film z Haderem-Cruisem-Rogenem ma już prawie 4 miliony odsłon.

Aktorzy, politycy - każdy może znaleźć się w deepfake'u

Deepfake to w największym skrócie fałszywka, do stworzenia której wykorzystano sztuczną inteligencję. W bardziej skomplikowanym tłumaczeniu to rozwiązanie opierające się na algorytmach tzw. generative adversarial networks (GAN), bazujących na dwóch sieciach. Jedna identyfikuje, analizuje i uczy się schematów w zbiorach danych. Na przykład cech powtarzających się w zdjęciach, wideo czy dźwięku - mimiki, intonacji, tików - tak, by móc odtworzyć np. twarz celebryty. Drugi element GAN porównuje prawdziwe i fałszywe obrazy i sprawdza, czy efekt wygląda realistycznie. Jeśli nie, model twarzy robiony jest tak długo, aż zostanie uznany za realistyczny.

Olbrzymie możliwości technologii "deepfake"
Olbrzymie możliwości technologii "deepfake"TVN24 BiS

Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku i wmontowywały twarze sławnych osób w firmy pornograficzne. W kwietniu 2018 roku serwis Buzzfeed stworzył wideo, w którym Barack Obama nazywa prezydenta Donalda Trumpa głupkiem. W rzeczywistości zdania wypowiadał reżyser Jordan Peele, a postać Obamy była wygenerowana na podstawie istniejących nagrań. Deepfake tworzono też z twarzami Władimira Putina, Donalda Trumpa czy Nicholasa Cage'a.

Dziennikarce "The Guardian" udało się dotrzeć do twórcy wideo, w którym Bill Hader zamienia się w innych aktorów. To mieszkający w Czechach Słowak, który przedstawił się jej jako Tom. Twierdzi, że w sumie zrobił już ok. 20 takich materiałów. W jednym z nich w scenie ze "Lśnienia" występuje nie Jack Nicholson, a Jim Carrey. W innym także pojawia się Bill Hader, ale zamienia się w Arnolda Schwarzeneggera, a ten w kolejnej z fałszywek dostaje twarz Sylvestra Stallone.

Oryginalne nagranie, wykorzystane do zrobienia deepfake’a z Haderem i Cruisem, pochodzi z października 2008 r. Komik był wówczas gościem programu Davida Lettermana "Late Show" i m.in. naśladował głosem niektórych aktorów (m.in. właśnie Toma Cruisa czy Arnolda Schwarzeneggera).

Tom zwraca uwagę, że do stworzenia wiarygodnego deepfake’a konieczny jest materiał wysokiej rozdzielczości. "Dlatego ciężko jest zdeepfake’ować postaci historyczne, na przykład Churchilla - bo jest za mało danych", tłumaczy. Nie jest także zadowolony z przeróbki "Lśnienia", w której zamiast Jacka Nicholsona, słynną kwestię "Here’s Johnny" wypowiada Jim Carrey. - Było zbyt duże zbliżenie - tłumaczy.

Wyścig zbrojeń

Dla przeciętnego użytkownika internetu rozpoznawanie fałszywek staje się jednak coraz trudniejsze. Ale i eksperci zwracają uwagę, że zaawansowanie deepfake'ów budzi bardzo dużo obaw, bo nie są już łatwe do rozpoznania. Po obejrzeniu ostatniego z deepfake'ów Ctrl Shift Face, były dyrektor ds. innowacji Storyful Gavin Sheridan napisał na Twitterze: "ono nadal mnie przeraża. Wyobraźcie sobie, że to zostanie użyte jako broń w już i tak pokiereszowanym i ekstremalnym ekosystemie internetowym. Ludzie przestaną wierzyć swoim oczom i uszom".

"Materiały deepfake pogorszą i tak już poważny problem: oszustw i fałszywych informacji, które staną się nie do powstrzymania", skomentował wideo na portalu społecznościowym hiszpański eurodeputowany Luis Garciano.

Tom tworzone przez siebie materiały nazywa "oknem do równoległego wszechświata". W rozmowie z "The Guardian" broni się, że nie tworzy ich po to, by dezinformować. - Zawsze wspominam, że to deepfake w tytule i opisie filmu - nie chcę nikogo wprowadzać w błąd - tłumaczy. Jak twierdzi, jego wideo jest próbą podniesienia świadomości na temat fake newsów i fałszywych nagrań. - To jest wyścig zbrojeń: ktoś tworzy deepfake’i, a ktoś pracuje nad technologiami, które pozwolą na ich wykrywanie - dodaje.

"Jest więcej manipulatorów niż detektorów"

O potrzebie walki z technologiami deepfake coraz częściej publicznie mówi amerykańska administracja. 13 czerwca w Kongresie Stanów Zjednoczonych odbyło się specjalne wysłuchanie poświęcone manipulacjom w sieci. Było ono reakcją m.in. na serię zmanipulowanych filmików z udziałem spikerki Izby Reprezentantów Nancy Pelosi, które zwróciły uwagę Amerykanów na zagrożenia płynące z manipulacji nagraniami wideo.

Podczas wysłuchania kongresmen Adam Schiff (demokrata) przestrzegał przed "rewolucją techniczną, która może umożliwić jeszcze groźniejsze formy oszukiwania i dezinformacji ze strony złośliwych podmiotów, zagranicznych lub krajowych". Na spotkanie zaproszono także naukowców zajmujących się nowymi technologiami, w tym sztuczną inteligencją.

- To jest wyścig - mówił prof. David Doermann z Uniwersytetu w Buffalo i ekspert od sztucznej inteligencji. - Im lepsi stają się manipulatorzy, tym lepsze muszą być mechanizmy wykrywania, a obecnie jest bez wątpienia o rząd więcej manipulatorów niż detektorów - dodał. Badacz wcześniej pracował w Agencji Zaawansowanych Projektów Badawczych z Zakresu Obronności (DARPA), która jest częścią amerykańskiego Departamentu Obrony, a gdzie Doermann był członkiem zespołu Media Forensics (MediFor) zajmującego się deepfake'ami.

- (Ten - red.) Program został wyznaczony jako odpowiedź na obecne i przyszłe możliwości manipulacji, nie jako proste rozwiązanie, ale z wszechstronnym podejściem - powiedział David Doermann. - Tym czego nie oczekiwaliśmy, była jednak szybkość, z jaką ta technologia ewoluuje - dodał.

Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Podczas wysłuchania w Kongresie dyskutowano także o możliwości narzucenia platformom społecznościowym obowiązku odpowiedniego monitorowania treści deepfake, a także o zmianach prawnych, które pozwoliłyby regulować rozwój sztucznej inteligencji i tworzenie manipulujących materiałów. Jak jednak zwracał uwagę Jack Clark z organizacji badawczej OpenAI, "podobne technologie do tych stosowanych przy tworzeniu tzw. mediów syntetycznych (takich, do powstania których wykorzystuje się algorytmy - red.) lub deepfake'ów, wykorzystuje się także w ważnych badaniach naukowych". - Są one używane przez naukowców, aby umożliwić osobom z problemami ze słuchem zrozumieć, co mówią do nich inni, lub są wykorzystywane w badaniach molekularnych lub innych działaniach, które mogą zrewolucjonizować medycynę - tłumaczył.

"Technologie manipulowania dynamicznie się rozwijają"

DARPA ogłosiła właśnie otwarte konsultacje, podczas których poinformuje o założeniach nowego programu przeznaczonego do walki z deepfake - Semantic Forensics (SemaFor). Jego celem będzie stworzenie technologii automatycznego rozpoznawania i identyfikacji sfałszowanych treści multimedialnych, a także ochrona przed zautomatyzowanymi programami dezinformacji o dużej skali. Do współtworzenia projektu agencja zaprasza ekspertów i prywatne firmy. Zapowiedziano również ogłoszenie przez rząd Stanów Zjednoczonych Broad Agency - BAA. To procedura, której celem jest podjęcie współpracy z prywatnymi firmami w zakresie realizacji zadań zleconych przez państwo, w tym prowadzenie badań.

"Techniki wykrywania statystycznego okazały się skuteczne, ale technologie generowania i manipulowania treści medialnych dynamicznie się rozwijają. Czysto statystyczne metody wykrywania szybko stają się niewystarczające dla wykrywania sfałszowanych treści" - można przeczytać w komunikacie opublikowanym na stronie Federal Business Opportunities, publikującej ogłoszenia o współpracy z rządem.

Manipulowanie wyborcami w internecie
Manipulowanie wyborcami w internecietvn24

Jak wskazuje w ogłoszeniu DARPA, dostępne narzędzia mogą pomijać niektóre treści wytworzone dzięki zaawansowanym narzędziom. Dlatego program SemaFor będzie dążyć do opracowania innowacyjnych technologii semantycznych do analizy mediów. Narzędzia, które zostaną stworzone w programie SemaFor, pozwolą na ustalenie czy materiał jest prawdziwy, czy też został zmanipulowany albo sztucznie wygenerowany. DARPA chce również, by wytworzone narzędzie pozwalało na identyfikację autorów treści, a także na określenie, czy dany materiał został wytworzony w celu dezinformacji. "Technologie pomogą zidentyfikować, powstrzymać i zrozumieć kampanie dezinformacyjne" - można przeczytać w komunikacie.

Stworzenie narzędzia identyfikującego błędy semantyczne byłoby poważnym obciążeniem dla twórców fałszywych treści. "To szansa na zyskanie asymetrycznej przewagi" - napisano w komunikacie DARPA.

Banki narażone na technologie deepfake

Według firmy technologicznej Symantec, w tym roku już trzy duże firmy stały się ofiarami oszustów, wykorzystujących materiały deepfake, bazujące na manipulacji dźwiękiem. W jednym z przypadków, jak podaje "Financial Times", firma przelała 10 mln dolarów przestępcom, którzy wykorzystując sztuczną inteligencję, udawali przez telefon jednego z dyrektorów firmy.

Coraz więcej prywatnych firm także szuka rozwiązań w walce z zaawansowaną manipulacją. W grupie najbardziej narażonej są m.in. banki. Przedstawiciele Symantecu mówią o rosnącej obawie również w branży medycznej i handlowej.

Autor: Krzysztof Jabłonowski, bebi / Źródło: Konkret24, The Guardian; defenseone.com, c4isrnet.com; zdjęcie tytułowe: Youtube

Źródło zdjęcia głównego: Youtube

Pozostałe wiadomości

"To jest mocne" - napisał rzecznik rządu Adam Szłapka, publikując w mediach społecznościowych "wyciąg z systemu wizowego", który miał udowadniać, że za rządów Zjednoczonej Prawicy nie kontrolowano migracji do Polski. Tylko że akurat nie te dane to pokazują.

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Źródło:
Konkret24

Po rocznicy rzezi wołyńskiej w sieci pojawiło się zdjęcie, które rzekomo przedstawia szczątki ofiar w zbiorowej mogile. Drastyczny opis informuje o "10 000 czaszkach małych dzieci". Fotografia nie ma jednak nic wspólnego z ludobójstwem na Wołyniu. Wyjaśniamy, co wiadomo o grobie i ofiarach, które się w nim znajdują.

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

Źródło:
Konkret24

"Biurokratyczny zamordyzm w plastikowym wydaniu" - grzmiał w Sejmie poseł Konfederacji Witold Tumanowicz, twierdząc, że szwedzka fundacja wykazała wzrost liczby wyrzucanych nakrętek po tym, jak Unia Europejska nakazała przytwierdzać je do butelek. Tylko że to nieprawda.

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

Źródło:
Konkret24

Podczas gdy polski polityk wprost podważa zbrodnie popełnione w Auschwitz-Birkenau, w sieci rozpowszechniane są grafiki AI, które mają imitować autentyczne obrazy pokazujące sceny z tego obozu zagłady. Powstają często na bazie prawdziwych, zachowanych zdjęć. "Manipulowanie takim obrazem dla rozrywki bezcześci go" - przestrzega muzeum. Apeluje o niepodawanie dalej takich postów.

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Źródło:
Konkret24

Iga Świątek pokonała Amandę Anisimovą w finale Wimbledonu, przechodząc do historii tenisa. Jej zwycięstwo skomentował premier Donald Tusk, lecz nie ustrzegł się przy tym wpadki.

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Źródło:
Konkret24

W gorącej dyskusji na temat migrantów "przerzucanych" przez niemiecką granicę politycy opozycji stawiają za wzór Danię i Luksemburg. Według nich te dwa kraje mają nie przyjmować żadnych migrantów z Niemiec. Sprawdziliśmy więc, jak to jest. Publikujemy najnowsze niemieckie statystyki.

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Źródło:
Konkret24

Te historie poruszają. Szczególnie tych rodziców, którzy stracili dzieci, a teraz widzą zdjęcia nastolatków i czytają, że zginęli w wypadkach, lecz ich organy posłużyły do przeszczepów. Autorzy takich wpisów "błagają o udostępnienia" - a my ostrzegamy: to fake newsy.

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

Źródło:
Konkret24

Poseł PiS postanowił zaalarmować o wzroście bezrobocia wśród młodych ludzi w Polsce. Choć posłużył się wiarygodnymi danymi, to przedstawił je w taki sposób, że czytelnik może wyciągać błędne wnioski. Wyjaśniamy.

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Źródło:
Konkret24

Opozycja krytykuje rząd za wprowadzenie zakazu lotów dronami nad zachodnią granicą. Według niej ten zakaz ułatwi "przerzucanie" migrantów z Niemiec. A ponadto politycy opozycji twierdzą, że nie ma podstawy prawnej tej decyzji. Wyjaśniamy.

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Źródło:
Konkret24

Posłowie Konfederacji grzmią, że prezydent Warszawy Rafał Trzaskowski postanowił przeznaczyć 700 tysięcy złotych na postawienie na Placu Zbawiciela tęczy. Instalacja ma być symbolem społeczności LGBTQ+. Politycy - a za nimi internauci - zarzucają prezydentowi Warszawy marnowanie pieniędzy. Tylko że on nie ma z tym nic wspólnego.

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

Źródło:
Konkret24

"Grok zerwał się z łańcucha", "Grok zwariował" – przestrzegają użytkownicy platformy X należącej do Elona Muska. Rzeczywiście, chatbot oparty na sztucznej inteligencji obraża Tuska i Giertycha, a pozytywnie pisze o Braunie czy Hitlerze. O co chodzi z tym Grokiem? 

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Źródło:
TVN24+

"Germanizacja w pełni" - tak internauci i niektóre media komentują rzekomą zmianę nazwy mostu Grunwaldzkiego we Wrocławiu z polskiej na niemiecką. Konserwator zabytków i urząd miasta zaprzeczają, a my tłumaczymy, skąd wziął się ten fałszywy przekaz.

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

Źródło:
Konkret24

Wygląda jak lokalny serwis, ale nim nie jest. Zamiast informować, strona ta szerzy antymigrancki hejt. W rzekomej trosce o bezpieczeństwo mieszkańców karmi ich strachem. Promują ją politycy, a firmuje człowiek z komitetu poparcia Karola Nawrockiego. Portal Gazeta Zielonogórska to modelowe źródło dezinformacji niemedialnej. Na czym polega to zjawisko? 

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Źródło:
TVN24+

Prawica rozpowszechnia przekaz o tysiącach "nielegalnych imigrantów" z Afryki, czy Bliskiego Wschodu zawróconych z Niemiec do Polski. Dane - także te najnowsze - pokazują coś zupełnie innego.

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Źródło:
Konkret24

Politycy opozycji grzmią w mediach społecznościowych, że "ludzie Bodnara chcieli zapewnić sobie bezkarność". Jako dowód rozsyłają rzekomy zapis, który miał się znaleźć w ustawie przygotowywanej w Ministerstwie Sprawiedliwości. Resort już się do tego odniósł, a my wyjaśniamy, co dało początek tej narracji.

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

Źródło:
Konkret24

Zdjęcie wykonane nocą niedaleko granicy z Niemcami przez umieszczoną w lesie fotopułapkę wywołało oburzenie w sieci. Polityczka Konfederacji uznała bowiem, że kamera pokazała niemiecki patrol po polskiej stronie granicy. Wyjaśniamy, kogo naprawdę widać na fotografii.

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Źródło:
Konkret24

Po głośnym pożarze budynku w podwarszawskich Ząbkach w mediach społecznościowych pojawiły się teorie, że jego przyczyną były panele fotowoltaiczne. Jako potwierdzenie tej tezy publikowano nawet zdjęcia satelitarne. Straż pożarna dementuje ten przekaz.

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Źródło:
Konkret24

"Wszyscy powinni bić na alarm", "dlaczego zbiorniki retencyjne są pełne", "nie spuszczają wody"... - takie komentarze pojawiły się w sieci po informacjach o zbliżających się ulewach. Internauci alarmują, że zbiorniki retencyjne są już zapełnione, a Wody Polskie na to nie reagują. Przedsiębiorstwo zarządzające zbiornikami odpowiada, że "tworzący alternatywne teorie" internauci nie mają racji.

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Źródło:
Konkret24

Internauci dyskutują, czy na nagraniu z płonącym samochodem, które krąży w sieci, rzeczywiście płonie auto elektryczne. Sprawdzamy, więc co o całym zajściu wiadomo.

"Płonie elektryk" w Koszalinie? Co to za auto

"Płonie elektryk" w Koszalinie? Co to za auto

Źródło:
Konkret24

Kolejne państwa strefy Schengen przywracają kontrole graniczne, dlatego coraz częściej można usłyszeć głosy o "końcu" czy nawet "zabiciu Schengen". Eksperci wymieniają jednak zaskakujące powody, dla których ich zdaniem strefa nie tylko przetrwa, ale będzie się rozszerzać.

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Źródło:
TVN24+

Internauci, ale też poseł Marek Jakubiak oburzają się na zdjęcie polskiego policjanta, który na ramieniu ma naszywkę z flagą unijną. Wyjaśniamy, co to za naszywka.

"Europejska policja"? Co oznacza naszywka na mundurze

"Europejska policja"? Co oznacza naszywka na mundurze

Źródło:
Konkret24

Politycy opozycji utrzymują, że polski rząd nie przedstawia prawdziwych danych o liczbie migrantów "przerzucanych" z Niemiec do Polski, podczas gdy według władz niemieckich są to "duże liczby, tysiące w skali jednego miesiąca". Publikujemy więc najnowsze statystyki otrzymane z niemieckiej policji - nie potwierdzają takich twierdzeń.

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Źródło:
Konkret24

Szef MSZ oferuje Karolowi Nawrockiemu "możliwość zbriefowania" go, jeśli chodzi o politykę zagraniczną rządu. W odpowiedzi przyszły rzecznik kancelarii prezydenta poucza, co należy do prerogatyw głowy państwa. Tak więc w nowej politycznej rzeczywistości wróci stary spór, a konstytucja się przecież nie zmieniła. Wyjaśniamy.

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

Źródło:
Konkret24