Wyścig zbrojeń XXI wieku. Technologie deepfake coraz lepsze i groźniejsze

Deepfake coraz bardziej zaawansowanyYoutube

O deepfake jest głośno wraz z każdym takim materiałem wstawionym do sieci. Na początku sierpnia zaskoczenie zaawansowaniem tej technologii wywołał filmik, w którym komik Bill Hader zamienia się w Toma Cruise'a. Zastosowanie takich manipulacyjnych rozwiązań staje się jednak coraz groźniejsze - jedna z firm w USA miała stracić z tego powodu kilka milionów dolarów. Rząd Stanów Zjednoczonych chce stworzyć zaawansowane narzędzia do identyfikowania sfałszowanych treści pojawiających się w sieci.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Siedzący w telewizyjnym studiu amerykański komik Bill Hader nagle staje się Tomem Cruisem. Dokładnie w momencie, gdy o aktorze opowiada. Prowadzący program David Letterman, jakby tego nie zauważając, kontynuuje rozmowę i nie reaguje też, gdy twarz Cruise’a znów staje się twarzą Hadera, by ni stąd, ni zowąd zmienić się w aktora Setha Rogena. Wszystko to widać na popularnym w internecie nagraniu - kolejnym z kategorii deepfake.

"Przerażające, niebezpieczne", ale i "świetne, niewiarygodne" - te słowa najczęściej pojawiają się w komentarzach do nagrania umieszczonego w sieci. Jego źródłem jest kanał na YouTube - Ctrl Shift Face, na którym można znaleźć także inne materiały deepfake. W momencie publikacji tego artykułu, film z Haderem-Cruisem-Rogenem ma już prawie 4 miliony odsłon.

Aktorzy, politycy - każdy może znaleźć się w deepfake'u

Deepfake to w największym skrócie fałszywka, do stworzenia której wykorzystano sztuczną inteligencję. W bardziej skomplikowanym tłumaczeniu to rozwiązanie opierające się na algorytmach tzw. generative adversarial networks (GAN), bazujących na dwóch sieciach. Jedna identyfikuje, analizuje i uczy się schematów w zbiorach danych. Na przykład cech powtarzających się w zdjęciach, wideo czy dźwięku - mimiki, intonacji, tików - tak, by móc odtworzyć np. twarz celebryty. Drugi element GAN porównuje prawdziwe i fałszywe obrazy i sprawdza, czy efekt wygląda realistycznie. Jeśli nie, model twarzy robiony jest tak długo, aż zostanie uznany za realistyczny.

Olbrzymie możliwości technologii "deepfake"
Olbrzymie możliwości technologii "deepfake"TVN24 BiS

Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku i wmontowywały twarze sławnych osób w firmy pornograficzne. W kwietniu 2018 roku serwis Buzzfeed stworzył wideo, w którym Barack Obama nazywa prezydenta Donalda Trumpa głupkiem. W rzeczywistości zdania wypowiadał reżyser Jordan Peele, a postać Obamy była wygenerowana na podstawie istniejących nagrań. Deepfake tworzono też z twarzami Władimira Putina, Donalda Trumpa czy Nicholasa Cage'a.

Dziennikarce "The Guardian" udało się dotrzeć do twórcy wideo, w którym Bill Hader zamienia się w innych aktorów. To mieszkający w Czechach Słowak, który przedstawił się jej jako Tom. Twierdzi, że w sumie zrobił już ok. 20 takich materiałów. W jednym z nich w scenie ze "Lśnienia" występuje nie Jack Nicholson, a Jim Carrey. W innym także pojawia się Bill Hader, ale zamienia się w Arnolda Schwarzeneggera, a ten w kolejnej z fałszywek dostaje twarz Sylvestra Stallone.

Oryginalne nagranie, wykorzystane do zrobienia deepfake’a z Haderem i Cruisem, pochodzi z października 2008 r. Komik był wówczas gościem programu Davida Lettermana "Late Show" i m.in. naśladował głosem niektórych aktorów (m.in. właśnie Toma Cruisa czy Arnolda Schwarzeneggera).

Tom zwraca uwagę, że do stworzenia wiarygodnego deepfake’a konieczny jest materiał wysokiej rozdzielczości. "Dlatego ciężko jest zdeepfake’ować postaci historyczne, na przykład Churchilla - bo jest za mało danych", tłumaczy. Nie jest także zadowolony z przeróbki "Lśnienia", w której zamiast Jacka Nicholsona, słynną kwestię "Here’s Johnny" wypowiada Jim Carrey. - Było zbyt duże zbliżenie - tłumaczy.

Wyścig zbrojeń

Dla przeciętnego użytkownika internetu rozpoznawanie fałszywek staje się jednak coraz trudniejsze. Ale i eksperci zwracają uwagę, że zaawansowanie deepfake'ów budzi bardzo dużo obaw, bo nie są już łatwe do rozpoznania. Po obejrzeniu ostatniego z deepfake'ów Ctrl Shift Face, były dyrektor ds. innowacji Storyful Gavin Sheridan napisał na Twitterze: "ono nadal mnie przeraża. Wyobraźcie sobie, że to zostanie użyte jako broń w już i tak pokiereszowanym i ekstremalnym ekosystemie internetowym. Ludzie przestaną wierzyć swoim oczom i uszom".

"Materiały deepfake pogorszą i tak już poważny problem: oszustw i fałszywych informacji, które staną się nie do powstrzymania", skomentował wideo na portalu społecznościowym hiszpański eurodeputowany Luis Garciano.

Tom tworzone przez siebie materiały nazywa "oknem do równoległego wszechświata". W rozmowie z "The Guardian" broni się, że nie tworzy ich po to, by dezinformować. - Zawsze wspominam, że to deepfake w tytule i opisie filmu - nie chcę nikogo wprowadzać w błąd - tłumaczy. Jak twierdzi, jego wideo jest próbą podniesienia świadomości na temat fake newsów i fałszywych nagrań. - To jest wyścig zbrojeń: ktoś tworzy deepfake’i, a ktoś pracuje nad technologiami, które pozwolą na ich wykrywanie - dodaje.

"Jest więcej manipulatorów niż detektorów"

O potrzebie walki z technologiami deepfake coraz częściej publicznie mówi amerykańska administracja. 13 czerwca w Kongresie Stanów Zjednoczonych odbyło się specjalne wysłuchanie poświęcone manipulacjom w sieci. Było ono reakcją m.in. na serię zmanipulowanych filmików z udziałem spikerki Izby Reprezentantów Nancy Pelosi, które zwróciły uwagę Amerykanów na zagrożenia płynące z manipulacji nagraniami wideo.

Podczas wysłuchania kongresmen Adam Schiff (demokrata) przestrzegał przed "rewolucją techniczną, która może umożliwić jeszcze groźniejsze formy oszukiwania i dezinformacji ze strony złośliwych podmiotów, zagranicznych lub krajowych". Na spotkanie zaproszono także naukowców zajmujących się nowymi technologiami, w tym sztuczną inteligencją.

- To jest wyścig - mówił prof. David Doermann z Uniwersytetu w Buffalo i ekspert od sztucznej inteligencji. - Im lepsi stają się manipulatorzy, tym lepsze muszą być mechanizmy wykrywania, a obecnie jest bez wątpienia o rząd więcej manipulatorów niż detektorów - dodał. Badacz wcześniej pracował w Agencji Zaawansowanych Projektów Badawczych z Zakresu Obronności (DARPA), która jest częścią amerykańskiego Departamentu Obrony, a gdzie Doermann był członkiem zespołu Media Forensics (MediFor) zajmującego się deepfake'ami.

- (Ten - red.) Program został wyznaczony jako odpowiedź na obecne i przyszłe możliwości manipulacji, nie jako proste rozwiązanie, ale z wszechstronnym podejściem - powiedział David Doermann. - Tym czego nie oczekiwaliśmy, była jednak szybkość, z jaką ta technologia ewoluuje - dodał.

Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Podczas wysłuchania w Kongresie dyskutowano także o możliwości narzucenia platformom społecznościowym obowiązku odpowiedniego monitorowania treści deepfake, a także o zmianach prawnych, które pozwoliłyby regulować rozwój sztucznej inteligencji i tworzenie manipulujących materiałów. Jak jednak zwracał uwagę Jack Clark z organizacji badawczej OpenAI, "podobne technologie do tych stosowanych przy tworzeniu tzw. mediów syntetycznych (takich, do powstania których wykorzystuje się algorytmy - red.) lub deepfake'ów, wykorzystuje się także w ważnych badaniach naukowych". - Są one używane przez naukowców, aby umożliwić osobom z problemami ze słuchem zrozumieć, co mówią do nich inni, lub są wykorzystywane w badaniach molekularnych lub innych działaniach, które mogą zrewolucjonizować medycynę - tłumaczył.

"Technologie manipulowania dynamicznie się rozwijają"

DARPA ogłosiła właśnie otwarte konsultacje, podczas których poinformuje o założeniach nowego programu przeznaczonego do walki z deepfake - Semantic Forensics (SemaFor). Jego celem będzie stworzenie technologii automatycznego rozpoznawania i identyfikacji sfałszowanych treści multimedialnych, a także ochrona przed zautomatyzowanymi programami dezinformacji o dużej skali. Do współtworzenia projektu agencja zaprasza ekspertów i prywatne firmy. Zapowiedziano również ogłoszenie przez rząd Stanów Zjednoczonych Broad Agency - BAA. To procedura, której celem jest podjęcie współpracy z prywatnymi firmami w zakresie realizacji zadań zleconych przez państwo, w tym prowadzenie badań.

"Techniki wykrywania statystycznego okazały się skuteczne, ale technologie generowania i manipulowania treści medialnych dynamicznie się rozwijają. Czysto statystyczne metody wykrywania szybko stają się niewystarczające dla wykrywania sfałszowanych treści" - można przeczytać w komunikacie opublikowanym na stronie Federal Business Opportunities, publikującej ogłoszenia o współpracy z rządem.

Manipulowanie wyborcami w internecie
Manipulowanie wyborcami w internecietvn24

Jak wskazuje w ogłoszeniu DARPA, dostępne narzędzia mogą pomijać niektóre treści wytworzone dzięki zaawansowanym narzędziom. Dlatego program SemaFor będzie dążyć do opracowania innowacyjnych technologii semantycznych do analizy mediów. Narzędzia, które zostaną stworzone w programie SemaFor, pozwolą na ustalenie czy materiał jest prawdziwy, czy też został zmanipulowany albo sztucznie wygenerowany. DARPA chce również, by wytworzone narzędzie pozwalało na identyfikację autorów treści, a także na określenie, czy dany materiał został wytworzony w celu dezinformacji. "Technologie pomogą zidentyfikować, powstrzymać i zrozumieć kampanie dezinformacyjne" - można przeczytać w komunikacie.

Stworzenie narzędzia identyfikującego błędy semantyczne byłoby poważnym obciążeniem dla twórców fałszywych treści. "To szansa na zyskanie asymetrycznej przewagi" - napisano w komunikacie DARPA.

Banki narażone na technologie deepfake

Według firmy technologicznej Symantec, w tym roku już trzy duże firmy stały się ofiarami oszustów, wykorzystujących materiały deepfake, bazujące na manipulacji dźwiękiem. W jednym z przypadków, jak podaje "Financial Times", firma przelała 10 mln dolarów przestępcom, którzy wykorzystując sztuczną inteligencję, udawali przez telefon jednego z dyrektorów firmy.

Coraz więcej prywatnych firm także szuka rozwiązań w walce z zaawansowaną manipulacją. W grupie najbardziej narażonej są m.in. banki. Przedstawiciele Symantecu mówią o rosnącej obawie również w branży medycznej i handlowej.

Autor: Krzysztof Jabłonowski, bebi / Źródło: Konkret24, The Guardian; defenseone.com, c4isrnet.com; zdjęcie tytułowe: Youtube

Źródło zdjęcia głównego: Youtube

Pozostałe wiadomości

Między prezydentem a rządem trwa spór o odwołanie niektórych ambasadorów i powołanie nowych. Sprawdziliśmy, gdzie te stanowiska pozostają wciąż nieobsadzone. Izrael, Austria, Egipt, Włochy... - jak wynika z danych MSZ, problem dotyczy ponad 20 procent placówek zagranicznych.

Spór o ambasadorów. W ilu krajach wciąż ich nie ma?

Spór o ambasadorów. W ilu krajach wciąż ich nie ma?

Źródło:
Konkret24

"Muzeum Narodowe rozprawiło się również z Maryją", "zamiarem tej władzy jest usunięcie nie tylko krzyży" - piszą oburzeni internauci, komentując informację, jakoby z obrazu Jana Matejki wymazano postać Matki Boskiej. W tym rozpowszechnianym między innymi przez Roberta Bąkiewicza fake newsie nie zgadza się nic - z wyjątkiem nazwy muzeum.

Bąkiewicz: z obrazu Matejki usunięto Matkę Boską. To nieprawda

Bąkiewicz: z obrazu Matejki usunięto Matkę Boską. To nieprawda

Źródło:
Konkret24

Po wizycie niemieckiego kanclerza Olafa Scholza w Warszawie wrócił temat reparacji wojennych. Jednak w trwającej debacie publicznej politycy raz mówią o "reparacjach", innym razem o "odszkodowaniach". Oba terminy oznaczają jednak inne pieniądze i dla kogo innego. Wyjaśniamy.

Polska i Niemcy: reparacje vs odszkodowania. Co mylą politycy

Polska i Niemcy: reparacje vs odszkodowania. Co mylą politycy

Źródło:
Konkret24

Tytuł tekstu jednego z serwisów posłużył politykom opozycji do rozpowszechniania tezy o "rządowym festiwalu podwyżek". Chodzi o większe opłaty za publiczne żłobki. Tylko że ich wysokości nie ustala rząd, a powodem podwyżki jest rozporządzenie premiera... Mateusza Morawieckiego.

Przekaz PiS: rząd podnosi opłaty za żłobki. Nieprawda. Wyjaśniamy

Przekaz PiS: rząd podnosi opłaty za żłobki. Nieprawda. Wyjaśniamy

Źródło:
Konkret24

- W amerykańskiej polityce głośne wydarzenia polityczne interpretuje się w kategoriach zerojedynkowych, a to sprzyja rozpowszechnianiu teorii spiskowych - uważa prof. Małgorzata Zachara-Szymańska z Instytutu Amerykanistyki i Studiów Polonijnych UJ. Według profesor, te zaś powstają zwykle na zamówienie polityczne. Nie inaczej jest po zamachu na Donalda Trumpa w Pensylwanii.

"Ustawka", "rozkazy CIA", "spóźniony snajper". Teorie spiskowe po zamachu na Donalda Trumpa

"Ustawka", "rozkazy CIA", "spóźniony snajper". Teorie spiskowe po zamachu na Donalda Trumpa

Źródło:
Konkret24

Daniel Obajtek przekonuje, że upublicznione nagranie jego rozmowy z dziennikarzem Piotrem Nisztorem nie jest prawdziwe, bo "prokuratura odmówiła wszczęcia postępowania". Według niego to właśnie jest dowód, że "nie ma żadnych nagrań". Były prezes Orlenu manipuluje. Powód decyzji prokuratury był inny. Śledczy w ogóle nie badali prawdziwości nagrań.

Taśmy Obajtka. Prokuratura potwierdziła, że "nie ma żadnych nagrań"? Wcale nie

Taśmy Obajtka. Prokuratura potwierdziła, że "nie ma żadnych nagrań"? Wcale nie 

Źródło:
Konkret24

Pismo wysłane z tarnobrzeskiego Powiatowego Inspektoratu Nadzoru politycy Prawa i Sprawiedliwości publikują jako "dowód", że rząd wydał już "polecenie szukania miejsc na ośrodki dla nielegalnych migrantów". To nieprawda. W dokumencie nie ma słowa o migrantach, a powstał jako efekt przepisów uchwalonych za rządów Zjednoczonej Prawicy. Wyjaśniamy, o co chodzi w tej historii.

PiS: "ekipa Tuska szuka miejsc dla nielegalnych migrantów". Fałszywy przekaz

PiS: "ekipa Tuska szuka miejsc dla nielegalnych migrantów". Fałszywy przekaz

Źródło:
Konkret24

Upublicznione pismo Sztabu Generalnego dotyczące planów budżetowych wywołało dyskusję o rzekomo zakładanych cięciach wydatków na obronność. Szef MON zaprzecza i zapowiada najwyższy budżet od lat. Konkret24 uzyskał potwierdzenie, że takich cięć na razie nie będzie. O co więc chodzi w upublicznionym dokumencie i na jakim etapie tworzenia budżetu MON powstał?

Wydatki na wojsko w dół? MON zaprzecza. Tłumaczymy, jak powstaje ten budżet

Wydatki na wojsko w dół? MON zaprzecza. Tłumaczymy, jak powstaje ten budżet

Źródło:
Konkret24

"Dowód na antypolonizm warszawskich władz", "ocenzurowali portret patrona lotniska", "Polska ich uwiera" - piszą internauci w reakcji na doniesienia, że z hali Okęcia zniknął plakat z hasłem "Jesteśmy dumni z Polski". Ich zdaniem to skutek obecnych rządów. Nieprawda - decyzja zapadła za czasów Zjednoczonej Prawicy.

Hasło "Jesteśmy dumni z Polski" zniknęło z hali Okęcia. "Znak czasów"? Wyjaśniamy

Hasło "Jesteśmy dumni z Polski" zniknęło z hali Okęcia. "Znak czasów"? Wyjaśniamy

Źródło:
Konkret24

Nieopublikowanie przez Orlen wyników finansowych za drugi kwartał wywołało w sieci dyskusję o kondycji spółki. Zbigniew Kuźmiuk z PiS zasugerował, że "wyniki szorują po dnie". Naftowy koncern rzeczywiście poinformował, że nie przedstawi osobnego raportu za drugi kwartał 2024 roku - tylko że nie po raz pierwszy. Za czasów Daniela Obajtka też nie publikował. Wyjaśniamy, dlaczego.

Orlen nie publikuje wyników, bo "jest aż tak źle"? Powód jest inny

Orlen nie publikuje wyników, bo "jest aż tak źle"? Powód jest inny

Źródło:
Konkret24

Wicemarszałek Sejmu Krzysztof Bosak w dyskusji o niemieckich reparacjach dla Polski stwierdził, że już "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Niemieckie dane tego nie potwierdzają.

Bosak: "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Jednak nie

Bosak: "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Jednak nie

Źródło:
Konkret24

Jarosław Kaczyński zarzucił obecnemu rządowi łamanie konstytucji i tłumaczył, że to realizacja "zasady Tuska", która ma brzmieć: "prawo tak jak my je rozumiemy". Tylko że to fraza wyrwana z kontekstu wypowiedzi premiera - a był on wręcz odwrotny do tego, co sugeruje teraz prezes PiS.

"Prawo tak jak my je rozumiemy". Manipulacja Kaczyńskiego o "zasadzie" Tuska

"Prawo tak jak my je rozumiemy". Manipulacja Kaczyńskiego o "zasadzie" Tuska

Źródło:
Konkret24

Według autora popularnego posta przekaz medialny na temat ocieplenia klimatu to zabieg socjotechniczny. Dowodem ma być zestawienie dwóch map pogodowych pokazanych w telewizji - rzekomo z 1998 i 2023 roku - na których widać podobne wysokości temperatur, ale kolorystyka map jest różna. Tylko że takie zestawienie wprowadza w błąd i jest jednym z najczęściej rozpowszechnianych fake newsów dotyczących globalnego ocieplenia.

Temperatury podobne, a kolory inne. Co różni te mapy?

Temperatury podobne, a kolory inne. Co różni te mapy?

Źródło:
Konkret24

Z początkiem 2025 roku rzekomo miałby zacząć obowiązywać unijny podatek od domowych wypieków - taki przekaz krąży w polskiej sieci, a powielają go politycy opozycji. Tyle że Unia Europejska nic takiego nie planuje, a przekaz jest wynikiem niezrozumienia zmian w niemieckim systemie podatkowym.

UE wprowadza podatek od domowych ciast? Skąd ten fake news

UE wprowadza podatek od domowych ciast? Skąd ten fake news

Źródło:
Konkret24

W Polsce lekarzy nie jest "jakoś bardzo za mało", przekonywała w wywiadzie ministra zdrowia Izabela Leszczyna. Według niej źle nie jest, bo na jednego mieszkańca przypada więcej lekarzy niż w Belgii, Francji czy Luksemburgu. Skąd więc kolejki do poradni i braki na oddziałach szpitalnych? Oto czego nie pokazują dane przywołane przez ministrę.

Leszczyna: "nie mamy bardzo za mało" lekarzy. Czego dane nie pokazują?

Leszczyna: "nie mamy bardzo za mało" lekarzy. Czego dane nie pokazują?

Źródło:
Konkret24

Na wiecu przez Sejmem Jarosław Kaczyński opowiadał, jak to - jego zdaniem - obecny rząd "na głowie staje", by przestępców "z rąk wymiaru sprawiedliwości wyciągnąć". A jako przykład podał sprawę Włodzimierza Karpińskiego. Tyle że powiedział nieprawdę.

Prezes PiS opowiada o "wyciąganiu Karpińskiego z więzienia". Mija się z prawdą

Prezes PiS opowiada o "wyciąganiu Karpińskiego z więzienia". Mija się z prawdą

Źródło:
Konkret24

Michał Woś opublikował nagranie z fragmentem wypowiedzi Adama Bodnara, w którym - przekonuje Woś - minister sprawiedliwości przyznał, że zarzuty w sprawie Funduszu Sprawiedliwości mają "charakter polityczny". Tylko że wideo pokazane przez polityka Suwerennej Polski tak, jak to zrobił, jest manipulacją.

Woś o Bodnarze: minister przyznał, że "zarzuty mają charakter polityczny". Nieprawda, cytat ucięto

Woś o Bodnarze: minister przyznał, że "zarzuty mają charakter polityczny". Nieprawda, cytat ucięto

Źródło:
Konkret24

Zdjęcie ogrodzenia Urzędu Miasta Warszawy z tablicą "Strefa wolna od chrześcijan" jest rozpowszechniane w internecie, wzniecając po raz kolejny spór wokół zakazu symboli religijnych w stołecznym ratuszu. Tyle że tablica nie pojawiła się z inicjatywy urzędu, a krzyże w ratuszu pozostają na swoich miejscach. Wyjaśniamy, skąd ta kontrowersyjna plansza.

Tablica "strefa wolna od chrześcijan" na bramie warszawskiego ratusza? To polityczny happening

Tablica "strefa wolna od chrześcijan" na bramie warszawskiego ratusza? To polityczny happening

Źródło:
Konkret24

Politycy Prawa i Sprawiedliwości krytykują wszelkie działania prokuratury i organów państwa związane z wyjaśnianiem nieprawidłowości za poprzednich rządów. A poseł Piotr Gliński twierdzi stanowczo, że w czasach Zjednoczonej Prawicy "prawo nie było łamane". Przypominamy więc 10 najgłośniejszych przykładów naruszania prawa za poprzednich rządów.

Gliński: za rządów PiS "prawo nie było łamane". Było. Przypominamy

Gliński: za rządów PiS "prawo nie było łamane". Było. Przypominamy

Źródło:
Konkret24

Przekaz o tym, jakoby w Czechach, chcąc podjąć gotówkę w banku, trzeba zadeklarować, na co się ją przeznaczy, krąży w od kilku tygodni w polskich mediach społecznościowych. To jednak manipulacja - tego typu deklaracje dotyczą wyłącznie określonych sytuacji.

Czeskie banki pytają, "na co chcesz wydać gotówkę"? Wyjaśniamy

Czeskie banki pytają, "na co chcesz wydać gotówkę"? Wyjaśniamy

Źródło:
Konkret24

W mediach społecznościowych znowu masowo rozpowszechniany jest fałszywy cytat przypisywany Robertowi Makłowiczowi. To przykład trollingu internetowego.

Antypolska "wypowiedź" Makłowicza. Drugie życie fake newsa

Antypolska "wypowiedź" Makłowicza. Drugie życie fake newsa

Źródło:
Konkret24