Miała zagrażać politykom, a uderzyła w kobiety. Prawda o technologii deepfake

twarz kobieta rozpoznawanie twarzy identyfikacja biometryczna S shutterstock_1108648040.jpgShutterstock

Specjaliści ostrzegali, że technologia deepfake stanie się narzędziem wykorzystywanym przez przestępców - jej celem mieli paść głównie politycy i społeczeństwa demokratyczne. Tymczasem największymi ofiarami deepfake'ów stały się kobiety.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Przekonujące i przerażające. Tak internauci oceniali filmy z wizerunkiem Toma Cruise'a powstałe w technologii deepfake, które pod koniec lutego stały się popularne na całym świecie. Nagrania trafiły na TikToka, ale masowo powielano je także w innych serwisach.

Powstały we współpracy belgijskiego specjalisty efektów wizualnych Chrisa Ume i aktora Milesa Fishera, który jest łudząco podobny do Cruise’a. Zagrał, naśladując gesty i sposób poruszania się gwiazdy Hollywood, zaś Ume odpowiadał za postprodukcję.

Filmy typu deepfake z wykorzystaniem wizerunku Toma Cruise'a
Filmy typu deepfake z wykorzystaniem wizerunku Toma Cruise'a TikTok/deeptomcruise

W wywiadzie dla magazynu "The Verge" Chris Ume podkreślał, że stworzenie deepfake'a wysokiej jakości wymagało zaangażowania aktora, zaawansowanej wiedzy o sztucznej inteligencji i wielu dni pracy przy obróbce wideo. Samo trenowanie algorytmu zajęło dwa miesiące. Tak przekonującego efektu nie można uzyskać, korzystając z ogólnodostępnych aplikacji do tworzenia deepfake'ów. "Nie da się tego zrobić, naciskając tylko przycisk" – mówił Ume.

Głośny deepfake z wizerunkiem znanego aktora po raz kolejny zwrócił uwagę na niebezpieczeństwo użycia tej technologii do manipulowania opinią publiczną. Pamiętamy film typu deepfake, na którym 10 światowych liderów "śpiewało" przebój Johna Lennona "Imagine" (izraelski start-up tak reklamował własne narzędzie internetowe); deep fake z Barackiem Obamą (zrobiony w celach pokazowych przez Uniwersytet w Waszyngtonie); czy spot typu deepfake przygotowany przez belgijską partię sp.a.

Jednak okazuje się, że to nie politycy i nie partie polityczne są na razie głównymi ofiarami tej technologii.

Komu deepfake'i miały zagrażać - a jak jest naprawdę

Do tworzenia nagrań audio i wideo w technologii deepfake wykorzystuje się sztuczną inteligencję. Rozwiązanie opiera się na algorytmach zwanych generative adversarial networks (GAN), bazujących na dwóch sieciach. Jedna identyfikuje, analizuje i uczy się schematów w zbiorach danych. Na przykład cech powtarzających się w zdjęciach, filmie czy dźwięku - mimiki, intonacji, tików, ruchów oczu. Drugi element GAN porównuje prawdziwe i fałszywe obrazy, sprawdzając, czy efekt wygląda realistycznie. Jeśli nie, model twarzy robiony jest tak długo, aż zostanie uznany za realistyczny.

Jak wyjaśnialiśmy w Konkret24, przytaczając opracowanie z portalu The Conversation, wielu z nas już wie, że nie można wierzyć we wszystko, co się widzi. Przez ostatnie kilka dekad świadomi odbiorcy informacji przyzwyczaili się do oglądania zdjęć z przerobionych za pomocą programów do fotoedycji. Jednak wideo typu deepfake to inna historia.

Suzie Dunn, związana z Uniwersytetem Ottawskim prawniczka zajmująca się cyberprzemocą, w tekście na stronie think tanku Centre for International Governance Innovation zwraca uwagę, że dotychczasowa dyskusja wokół deepfake'ów koncentrowała się na możliwości wykorzystania ich w celach głównie politycznych: do manipulowania wyborami, oszustw w biznesie, wpływania na opinię publiczną.

Spot typu deepfake przygotowany przez belgijską partię sp.a
Spot typu deepfake przygotowany przez belgijską partię sp.asp.a

Rzeczywiście, od początku ostrzegano, że technologia ta może być wykorzystana do tworzenia filmów, w których polityczni przywódcy mówią rzeczy, jakich nigdy nie powiedzieli. W styczniu 2019 roku Dan Coats - dyrektor amerykańskiego Wywiadu Narodowego - ostrzegał, że deepfake lub podobne fałszywe treści napędzane nowoczesną technologią będą prawdopodobnie jedną z taktyk stosowanych przez tych, którzy zechcą zakłócić wybory prezydenckie w USA w 2020 roku. A profesor Hany Farid z Dartmouth College ocenił w wywiadzie dla CNN: "Stawka niespodziewanie stała się bardzo wysoka" - będąc zaniepokojony tym, że materiały deepfake mogą wyrządzić krzywdę nie tylko pojedynczym obywatelom, lecz całym demokracjom

Tymczasem Suzie Dunn w artykule przekonuje, że deepfake'i wykorzystujące wizerunek polityków to tylko niewielka część wszystkich dostępnych w sieci. Technologia jest bowiem stosowana przede wszystkim do tworzenie filmów o seksualnym kontekście, w których wykorzystuje się wizerunki kobiet. Dunn cytuje raport firmy Sensity.ai z 2019 roku, według którego aż 96 proc. publikowanych w sieci deepfake'ów miało kontekst seksualny, a niemal wszystkie wykorzystywały wizerunki kobiet.

"Deepfake to stosunkowo nowy sposób na stosowanie przemocy ze względu na płeć, wykorzystujący sztuczną inteligencję do prześladowania, poniżania i nękania za pomocą znanej od wieków taktyki pozbawiania kobiet ich seksualnej autonomii" – komentuje Suzie Dunn.

Najpierw celebrytki, teraz też zwykłe kobiety

Ekspertka Uniwersytetu Ottawskiego zwraca uwagę szczególnie na Stany Zjednoczone i Koreę Południową - tam głównymi ofiarami technologii deepfake stały się celebrytki. Rzadko zdarza się, by stosowano prawne rozwiązania nakazujące usunięcie niechcianych filmów z sieci. Aktorka Scarlett Johansson, której wizerunek wielokrotnie wykorzystywano do tworzenia deepfake'ów, publicznie wyrażała frustrację, że usunięcie takich nagrań z internetu bywa niemożliwe.

Problem deepfake'ów z kobietami coraz częściej dotyczy jednak nie tylko znanych, ale po prostu wszystkich kobiet – pisze Suzie Dunn. Przytacza trzy przykłady pań, których wizerunki wykorzystano do stworzenia wideo mających ewidentne znamiona nękania o podłożu seksualnym. Jedną z nich była Rana Ayyub - indyjska dziennikarka, która sprzeciwiła się reakcji rządu na gwałt na ośmioletniej dziewczynce. Kobieta stała się ofiarą deepfake'a stworzonego w ramach skoordynowanej internetowej kampanii nienawiści.

Najpierw w sieci pojawiły się zrzuty ekranu rzekomo jej wpisów na Twitterze - których Ayyub nigdy nie napisała. Kolejnego dnia kobieta zobaczyła krążący na WhatsAppie film pornograficzny, w którym rzekomo wystąpiła. W mediach społecznościowych dostawała setki powiadomień i obraźliwych komentarzy. Dziennikarka opisała swoje doświadczenia na blogu Huffington Post. "Trafiłam do szpitala z kołataniem serca i niepokojem, lekarz dał mi lekarstwa. Ale ja wymiotowałam, moje ciśnienie krwi wzrosło, moje ciało tak gwałtownie zareagowało na stres" - relacjonowała. Ayyub przekonywała, że nagranie stworzono po to, by ją uciszyć i zniechęcić do podejmowania aktywności publicznej.

Olbrzymie możliwości technologii deepfake
Olbrzymie możliwości technologii deepfakeTVN24 BiS

Jeden bot i 680 tys. ofiar nękania

Technologia deepfake od początku związana była właśnie z pornografią. Po raz pierwszy zrobiło się o niej głośno w listopadzie 2017 roku, gdy użytkownik pod pseudonimem DeepFakes opublikował w serwisie Reddit wideo, w którym pokazał, jak można doczepiać głowy celebrytów do ciał aktorów w filmach pornograficznych. Kilka takich zmanipulowanych nagrań, m.in. z Gal Gadot, aktorką znaną z filmu "Wonder Woman", szybko rozeszło się po internecie. Zazwyczaj bez informacji, że to fałszywki. DeepFakes opracował też proste narzędzie, dzięki któremu takie materiały mogli tworzyć inni użytkownicy. W serwisie zaroiło się od fałszywego porno, ale i mniej groźnych podmianek twarzy aktorów w filmowych hitach (np. Nicolas Cage zagrał Indianę Jonesa).

W październiku 2020 roku serwis BuzzFeed pisał o nieuprawnionym wykorzystaniu wizerunku 680 tys. kobiet do stworzenia fotorealistycznych nagich obrazów. Zdjęcia kobiet zostały przesłane do bota w aplikacji Telegram. Narzędzie pozwalało na stworzenie deepfake'a na podstawie jednego zdjęcia ofiary nękania seksualnego.

Nina Jankowicz, badaczka dezinformacji związana z The Wilson Center, przekonywała na łamach BuzzFeed, że odkrycie narzędzia dostępnego na Telegramie potwierdza, iż technologia deepfake w dużej mierze stosowana jest w celu prześladowania kobiet. "Te podróbki są wykorzystywane do spełniania chorych fantazji kochanka, chłopaka lub po prostu totalnego zboczeńca" - powiedziała Jankowicz. "Albo są wykorzystywane jako potencjalny materiał do szantażu" – dodała. Jej zdaniem robienie takich materiałów może mieć ogromne negatywne konsekwencje dla kobiet na świecie, zwłaszcza w konserwatywnych krajach. Po ich upublicznieniu kobiety te mogą stracić pracę lub doznać przemocy ze strony partnera.

"To jak Photoshop 20 lat temu"

W 2015 roku w Wielkiej Brytanii powstała infolinia dla ofiar wykorzystywania intymnych prywatnych zdjęć i nagrań wideo. Sophie Mortimer, prowadząca infolinię Revenge Porn Helpline, powiedziała "MIT Technology Review" o kilku przykładach przerobionych zdjęć pornograficznych wykorzystywanych w celu zdyskredytowania kogoś. Jej zdaniem pojawienie się większej liczby deepfake'ów jest tylko kwestią czasu. "To tak, jakbyśmy wstrzymywali oddech i czekali na wielką falę" – powiedziała Mortimer "MIT Technology Review".

Mortimer zauważyła, że liczba spraw, którymi zajmuje się infolinia niemal podwoiła się od początku pandemii COVID-19. Związki przechodzą kryzysy, a większa ilość czasu spędzana w internecie powoduje wzrost nadużyć w formie cyfrowej.

Rosnącej popularności przemocowych deepfake'ów można się spodziewać także wraz z upowszechnianiem się technologii i powstawaniem nowych, dostępnych dla każdego narzędzi. Nowe aplikacje regularnie pojawiają się na e-platformach. W ostatnich dniach na popularności zyskuje technologia Deep Nostalgia. Jak wyjaśniają jej twórcy, ma "ożywiać twarze na archiwalnych zdjęciach i tworzyć realistyczne filmy wysokiej jakości".

Animacje stworzone przy użyciu Deep Nostalgia
Animacje stworzone przy użyciu Deep NostalgiaMyHeritage, tvn24

"Technologia deepfake stanie się wkrótce bardziej dostępna i nie będzie budzić niczyjego zaskoczenia" - przekonywał na łamach "The Verge" Chris Ume, współtwórca popularnego deepfake'a z Tomem Cruise'm. Tylko że grafik patrzy na to optymistycznie: że technologie da się oswoić i zrozumieć. "To jak Photoshop 20 lat temu. Ludzie nie wiedzieli, co to jest edycja zdjęć, a teraz wiedzą o tych podróbkach" - tłumaczył Ume.

Autor: Krzysztof Jabłonowski, współpraca: Jan Kunert / Źródło: Konkret24; zdjęcie: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Po głośnej imprezie w hotelu poselskim Łukasz Mejza tłumaczył z mównicy sejmowej, że w nocy bronił "tradycji polegających na wspólnym, chóralnym śpiewaniu". A w rozmowie z TVN24 tłumaczył się całodniową pracą w sejmowych komisjach i na posiedzeniach. Sprawdziliśmy więc aktywność parlamentarną tego posła PiS. Nie jest to długa analiza.

Mejza tłumaczy nocną imprezę: "skoro się pracuje cały dzień....". Jak on pracuje?

Mejza tłumaczy nocną imprezę: "skoro się pracuje cały dzień....". Jak on pracuje?

Źródło:
Konkret24

Politycy Prawa i Sprawiedliwości forsują w mediach przekaz, że wraz z powrotem Donalda Tuska na fotel premiera źle się dzieje na ryku pracy. Mateusz Morawiecki jako "dowód" pokazuje mapę z firmami, które zapowiedziały zwolnienia grupowe. Jak sprawdziliśmy, takich zwolnień nie jest więcej, niż było za zarządów Zjednoczonej Prawicy. Eksperci tłumaczą, czego są skutkiem.

Narracja PiS o grupowych zwolnieniach i "powrocie biedy". To manipulacja

Narracja PiS o grupowych zwolnieniach i "powrocie biedy". To manipulacja

Źródło:
Konkret24

"Ukraińcy mają większe prawa w Polsce niż Polacy" - stwierdził jeden z internautów, który rozsyłał przekaz o przyjęciu przez Senat uchwały "o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi". Posty te zawierają szereg nieprawdziwych informacji.

"Senat przyjął uchwałę o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi"? Nic się tu nie zgadza

"Senat przyjął uchwałę o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi"? Nic się tu nie zgadza

Źródło:
Konkret24

"Coś się szykuje" - przekazują zaniepokojeni internauci, rozsyłając zdjęcie zawiadomienia o wszczęciu postępowania administracyjnego w sprawie samochodu jako świadczenia na rzecz jednostki wojskowej. Uspokajamy: dokument wygląda groźnie, lecz nie jest ani niczym nowym, ani wyjątkowym.

Masz SUV-a, "to go stracisz"? Kto i dlaczego rozsyła takie pisma 

Masz SUV-a, "to go stracisz"? Kto i dlaczego rozsyła takie pisma 

Źródło:
Konkret24

Po pogrzebie Damiana Sobola, wolontariusza, który zginął w izraelskim ostrzale w Strefie Gazy, internauci zaczęli dopytywać, co wokół jego trumny robiły swastyki i czy były prawdziwe. Sprawdziliśmy.

Swastyki pod trumną Polaka zabitego w Strefie Gazy? Wyjaśniamy

Swastyki pod trumną Polaka zabitego w Strefie Gazy? Wyjaśniamy

Źródło:
Konkret24

Tysiące wyświetleń w mediach społecznościowych ma fotografia dwóch mężczyzn jedzących coś na ulicy przed barem. Jeden to prezydencki doradca Marcin Mastalerek, drugi stoi bokiem, twarzy nie widać. Internauci informują, że to prezydent Duda, który podczas pobytu w Nowym Jorku poszedł ze swoim doradcą na pizzę do baru. Czy na pewno?

Duda i Mastalerek jedzą pizzę na ulicy? Kto jest na zdjęciu

Duda i Mastalerek jedzą pizzę na ulicy? Kto jest na zdjęciu

Źródło:
Konkret24

Według krążącego w sieci przekazu po zmianie prawa Ukraińcom łatwiej będzie uzyskać u nas kartę pobytu na trzy lata. A to spowoduje, że "do Polski będą ściągać jeszcze większe ilości Ukraińców". Przekaz ten jest manipulacją - w rzeczywistości planowane zmiany mają uniemożliwić to, by wszyscy Ukraińcy mogli uzyskiwać karty pobytu i pozostawać u nas trzy lata.

"Każdy, kto zechce" z Ukrainy dostanie kartę pobytu w Polsce? No właśnie nie

"Każdy, kto zechce" z Ukrainy dostanie kartę pobytu w Polsce? No właśnie nie

Źródło:
Konkret24

Ponad milionowe zasięgi generuje w polskiej sieci przekaz, że od początku lipca nie będzie można w Niemczech w weekendy jeździć samochodami osobowymi. Powodem ma być troska o środowisko. Uspokajamy: nie ma takich planów.

W Niemczech od lipca "całkowity zakaz jazdy w weekendy"? To "nieuzasadnione obawy"

W Niemczech od lipca "całkowity zakaz jazdy w weekendy"? To "nieuzasadnione obawy"

Źródło:
Konkret24

Czy Amerykański Czerwony Krzyż nie przyjmuje krwi od osób zaszczepionych przeciw COVID-19? Taką teorię, na podstawie pytań z formularza tej organizacji, wysnuli polscy internauci. Kwestionariusz jest prawdziwy, teoria już nie.

Amerykański Czerwony Krzyż "odmawia przyjmowania krwi" od zaszczepionych? Nie

Amerykański Czerwony Krzyż "odmawia przyjmowania krwi" od zaszczepionych? Nie

Źródło:
Konkret24

Internauci i serwisy internetowe podają przekaz, że polskie wojsko wysyła pracującym pierwsze powołania - że dostają "pracownicze przydziały mobilizacyjne". Wyjaśniamy, o co chodzi.

Pracownikom wysłano "pierwsze powołania do wojska"? Nie, wyjaśniamy

Pracownikom wysłano "pierwsze powołania do wojska"? Nie, wyjaśniamy

Źródło:
Konkret24

Sceptycy pandemii COVID-19 i przeciwnicy wprowadzonych wtedy obostrzeń szerzą ostatnio narrację, jakoby "niemiecki rząd przyznał, że nie było pandemii". Wiele wpisów z taką informacją krąży po Facebooku i w serwisie X. Nie jest to jednak prawda.

"Niemiecki rząd przyznał, że nie było pandemii"? Manipulacja pana profesora

"Niemiecki rząd przyznał, że nie było pandemii"? Manipulacja pana profesora

Źródło:
Konkret24

W sieci pojawiły się dramatyczny zbiór nagrań, rzekomo z potężnej burzy, która przeszła nad Dubajem. Niektóre z nich nie mają jednak nic wspólnego z ostatnimi wydarzeniami. Wyjaśniamy.

Powódź w Dubaju. Huragan i drzewo wyrwane z korzeniami? To nie są nagrania stamtąd

Powódź w Dubaju. Huragan i drzewo wyrwane z korzeniami? To nie są nagrania stamtąd

Źródło:
Konkret24

Posłanka PiS Joanna Lichocka zaalarmowała swoich odbiorców, że we Wrocławiu powstał "ruchomy meczet". W poście nawiązała do kwestii nielegalnych migrantów, Donalda Tuska i Unii Europejskiej. Posłanka mija się z prawdą. Pokazujemy, co rzeczywiście stoi przy Stadionie Olimpijskim w stolicy Dolnego Śląska.

"Ruchomy meczet" we Wrocławiu? Posłanka PiS manipuluje, tam stało i stoi boisko

"Ruchomy meczet" we Wrocławiu? Posłanka PiS manipuluje, tam stało i stoi boisko

Źródło:
Konkret24

"Głosują, jak im patroni z Niemiec każą", "lista hańby europosłów", "komu podziękować za pakiet migracyjny" - z takimi komentarzami rozsyłane jest w sieci zestawienie mające pokazywać, jak 25 polskich europosłów rzekomo głosowało "w sprawie pakietu migracyjnego". Tylko że grafika zawiera błędy i nie przedstawia, jak rzeczywiście ci europosłowie głosowali. Wyjaśniamy.

"Lista hańby europosłów"? Nie, grafika z błędami. Kto jak głosował w sprawie paktu migracyjnego?

"Lista hańby europosłów"? Nie, grafika z błędami. Kto jak głosował w sprawie paktu migracyjnego?

Źródło:
Konkret24

Według posłanki PiS Marleny Maląg proponowane przez obecny rząd "babciowe" oznacza likwidację programu wprowadzonego przez rząd Zjednoczonej Prawicy. "Znów oszukali?", "będą zabierać?" - pytała była minister rodziny. To manipulacja. Wyjaśniamy, czy rodzice rzeczywiście stracą na nowym świadczeniu.

Maląg: "babciowe" oznacza likwidację rodzinnego kapitału opiekuńczego. Co pominęła była minister?

Maląg: "babciowe" oznacza likwidację rodzinnego kapitału opiekuńczego. Co pominęła była minister?

Źródło:
Konkret24

Sugerując się tekstami niektórych serwisów internetowych, polscy internauci gratulują Słowakom, że "odrzucili pakt migracyjny" i piszą, że rząd Donalda Tuska powinien zrobić to samo. Sęk w tym, że Słowacja nic nie odrzuciła, a Polska - i Węgry - przyjmują takie samo stanowisko. Wyjaśniamy, na czym polega rozpowszechniany w internecie manipulacyjny przekaz.

Słowacja "odrzuca unijny pakt migracyjny, a Polska?" Uproszczenie i manipulacja

Słowacja "odrzuca unijny pakt migracyjny, a Polska?" Uproszczenie i manipulacja

Źródło:
Konkret24

Salon kosmetyczny z eksperymentalną terapią odchudzającą komarami jakoby działał w Gdańsku. Uchodźczyni z Ukrainy, która go prowadziła, miała na tym zarobić ponad milion złotych - wynika z rzekomego materiału stacji Euronews. Rozpowszechniają go w sieci prorosyjskie konta. Jest sfabrykowany.

Terapia odchudzająca komarami, fałszywe dokumenty i Ukrainka z milionem złotych. Nic tu nie jest prawdą

Terapia odchudzająca komarami, fałszywe dokumenty i Ukrainka z milionem złotych. Nic tu nie jest prawdą

Źródło:
Konkret24

W 2023 roku pierwszy raz od trzech lat spadła liczba osób, wobec których zarządzono kontrolę operacyjną. Wśród nich były też inwigilowane Pegasusem. Cały czas jest to jednak więcej niż przed objęciem rządów przez Zjednoczoną Prawicę.

Nie tylko Pegasus. Ile osób służby inwigilowały w 2023 roku?

Nie tylko Pegasus. Ile osób służby inwigilowały w 2023 roku?

Źródło:
Konkret24

Nowy warszawski radny PiS, a wcześniej wojewoda mazowiecki Tobiasz Bocheński postanowił uczcić Święto Chrztu Polski wpisem w mediach społecznościowych. Jednak swój post na ten temat zilustrował grafiką przedstawiającą chrzest nie Mieszka I, tylko innego władcy. 

Bocheński uczcił Święto Chrztu Polski. "Douczy się pan z okresu średniowiecza" 

Bocheński uczcił Święto Chrztu Polski. "Douczy się pan z okresu średniowiecza" 

Źródło:
Konkret24

Jordańska księżniczka Salma miała "osobiście strącić" sześć irańskich dronów skierowanych na Izrael, Iran zrobił Izraelowi "małe Drezno", a jeden z dronów zawisł na kablach elektrycznych... - tego typu informacje o ataku na Izrael rozchodzą się w polskich mediach społecznościowych. Są niepotwierdzone i fałszywe, oparte na starych zdjęciach i nagraniach.

Drony "strąciła jordańska księżniczka", a jeden "zaplątał się w kable". Fejki o ataku Iranu na Izrael

Drony "strąciła jordańska księżniczka", a jeden "zaplątał się w kable". Fejki o ataku Iranu na Izrael

Źródło:
Konkret24

Portal rzekomo z Londynu, a teksty publikowane po rosyjsku. Film wideo mający być dowodem, tylko że już skasowany, a bohater zniknął. Oto jak historia o rzekomym zakupie rezydencji króla Karola przez Ołenę Zełenską powiela schemat prokremlowskiej dezinformacji.

Zełenski "nabywa byłą rezydencję króla Karola"? Rosyjski schemat dezinformacji

Zełenski "nabywa byłą rezydencję króla Karola"? Rosyjski schemat dezinformacji

Źródło:
Konkret24, Snopes