Chińska aplikacja do podmieniania twarzy podbija rynek. I budzi obawy

app.jpgShutterstock

Chińska aplikacja ZAO pozwala użytkownikom na "podmienienie" twarzy aktora w klipie z serialu lub filmu na swoją twarz. Efekt jest realistyczny i dostępny w ciągu chwili. Program budzi kontrowersje - nie tylko ze względu na swoje możliwości, ale i na politykę prywatności. Jednocześnie bije jednak rekordy popularności w Azji - w ciągu kilku dni od premiery stała się najczęściej ściąganą aplikacją.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Wystarczy jedno zdjęcie lub seria zdjęć twarzy, aby wyprodukować deepfake'owe wideo, w którym można stać się superbohaterem ze znanej serii filmów albo postacią z popularnego serialu.

W dużym uproszczeniu, deepfake to fałszywe nagranie stworzone z pomocą sztucznej inteligencji. O tym na czym polega deepfake i jakie zagrożenia niesie za sobą ta technologia, pisaliśmy już na łamach Konkret24.

Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku - wmontowywano wówczas twarze sławnych osób w firmy pornograficzne. Efekt był jednak mało realistyczny. Kolejne nagrania były już dużo lepsze - deepfake tworzono z m.in. twarzami Baracka Obamy, Władimira Putina, Donalda Trumpa, Nicholasa Cage'a, a niedawno Toma Cruise'a. Z każdym kolejnym nagraniem "nowa twarz" była coraz lepiej synchronizowana z resztą ciała, wypowiadane słowa współgrały z gestykulacją, usta układały się dokładniej w wypowiadane słowa.

Aby osiągnąć taki efekt, potrzebny jednak był czas i jeśli nie umiejętność pracy ze sztuczną inteligencją, to dostęp do narzędzi, dzięki którym można było uzyskiwać takie efekty.

"Oto ja jako DiCaprio" - realistyczny deepfake w osiem sekund

Stworzona przez chińską firmę aplikacja pokazała, że tworzenie deepfake'ów może być właściwie dostępne dla każdego i to od ręki. Dobitnie pokazał to na Twitterze użytkownik ZAO.

Jeden z udostępnionych przez niego materiałów jest komplikacją scen z filmów z Leonardo DiCaprio, gdzie twarz aktora została zastąpiona twarzą twitterowicza. Wideo wyświetlono już ponad dwa miliony razy.

"W razie gdybyście nie wiedzieli, #ZAO to chińska aplikacja, która całkiem rozniosła się od piątku. Najlepsza aplikacja do zastępowania twarzy w stylu AI 'Deepfake', jaką kiedykolwiek widziałem. Oto ja jako DiCaprio (wygenerowany w mniej niż 8 sekund na podstawie jednego zdjęcia z miniaturki)" - czytamy w poście użytkownika aplikacji.

W jednym z kolejnych tweetów zauważa, że "ZAO tak naprawdę nie dąży do 'dokładności' per se, ale raczej do 'subiektywnego', dobrze wyglądającego wyniku".

"Widzę to w filmach/telewizji, wyobrażam sobie zalogowanie się na swoje konto Netflix lub Disney+ - oglądając najnowszy program telewizyjny/film Marvela, gdzie aktor w zostałby automatycznie zastąpiony tobą. Najnowszym członkiem Avengers jesteś TY" - czytamy w kolejnym wpisie użytkownika. Dzięki aplikacji, można w filmach zastąpić także twarz Marilyn Monroe czy chińskich aktorów własną.

Większość komentujących nagrania na Twitterze, nie wykazywała jednak takiego entuzjazmu.

"Szaleństwo! Dla mnie jako dla marketingowca, to jest niesamowite. Ale jako dla konsumenta - przerażające. Każdy może mnie oszukać!", "Przestań wierzyć w to, co widzisz! Chiny biorą się za deepfake'owe oszustwa! Jeśli myślisz, że coś jest... to tego nie ma!" czy "Czy to jest to narzędzie trzeciej wojny światowej, którego od tak dawna się spodziewamy?" - to tylko niektóre z komentarzy, które można na temat aplikacji znaleźć w sieci.

Henry Ajder z firmy Deeptrace, zajmującej się walką z dezinformacją poprzez deepfake, skomentował dla portalu Digital Trends, że ZAO "jest symboliczną reprezentacją technologii (deepfake - red.), która staje się coraz bardziej rozpowszechniona i coraz prostsza do wykorzystywania". Zwraca jednak uwagę, że nie należy do aplikacji podchodzić jako czegoś niezwykłego. - Myślę, że bardzo ważne jest zachowanie czujności i unikanie sensacyjnych reakcji, bo one w dłuższej perspektywie mogą przynieść więcej szkody niż pożytku - stwierdził.

Zasady prywatności zmienione po fali krytyki użytkowników

ZAO swoją premierę miała 30 sierpnia, dwa dni później stała się najczęściej pobieraną aplikacją w chińskim AppStore. Jednocześnie średnia ocen wystawianych przez jej użytkowników to tylko 2,5/5 przy prawie 1500 ocenach. Wiele negatywnych komentarzy krytykowało aplikację za naruszenia prywatności. Także w innych miejscach sieci pojawiły się ostrzeżenia użytkowników na temat zapisów w polityce prywatności. "Aplikacja od deepfake'ów zrobi z nas gwiazdy filmowe - ale czy kiedyś nie będziemy żałować przez ten nasz narcyzm?", pytał jeden z nich.

Jak donosi Bloomberg, w pierwotnej wersji zasad polityki prywatności ZAO można było przeczytać, że aplikacja posiada "wolne, nieodwołalne, trwałe, przekazywalne i podlegające ponownemu licencjonowaniu" prawa do wszystkich treści wygenerowanych przez użytkownika. Zatem - materiałów, w których pojawiała się jego twarz. W sumie dokument miał ponad 6 tysięcy znaków.

1 września twórcy aplikacji wydali oświadczenie na chińskim portalu społecznościowym Weibo o pracach nad zmianami w polityce prywatności. "W pełni rozumiemy wasze obawy dotyczące kwestii prywatności. Zdajemy sobie sprawę z problemu i zastanawiamy się, jak go rozwiązać. Potrzebujemy trochę czasu" - czytamy we wpisie.

Dwa dni później polityka prywatności została zmieniona. Wynika z niej, że aplikacja nie będzie korzystać ze zdjęć twarzy lub miniaturowych filmów wideo przesyłanych przez użytkowników w celach innych niż poprawa aplikacji lub w innych celach uzgodnionych wcześniej z użytkownikiem. Jeśli użytkownicy usuną przesłane treści, aplikacja obiecuje, że usunie je także ze swoich serwerów.

Jak jednak pisze na Twitterze jeden z ekspertów zajmujących się bezpieczeństwem w sieci, 32 godziny po tym, jak usunął swoje wideo z aplikacji, nadal jest ono dostępne na jej serwerach. "Skłamali. ZAO nie usuwa zdjęć i wideo. Nigdy", skomentował i jako dowód załączył zdjęcia pokazujące, że wprawdzie wideo nie jest widoczne na jego profilu w aplikacji, ale na jej serwerach nadal jest dostępne.

Twórcą aplikacji jest studio Changsha Shenduronghe Network Technology Co., Ltd., należące do Momo,notowanego jest na amerykańskiej giełdzie producenta popularnej chińskiej aplikacji randkowej. ZAO jest dostępna wyłącznie w Chinach.

Autor: gabs / Źródło: Konkret24, The Gurardian, Bloomberg: Zdjęcie główne: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Po głośnej imprezie w hotelu poselskim Łukasz Mejza tłumaczył z mównicy sejmowej, że w nocy bronił "tradycji polegających na wspólnym, chóralnym śpiewaniu". A w rozmowie z TVN24 tłumaczył się całodniową pracą w sejmowych komisjach i na posiedzeniach. Sprawdziliśmy więc aktywność parlamentarną tego posła PiS. Nie jest to długa analiza.

Mejza tłumaczy nocną imprezę: "skoro się pracuje cały dzień....". Jak on pracuje?

Mejza tłumaczy nocną imprezę: "skoro się pracuje cały dzień....". Jak on pracuje?

Źródło:
Konkret24

"Wystarczy spojrzeć na dane historyczne i zobaczyć, że zawsze kiedy rządzi Donald Tusk i Platforma Obywatelska, to frekwencja jest niższa" - przekonywał dzień po drugiej turze wyborów samorządowych szef gabinetu prezydenta RP Marcin Mastalerek. Dane PKW o frekwencji nie potwierdzają jego słów.

Mastalerek: "zawsze kiedy rządzi Donald Tusk i PO, to frekwencja jest niższa". Sprawdzamy

Mastalerek: "zawsze kiedy rządzi Donald Tusk i PO, to frekwencja jest niższa". Sprawdzamy

Źródło:
Konkret24

Politycy Prawa i Sprawiedliwości forsują w mediach przekaz, że wraz z powrotem Donalda Tuska na fotel premiera źle się dzieje na ryku pracy. Mateusz Morawiecki jako "dowód" pokazuje mapę z firmami, które zapowiedziały zwolnienia grupowe. Jak sprawdziliśmy, takich zwolnień nie jest więcej, niż było za zarządów Zjednoczonej Prawicy. Eksperci tłumaczą, czego są skutkiem.

Narracja PiS o grupowych zwolnieniach i "powrocie biedy". To manipulacja

Narracja PiS o grupowych zwolnieniach i "powrocie biedy". To manipulacja

Źródło:
Konkret24

"Ukraińcy mają większe prawa w Polsce niż Polacy" - stwierdził jeden z internautów, który rozsyłał przekaz o przyjęciu przez Senat uchwały "o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi". Posty te zawierają szereg nieprawdziwych informacji.

"Senat przyjął uchwałę o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi"? Nic się tu nie zgadza

"Senat przyjął uchwałę o zwolnieniu z podatku dochodowego obywateli Ukrainy i Białorusi"? Nic się tu nie zgadza

Źródło:
Konkret24

"Coś się szykuje" - przekazują zaniepokojeni internauci, rozsyłając zdjęcie zawiadomienia o wszczęciu postępowania administracyjnego w sprawie samochodu jako świadczenia na rzecz jednostki wojskowej. Uspokajamy: dokument wygląda groźnie, lecz nie jest ani niczym nowym, ani wyjątkowym.

Masz SUV-a, "to go stracisz"? Kto i dlaczego rozsyła takie pisma 

Masz SUV-a, "to go stracisz"? Kto i dlaczego rozsyła takie pisma 

Źródło:
Konkret24

Po pogrzebie Damiana Sobola, wolontariusza, który zginął w izraelskim ostrzale w Strefie Gazy, internauci zaczęli dopytywać, co wokół jego trumny robiły swastyki i czy były prawdziwe. Sprawdziliśmy.

Swastyki pod trumną Polaka zabitego w Strefie Gazy? Wyjaśniamy

Swastyki pod trumną Polaka zabitego w Strefie Gazy? Wyjaśniamy

Źródło:
Konkret24

Tysiące wyświetleń w mediach społecznościowych ma fotografia dwóch mężczyzn jedzących coś na ulicy przed barem. Jeden to prezydencki doradca Marcin Mastalerek, drugi stoi bokiem, twarzy nie widać. Internauci informują, że to prezydent Duda, który podczas pobytu w Nowym Jorku poszedł ze swoim doradcą na pizzę do baru. Czy na pewno?

Duda i Mastalerek jedzą pizzę na ulicy? Kto jest na zdjęciu

Duda i Mastalerek jedzą pizzę na ulicy? Kto jest na zdjęciu

Źródło:
Konkret24

Według krążącego w sieci przekazu po zmianie prawa Ukraińcom łatwiej będzie uzyskać u nas kartę pobytu na trzy lata. A to spowoduje, że "do Polski będą ściągać jeszcze większe ilości Ukraińców". Przekaz ten jest manipulacją - w rzeczywistości planowane zmiany mają uniemożliwić to, by wszyscy Ukraińcy mogli uzyskiwać karty pobytu i pozostawać u nas trzy lata.

"Każdy, kto zechce" z Ukrainy dostanie kartę pobytu w Polsce? No właśnie nie

"Każdy, kto zechce" z Ukrainy dostanie kartę pobytu w Polsce? No właśnie nie

Źródło:
Konkret24

Ponad milionowe zasięgi generuje w polskiej sieci przekaz, że od początku lipca nie będzie można w Niemczech w weekendy jeździć samochodami osobowymi. Powodem ma być troska o środowisko. Uspokajamy: nie ma takich planów.

W Niemczech od lipca "całkowity zakaz jazdy w weekendy"? To "nieuzasadnione obawy"

W Niemczech od lipca "całkowity zakaz jazdy w weekendy"? To "nieuzasadnione obawy"

Źródło:
Konkret24

Czy Amerykański Czerwony Krzyż nie przyjmuje krwi od osób zaszczepionych przeciw COVID-19? Taką teorię, na podstawie pytań z formularza tej organizacji, wysnuli polscy internauci. Kwestionariusz jest prawdziwy, teoria już nie.

Amerykański Czerwony Krzyż "odmawia przyjmowania krwi" od zaszczepionych? Nie

Amerykański Czerwony Krzyż "odmawia przyjmowania krwi" od zaszczepionych? Nie

Źródło:
Konkret24

Internauci i serwisy internetowe podają przekaz, że polskie wojsko wysyła pracującym pierwsze powołania - że dostają "pracownicze przydziały mobilizacyjne". Wyjaśniamy, o co chodzi.

Pracownikom wysłano "pierwsze powołania do wojska"? Nie, wyjaśniamy

Pracownikom wysłano "pierwsze powołania do wojska"? Nie, wyjaśniamy

Źródło:
Konkret24

Sceptycy pandemii COVID-19 i przeciwnicy wprowadzonych wtedy obostrzeń szerzą ostatnio narrację, jakoby "niemiecki rząd przyznał, że nie było pandemii". Wiele wpisów z taką informacją krąży po Facebooku i w serwisie X. Nie jest to jednak prawda.

"Niemiecki rząd przyznał, że nie było pandemii"? Manipulacja pana profesora

"Niemiecki rząd przyznał, że nie było pandemii"? Manipulacja pana profesora

Źródło:
Konkret24

W sieci pojawiły się dramatyczny zbiór nagrań, rzekomo z potężnej burzy, która przeszła nad Dubajem. Niektóre z nich nie mają jednak nic wspólnego z ostatnimi wydarzeniami. Wyjaśniamy.

Powódź w Dubaju. Huragan i drzewo wyrwane z korzeniami? To nie są nagrania stamtąd

Powódź w Dubaju. Huragan i drzewo wyrwane z korzeniami? To nie są nagrania stamtąd

Źródło:
Konkret24

Posłanka PiS Joanna Lichocka zaalarmowała swoich odbiorców, że we Wrocławiu powstał "ruchomy meczet". W poście nawiązała do kwestii nielegalnych migrantów, Donalda Tuska i Unii Europejskiej. Posłanka mija się z prawdą. Pokazujemy, co rzeczywiście stoi przy Stadionie Olimpijskim w stolicy Dolnego Śląska.

"Ruchomy meczet" we Wrocławiu? Posłanka PiS manipuluje, tam stało i stoi boisko

"Ruchomy meczet" we Wrocławiu? Posłanka PiS manipuluje, tam stało i stoi boisko

Źródło:
Konkret24

"Głosują, jak im patroni z Niemiec każą", "lista hańby europosłów", "komu podziękować za pakiet migracyjny" - z takimi komentarzami rozsyłane jest w sieci zestawienie mające pokazywać, jak 25 polskich europosłów rzekomo głosowało "w sprawie pakietu migracyjnego". Tylko że grafika zawiera błędy i nie przedstawia, jak rzeczywiście ci europosłowie głosowali. Wyjaśniamy.

"Lista hańby europosłów"? Nie, grafika z błędami. Kto jak głosował w sprawie paktu migracyjnego?

"Lista hańby europosłów"? Nie, grafika z błędami. Kto jak głosował w sprawie paktu migracyjnego?

Źródło:
Konkret24

Według posłanki PiS Marleny Maląg proponowane przez obecny rząd "babciowe" oznacza likwidację programu wprowadzonego przez rząd Zjednoczonej Prawicy. "Znów oszukali?", "będą zabierać?" - pytała była minister rodziny. To manipulacja. Wyjaśniamy, czy rodzice rzeczywiście stracą na nowym świadczeniu.

Maląg: "babciowe" oznacza likwidację rodzinnego kapitału opiekuńczego. Co pominęła była minister?

Maląg: "babciowe" oznacza likwidację rodzinnego kapitału opiekuńczego. Co pominęła była minister?

Źródło:
Konkret24

Sugerując się tekstami niektórych serwisów internetowych, polscy internauci gratulują Słowakom, że "odrzucili pakt migracyjny" i piszą, że rząd Donalda Tuska powinien zrobić to samo. Sęk w tym, że Słowacja nic nie odrzuciła, a Polska - i Węgry - przyjmują takie samo stanowisko. Wyjaśniamy, na czym polega rozpowszechniany w internecie manipulacyjny przekaz.

Słowacja "odrzuca unijny pakt migracyjny, a Polska?" Uproszczenie i manipulacja

Słowacja "odrzuca unijny pakt migracyjny, a Polska?" Uproszczenie i manipulacja

Źródło:
Konkret24

Salon kosmetyczny z eksperymentalną terapią odchudzającą komarami jakoby działał w Gdańsku. Uchodźczyni z Ukrainy, która go prowadziła, miała na tym zarobić ponad milion złotych - wynika z rzekomego materiału stacji Euronews. Rozpowszechniają go w sieci prorosyjskie konta. Jest sfabrykowany.

Terapia odchudzająca komarami, fałszywe dokumenty i Ukrainka z milionem złotych. Nic tu nie jest prawdą

Terapia odchudzająca komarami, fałszywe dokumenty i Ukrainka z milionem złotych. Nic tu nie jest prawdą

Źródło:
Konkret24

W 2023 roku pierwszy raz od trzech lat spadła liczba osób, wobec których zarządzono kontrolę operacyjną. Wśród nich były też inwigilowane Pegasusem. Cały czas jest to jednak więcej niż przed objęciem rządów przez Zjednoczoną Prawicę.

Nie tylko Pegasus. Ile osób służby inwigilowały w 2023 roku?

Nie tylko Pegasus. Ile osób służby inwigilowały w 2023 roku?

Źródło:
Konkret24

Nowy warszawski radny PiS, a wcześniej wojewoda mazowiecki Tobiasz Bocheński postanowił uczcić Święto Chrztu Polski wpisem w mediach społecznościowych. Jednak swój post na ten temat zilustrował grafiką przedstawiającą chrzest nie Mieszka I, tylko innego władcy. 

Bocheński uczcił Święto Chrztu Polski. "Douczy się pan z okresu średniowiecza" 

Bocheński uczcił Święto Chrztu Polski. "Douczy się pan z okresu średniowiecza" 

Źródło:
Konkret24

Jordańska księżniczka Salma miała "osobiście strącić" sześć irańskich dronów skierowanych na Izrael, Iran zrobił Izraelowi "małe Drezno", a jeden z dronów zawisł na kablach elektrycznych... - tego typu informacje o ataku na Izrael rozchodzą się w polskich mediach społecznościowych. Są niepotwierdzone i fałszywe, oparte na starych zdjęciach i nagraniach.

Drony "strąciła jordańska księżniczka", a jeden "zaplątał się w kable". Fejki o ataku Iranu na Izrael

Drony "strąciła jordańska księżniczka", a jeden "zaplątał się w kable". Fejki o ataku Iranu na Izrael

Źródło:
Konkret24