Chińska aplikacja do podmieniania twarzy podbija rynek. I budzi obawy

app.jpgShutterstock

Chińska aplikacja ZAO pozwala użytkownikom na "podmienienie" twarzy aktora w klipie z serialu lub filmu na swoją twarz. Efekt jest realistyczny i dostępny w ciągu chwili. Program budzi kontrowersje - nie tylko ze względu na swoje możliwości, ale i na politykę prywatności. Jednocześnie bije jednak rekordy popularności w Azji - w ciągu kilku dni od premiery stała się najczęściej ściąganą aplikacją.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Wystarczy jedno zdjęcie lub seria zdjęć twarzy, aby wyprodukować deepfake'owe wideo, w którym można stać się superbohaterem ze znanej serii filmów albo postacią z popularnego serialu.

W dużym uproszczeniu, deepfake to fałszywe nagranie stworzone z pomocą sztucznej inteligencji. O tym na czym polega deepfake i jakie zagrożenia niesie za sobą ta technologia, pisaliśmy już na łamach Konkret24.

Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku - wmontowywano wówczas twarze sławnych osób w firmy pornograficzne. Efekt był jednak mało realistyczny. Kolejne nagrania były już dużo lepsze - deepfake tworzono z m.in. twarzami Baracka Obamy, Władimira Putina, Donalda Trumpa, Nicholasa Cage'a, a niedawno Toma Cruise'a. Z każdym kolejnym nagraniem "nowa twarz" była coraz lepiej synchronizowana z resztą ciała, wypowiadane słowa współgrały z gestykulacją, usta układały się dokładniej w wypowiadane słowa.

Aby osiągnąć taki efekt, potrzebny jednak był czas i jeśli nie umiejętność pracy ze sztuczną inteligencją, to dostęp do narzędzi, dzięki którym można było uzyskiwać takie efekty.

"Oto ja jako DiCaprio" - realistyczny deepfake w osiem sekund

Stworzona przez chińską firmę aplikacja pokazała, że tworzenie deepfake'ów może być właściwie dostępne dla każdego i to od ręki. Dobitnie pokazał to na Twitterze użytkownik ZAO.

Jeden z udostępnionych przez niego materiałów jest komplikacją scen z filmów z Leonardo DiCaprio, gdzie twarz aktora została zastąpiona twarzą twitterowicza. Wideo wyświetlono już ponad dwa miliony razy.

"W razie gdybyście nie wiedzieli, #ZAO to chińska aplikacja, która całkiem rozniosła się od piątku. Najlepsza aplikacja do zastępowania twarzy w stylu AI 'Deepfake', jaką kiedykolwiek widziałem. Oto ja jako DiCaprio (wygenerowany w mniej niż 8 sekund na podstawie jednego zdjęcia z miniaturki)" - czytamy w poście użytkownika aplikacji.

W jednym z kolejnych tweetów zauważa, że "ZAO tak naprawdę nie dąży do 'dokładności' per se, ale raczej do 'subiektywnego', dobrze wyglądającego wyniku".

"Widzę to w filmach/telewizji, wyobrażam sobie zalogowanie się na swoje konto Netflix lub Disney+ - oglądając najnowszy program telewizyjny/film Marvela, gdzie aktor w zostałby automatycznie zastąpiony tobą. Najnowszym członkiem Avengers jesteś TY" - czytamy w kolejnym wpisie użytkownika. Dzięki aplikacji, można w filmach zastąpić także twarz Marilyn Monroe czy chińskich aktorów własną.

Większość komentujących nagrania na Twitterze, nie wykazywała jednak takiego entuzjazmu.

"Szaleństwo! Dla mnie jako dla marketingowca, to jest niesamowite. Ale jako dla konsumenta - przerażające. Każdy może mnie oszukać!", "Przestań wierzyć w to, co widzisz! Chiny biorą się za deepfake'owe oszustwa! Jeśli myślisz, że coś jest... to tego nie ma!" czy "Czy to jest to narzędzie trzeciej wojny światowej, którego od tak dawna się spodziewamy?" - to tylko niektóre z komentarzy, które można na temat aplikacji znaleźć w sieci.

Henry Ajder z firmy Deeptrace, zajmującej się walką z dezinformacją poprzez deepfake, skomentował dla portalu Digital Trends, że ZAO "jest symboliczną reprezentacją technologii (deepfake - red.), która staje się coraz bardziej rozpowszechniona i coraz prostsza do wykorzystywania". Zwraca jednak uwagę, że nie należy do aplikacji podchodzić jako czegoś niezwykłego. - Myślę, że bardzo ważne jest zachowanie czujności i unikanie sensacyjnych reakcji, bo one w dłuższej perspektywie mogą przynieść więcej szkody niż pożytku - stwierdził.

Zasady prywatności zmienione po fali krytyki użytkowników

ZAO swoją premierę miała 30 sierpnia, dwa dni później stała się najczęściej pobieraną aplikacją w chińskim AppStore. Jednocześnie średnia ocen wystawianych przez jej użytkowników to tylko 2,5/5 przy prawie 1500 ocenach. Wiele negatywnych komentarzy krytykowało aplikację za naruszenia prywatności. Także w innych miejscach sieci pojawiły się ostrzeżenia użytkowników na temat zapisów w polityce prywatności. "Aplikacja od deepfake'ów zrobi z nas gwiazdy filmowe - ale czy kiedyś nie będziemy żałować przez ten nasz narcyzm?", pytał jeden z nich.

Jak donosi Bloomberg, w pierwotnej wersji zasad polityki prywatności ZAO można było przeczytać, że aplikacja posiada "wolne, nieodwołalne, trwałe, przekazywalne i podlegające ponownemu licencjonowaniu" prawa do wszystkich treści wygenerowanych przez użytkownika. Zatem - materiałów, w których pojawiała się jego twarz. W sumie dokument miał ponad 6 tysięcy znaków.

1 września twórcy aplikacji wydali oświadczenie na chińskim portalu społecznościowym Weibo o pracach nad zmianami w polityce prywatności. "W pełni rozumiemy wasze obawy dotyczące kwestii prywatności. Zdajemy sobie sprawę z problemu i zastanawiamy się, jak go rozwiązać. Potrzebujemy trochę czasu" - czytamy we wpisie.

Dwa dni później polityka prywatności została zmieniona. Wynika z niej, że aplikacja nie będzie korzystać ze zdjęć twarzy lub miniaturowych filmów wideo przesyłanych przez użytkowników w celach innych niż poprawa aplikacji lub w innych celach uzgodnionych wcześniej z użytkownikiem. Jeśli użytkownicy usuną przesłane treści, aplikacja obiecuje, że usunie je także ze swoich serwerów.

Jak jednak pisze na Twitterze jeden z ekspertów zajmujących się bezpieczeństwem w sieci, 32 godziny po tym, jak usunął swoje wideo z aplikacji, nadal jest ono dostępne na jej serwerach. "Skłamali. ZAO nie usuwa zdjęć i wideo. Nigdy", skomentował i jako dowód załączył zdjęcia pokazujące, że wprawdzie wideo nie jest widoczne na jego profilu w aplikacji, ale na jej serwerach nadal jest dostępne.

Twórcą aplikacji jest studio Changsha Shenduronghe Network Technology Co., Ltd., należące do Momo,notowanego jest na amerykańskiej giełdzie producenta popularnej chińskiej aplikacji randkowej. ZAO jest dostępna wyłącznie w Chinach.

Autor: gabs / Źródło: Konkret24, The Gurardian, Bloomberg: Zdjęcie główne: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Nowa ustawa spowoduje, że polski gaz będzie magazynowany w Niemczech - alarmują politycy opozycji i prawicowe media. To fałszywa narracja zbudowana na wielostopniowej manipulacji. W jej przypadku szczególnie istotne jest, jak powstała.

"Polski gaz u Niemca"? Tekst Obajtka i ustawa z czasów PiS

"Polski gaz u Niemca"? Tekst Obajtka i ustawa z czasów PiS

Źródło:
Konkret24

Wizualizacje remontowanych kamienic we Wrocławiu wywołały poruszenie w sieci. Na budynkach widać bowiem szyldy w językach polskim i niemieckim. Czy rzeczywiście tam wiszą? My sprawdziliśmy, a inwestor wyjaśnia.

Niemieckie szyldy na kamienicach we Wrocławiu? "Charakter ilustracyjny"

Niemieckie szyldy na kamienicach we Wrocławiu? "Charakter ilustracyjny"

Źródło:
Konkret24

Po rocznicy rzezi wołyńskiej w sieci pojawiło się zdjęcie, które rzekomo przedstawia szczątki ofiar w zbiorowej mogile. Drastyczny opis informuje o "10 000 czaszkach małych dzieci". Fotografia nie ma jednak nic wspólnego z ludobójstwem na Wołyniu. Wyjaśniamy, co wiadomo o grobie i ofiarach, które się w nim znajdują.

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

Źródło:
Konkret24

"To jest mocne" - napisał rzecznik rządu Adam Szłapka, publikując w mediach społecznościowych "wyciąg z systemu wizowego", który miał udowadniać, że za rządów Zjednoczonej Prawicy nie kontrolowano migracji do Polski. Tylko że akurat nie te dane to pokazują.

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Źródło:
Konkret24

"Biurokratyczny zamordyzm w plastikowym wydaniu" - grzmiał w Sejmie poseł Konfederacji Witold Tumanowicz, twierdząc, że szwedzka fundacja wykazała wzrost liczby wyrzucanych nakrętek po tym, jak Unia Europejska nakazała przytwierdzać je do butelek. Tylko że to nieprawda.

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

Źródło:
Konkret24

Podczas gdy polski polityk wprost podważa zbrodnie popełnione w Auschwitz-Birkenau, w sieci rozpowszechniane są grafiki AI, które mają imitować autentyczne obrazy pokazujące sceny z tego obozu zagłady. Powstają często na bazie prawdziwych, zachowanych zdjęć. "Manipulowanie takim obrazem dla rozrywki bezcześci go" - przestrzega muzeum. Apeluje o niepodawanie dalej takich postów.

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Źródło:
Konkret24

Iga Świątek pokonała Amandę Anisimovą w finale Wimbledonu, przechodząc do historii tenisa. Jej zwycięstwo skomentował premier Donald Tusk, lecz nie ustrzegł się przy tym wpadki.

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Źródło:
Konkret24

W gorącej dyskusji na temat migrantów "przerzucanych" przez niemiecką granicę politycy opozycji stawiają za wzór Danię i Luksemburg. Według nich te dwa kraje mają nie przyjmować żadnych migrantów z Niemiec. Sprawdziliśmy więc, jak to jest. Publikujemy najnowsze niemieckie statystyki.

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Źródło:
Konkret24

Te historie poruszają. Szczególnie tych rodziców, którzy stracili dzieci, a teraz widzą zdjęcia nastolatków i czytają, że zginęli w wypadkach, lecz ich organy posłużyły do przeszczepów. Autorzy takich wpisów "błagają o udostępnienia" - a my ostrzegamy: to fake newsy.

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

Źródło:
Konkret24

Poseł PiS postanowił zaalarmować o wzroście bezrobocia wśród młodych ludzi w Polsce. Choć posłużył się wiarygodnymi danymi, to przedstawił je w taki sposób, że czytelnik może wyciągać błędne wnioski. Wyjaśniamy.

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Źródło:
Konkret24

Opozycja krytykuje rząd za wprowadzenie zakazu lotów dronami nad zachodnią granicą. Według niej ten zakaz ułatwi "przerzucanie" migrantów z Niemiec. A ponadto politycy opozycji twierdzą, że nie ma podstawy prawnej tej decyzji. Wyjaśniamy.

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Źródło:
Konkret24

Posłowie Konfederacji grzmią, że prezydent Warszawy Rafał Trzaskowski postanowił przeznaczyć 700 tysięcy złotych na postawienie na Placu Zbawiciela tęczy. Instalacja ma być symbolem społeczności LGBTQ+. Politycy - a za nimi internauci - zarzucają prezydentowi Warszawy marnowanie pieniędzy. Tylko że on nie ma z tym nic wspólnego.

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

Źródło:
Konkret24

"Grok zerwał się z łańcucha", "Grok zwariował" – przestrzegają użytkownicy platformy X należącej do Elona Muska. Rzeczywiście, chatbot oparty na sztucznej inteligencji obraża Tuska i Giertycha, a pozytywnie pisze o Braunie czy Hitlerze. O co chodzi z tym Grokiem? 

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Źródło:
TVN24+

"Germanizacja w pełni" - tak internauci i niektóre media komentują rzekomą zmianę nazwy mostu Grunwaldzkiego we Wrocławiu z polskiej na niemiecką. Konserwator zabytków i urząd miasta zaprzeczają, a my tłumaczymy, skąd wziął się ten fałszywy przekaz.

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

Źródło:
Konkret24

Wygląda jak lokalny serwis, ale nim nie jest. Zamiast informować, strona ta szerzy antymigrancki hejt. W rzekomej trosce o bezpieczeństwo mieszkańców karmi ich strachem. Promują ją politycy, a firmuje człowiek z komitetu poparcia Karola Nawrockiego. Portal Gazeta Zielonogórska to modelowe źródło dezinformacji niemedialnej. Na czym polega to zjawisko? 

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Źródło:
TVN24+

Prawica rozpowszechnia przekaz o tysiącach "nielegalnych imigrantów" z Afryki, czy Bliskiego Wschodu zawróconych z Niemiec do Polski. Dane - także te najnowsze - pokazują coś zupełnie innego.

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Źródło:
Konkret24

Politycy opozycji grzmią w mediach społecznościowych, że "ludzie Bodnara chcieli zapewnić sobie bezkarność". Jako dowód rozsyłają rzekomy zapis, który miał się znaleźć w ustawie przygotowywanej w Ministerstwie Sprawiedliwości. Resort już się do tego odniósł, a my wyjaśniamy, co dało początek tej narracji.

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

Źródło:
Konkret24

Zdjęcie wykonane nocą niedaleko granicy z Niemcami przez umieszczoną w lesie fotopułapkę wywołało oburzenie w sieci. Polityczka Konfederacji uznała bowiem, że kamera pokazała niemiecki patrol po polskiej stronie granicy. Wyjaśniamy, kogo naprawdę widać na fotografii.

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Źródło:
Konkret24

Po głośnym pożarze budynku w podwarszawskich Ząbkach w mediach społecznościowych pojawiły się teorie, że jego przyczyną były panele fotowoltaiczne. Jako potwierdzenie tej tezy publikowano nawet zdjęcia satelitarne. Straż pożarna dementuje ten przekaz.

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Pożar w Ząbkach. Fotowoltaika jako "podajnik ognia"? Nie wierzcie w to

Źródło:
Konkret24

"Wszyscy powinni bić na alarm", "dlaczego zbiorniki retencyjne są pełne", "nie spuszczają wody"... - takie komentarze pojawiły się w sieci po informacjach o zbliżających się ulewach. Internauci alarmują, że zbiorniki retencyjne są już zapełnione, a Wody Polskie na to nie reagują. Przedsiębiorstwo zarządzające zbiornikami odpowiada, że "tworzący alternatywne teorie" internauci nie mają racji.

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Zbiorniki retencyjne "pełne po brzegi"? Internauci alarmują, Wody Polskie odpowiadają

Źródło:
Konkret24

Internauci dyskutują, czy na nagraniu z płonącym samochodem, które krąży w sieci, rzeczywiście płonie auto elektryczne. Sprawdzamy, więc co o całym zajściu wiadomo.

"Płonie elektryk" w Koszalinie? Co to za auto

"Płonie elektryk" w Koszalinie? Co to za auto

Źródło:
Konkret24

Kolejne państwa strefy Schengen przywracają kontrole graniczne, dlatego coraz częściej można usłyszeć głosy o "końcu" czy nawet "zabiciu Schengen". Eksperci wymieniają jednak zaskakujące powody, dla których ich zdaniem strefa nie tylko przetrwa, ale będzie się rozszerzać.

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Koniec strefy Schengen? "Składanie do grobu jest przedwczesne"

Źródło:
TVN24+

Internauci, ale też poseł Marek Jakubiak oburzają się na zdjęcie polskiego policjanta, który na ramieniu ma naszywkę z flagą unijną. Wyjaśniamy, co to za naszywka.

"Europejska policja"? Co oznacza naszywka na mundurze

"Europejska policja"? Co oznacza naszywka na mundurze

Źródło:
Konkret24

Politycy opozycji utrzymują, że polski rząd nie przedstawia prawdziwych danych o liczbie migrantów "przerzucanych" z Niemiec do Polski, podczas gdy według władz niemieckich są to "duże liczby, tysiące w skali jednego miesiąca". Publikujemy więc najnowsze statystyki otrzymane z niemieckiej policji - nie potwierdzają takich twierdzeń.

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Ilu migrantów odesłano do Polski? Nowe dane z Niemiec

Źródło:
Konkret24

Szef MSZ oferuje Karolowi Nawrockiemu "możliwość zbriefowania" go, jeśli chodzi o politykę zagraniczną rządu. W odpowiedzi przyszły rzecznik kancelarii prezydenta poucza, co należy do prerogatyw głowy państwa. Tak więc w nowej politycznej rzeczywistości wróci stary spór, a konstytucja się przecież nie zmieniła. Wyjaśniamy.

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

"Gest kurtuazji" kontra "rząd ma obowiązek". Nowy prezydent, stary spór

Źródło:
Konkret24