Chińska aplikacja do podmieniania twarzy podbija rynek. I budzi obawy

app.jpgShutterstock

Chińska aplikacja ZAO pozwala użytkownikom na "podmienienie" twarzy aktora w klipie z serialu lub filmu na swoją twarz. Efekt jest realistyczny i dostępny w ciągu chwili. Program budzi kontrowersje - nie tylko ze względu na swoje możliwości, ale i na politykę prywatności. Jednocześnie bije jednak rekordy popularności w Azji - w ciągu kilku dni od premiery stała się najczęściej ściąganą aplikacją.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Wystarczy jedno zdjęcie lub seria zdjęć twarzy, aby wyprodukować deepfake'owe wideo, w którym można stać się superbohaterem ze znanej serii filmów albo postacią z popularnego serialu.

W dużym uproszczeniu, deepfake to fałszywe nagranie stworzone z pomocą sztucznej inteligencji. O tym na czym polega deepfake i jakie zagrożenia niesie za sobą ta technologia, pisaliśmy już na łamach Konkret24.

Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku - wmontowywano wówczas twarze sławnych osób w firmy pornograficzne. Efekt był jednak mało realistyczny. Kolejne nagrania były już dużo lepsze - deepfake tworzono z m.in. twarzami Baracka Obamy, Władimira Putina, Donalda Trumpa, Nicholasa Cage'a, a niedawno Toma Cruise'a. Z każdym kolejnym nagraniem "nowa twarz" była coraz lepiej synchronizowana z resztą ciała, wypowiadane słowa współgrały z gestykulacją, usta układały się dokładniej w wypowiadane słowa.

Aby osiągnąć taki efekt, potrzebny jednak był czas i jeśli nie umiejętność pracy ze sztuczną inteligencją, to dostęp do narzędzi, dzięki którym można było uzyskiwać takie efekty.

"Oto ja jako DiCaprio" - realistyczny deepfake w osiem sekund

Stworzona przez chińską firmę aplikacja pokazała, że tworzenie deepfake'ów może być właściwie dostępne dla każdego i to od ręki. Dobitnie pokazał to na Twitterze użytkownik ZAO.

Jeden z udostępnionych przez niego materiałów jest komplikacją scen z filmów z Leonardo DiCaprio, gdzie twarz aktora została zastąpiona twarzą twitterowicza. Wideo wyświetlono już ponad dwa miliony razy.

"W razie gdybyście nie wiedzieli, #ZAO to chińska aplikacja, która całkiem rozniosła się od piątku. Najlepsza aplikacja do zastępowania twarzy w stylu AI 'Deepfake', jaką kiedykolwiek widziałem. Oto ja jako DiCaprio (wygenerowany w mniej niż 8 sekund na podstawie jednego zdjęcia z miniaturki)" - czytamy w poście użytkownika aplikacji.

W jednym z kolejnych tweetów zauważa, że "ZAO tak naprawdę nie dąży do 'dokładności' per se, ale raczej do 'subiektywnego', dobrze wyglądającego wyniku".

"Widzę to w filmach/telewizji, wyobrażam sobie zalogowanie się na swoje konto Netflix lub Disney+ - oglądając najnowszy program telewizyjny/film Marvela, gdzie aktor w zostałby automatycznie zastąpiony tobą. Najnowszym członkiem Avengers jesteś TY" - czytamy w kolejnym wpisie użytkownika. Dzięki aplikacji, można w filmach zastąpić także twarz Marilyn Monroe czy chińskich aktorów własną.

Większość komentujących nagrania na Twitterze, nie wykazywała jednak takiego entuzjazmu.

"Szaleństwo! Dla mnie jako dla marketingowca, to jest niesamowite. Ale jako dla konsumenta - przerażające. Każdy może mnie oszukać!", "Przestań wierzyć w to, co widzisz! Chiny biorą się za deepfake'owe oszustwa! Jeśli myślisz, że coś jest... to tego nie ma!" czy "Czy to jest to narzędzie trzeciej wojny światowej, którego od tak dawna się spodziewamy?" - to tylko niektóre z komentarzy, które można na temat aplikacji znaleźć w sieci.

Henry Ajder z firmy Deeptrace, zajmującej się walką z dezinformacją poprzez deepfake, skomentował dla portalu Digital Trends, że ZAO "jest symboliczną reprezentacją technologii (deepfake - red.), która staje się coraz bardziej rozpowszechniona i coraz prostsza do wykorzystywania". Zwraca jednak uwagę, że nie należy do aplikacji podchodzić jako czegoś niezwykłego. - Myślę, że bardzo ważne jest zachowanie czujności i unikanie sensacyjnych reakcji, bo one w dłuższej perspektywie mogą przynieść więcej szkody niż pożytku - stwierdził.

Zasady prywatności zmienione po fali krytyki użytkowników

ZAO swoją premierę miała 30 sierpnia, dwa dni później stała się najczęściej pobieraną aplikacją w chińskim AppStore. Jednocześnie średnia ocen wystawianych przez jej użytkowników to tylko 2,5/5 przy prawie 1500 ocenach. Wiele negatywnych komentarzy krytykowało aplikację za naruszenia prywatności. Także w innych miejscach sieci pojawiły się ostrzeżenia użytkowników na temat zapisów w polityce prywatności. "Aplikacja od deepfake'ów zrobi z nas gwiazdy filmowe - ale czy kiedyś nie będziemy żałować przez ten nasz narcyzm?", pytał jeden z nich.

Jak donosi Bloomberg, w pierwotnej wersji zasad polityki prywatności ZAO można było przeczytać, że aplikacja posiada "wolne, nieodwołalne, trwałe, przekazywalne i podlegające ponownemu licencjonowaniu" prawa do wszystkich treści wygenerowanych przez użytkownika. Zatem - materiałów, w których pojawiała się jego twarz. W sumie dokument miał ponad 6 tysięcy znaków.

1 września twórcy aplikacji wydali oświadczenie na chińskim portalu społecznościowym Weibo o pracach nad zmianami w polityce prywatności. "W pełni rozumiemy wasze obawy dotyczące kwestii prywatności. Zdajemy sobie sprawę z problemu i zastanawiamy się, jak go rozwiązać. Potrzebujemy trochę czasu" - czytamy we wpisie.

Dwa dni później polityka prywatności została zmieniona. Wynika z niej, że aplikacja nie będzie korzystać ze zdjęć twarzy lub miniaturowych filmów wideo przesyłanych przez użytkowników w celach innych niż poprawa aplikacji lub w innych celach uzgodnionych wcześniej z użytkownikiem. Jeśli użytkownicy usuną przesłane treści, aplikacja obiecuje, że usunie je także ze swoich serwerów.

Jak jednak pisze na Twitterze jeden z ekspertów zajmujących się bezpieczeństwem w sieci, 32 godziny po tym, jak usunął swoje wideo z aplikacji, nadal jest ono dostępne na jej serwerach. "Skłamali. ZAO nie usuwa zdjęć i wideo. Nigdy", skomentował i jako dowód załączył zdjęcia pokazujące, że wprawdzie wideo nie jest widoczne na jego profilu w aplikacji, ale na jej serwerach nadal jest dostępne.

Twórcą aplikacji jest studio Changsha Shenduronghe Network Technology Co., Ltd., należące do Momo,notowanego jest na amerykańskiej giełdzie producenta popularnej chińskiej aplikacji randkowej. ZAO jest dostępna wyłącznie w Chinach.

Autor: gabs / Źródło: Konkret24, The Gurardian, Bloomberg: Zdjęcie główne: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Zapytany o swoją obietnicę obniżki cen prądu, Karol Nawrocki zasugerował, że wkrótce Trybunał Konstytucyjny ma podjąć decyzję o odrzuceniu systemu handlu uprawnieniami do emisji CO2. Nie wiadomo, skąd kandydat PiS to wie. Wiadomo natomiast, że Polska nie może wyjść z ETS-u, nie wychodząc z Unii Europejskiej.

Nawrocki obiecuje "odrzucić ETS". Tylko że to niemożliwe

Nawrocki obiecuje "odrzucić ETS". Tylko że to niemożliwe

Źródło:
Konkret24

Trwa walka o wyborców tych kandydatów, którzy nie weszli do drugiej tury. Adam Bielan w radiowym wywiadzie stwierdził, że "nie przypomina sobie" ostrych wypowiedzi polityków PiS na temat Grzegorza Brauna. Przypominamy więc.

Co PiS mówił o Braunie? Europoseł PiS "nie przypomina sobie". Pomagamy

Co PiS mówił o Braunie? Europoseł PiS "nie przypomina sobie". Pomagamy

Źródło:
Konkret24

Po sieci niesie się przekaz, że Chiny zrzucają z samolotów pomoc humanitarną dla Palestyńczyków w Strefie Gazy. Na filmikach w internecie widać olbrzymie spadochrony i przeloty nad piramidami. Wyjaśniamy, co pokazują.

"Chiny zrzucają pomoc dla Gazy"? Co to za nagrania

"Chiny zrzucają pomoc dla Gazy"? Co to za nagrania

Źródło:
Konkret24

"Nie dla podatku katastralnego" - oświadczył Karol Nawrocki w rozmowie ze Sławomirem Mentzenem. Ten wytknął jednak kandydatowi PiS niekonsekwencję w tej sprawie. Bo rzeczywiście, nie po raz pierwszy Nawrocki zmieniał zdanie co do wprowadzenia podatku katastralnego.

Nawrocki o podatku katastralnym. Raz za, raz przeciw

Nawrocki o podatku katastralnym. Raz za, raz przeciw

Źródło:
Konkret24

"To jest kpina"; "to nie twój kraj"; "hańba" - tak internauci reagują na film pokazujący rzekomo, że Ukraińcy brali udział w niedzielnych wyborach prezydenta Polski. Jednak para z nagrania nie pochodzi z Ukrainy. Dotarliśmy do nich. Są zdumieni hejtem, jaki na nich spadł.

"Ukraińcy wybierają polskiego prezydenta"? Kim są Katya i Leonid

"Ukraińcy wybierają polskiego prezydenta"? Kim są Katya i Leonid

Źródło:
TVN24+

W mediach społecznościowych rozpowszechniane jest zdjęcie ulotki z logo Platformy Obywatelskiej. To "deklaracja" do wypełnienia dla "wiernego wyborcy" partii. Ma on zaznaczyć, ilu przyjmie migrantów pod swój dach. Przedstawiciel PO dementuje, że partia jest autorką tych ulotek.

"Przyjmę i nakarmię migranta". PO odcina się od tej akcji

"Przyjmę i nakarmię migranta". PO odcina się od tej akcji

Źródło:
Konkret24

Politycy PiS, komentując wyniki pierwszej tury wyborów prezydenckich, podkreślają wygraną Rafała Trzaskowskiego wśród głosujących więźniów. Waldemar Buda postuluje, by automatycznie odbierać prawo do głosowania skazanym za najcięższe zbrodnie. Europoseł najwyraźniej nie wie, że to rozwiązanie w polskim prawie już jest.

Głosowanie w więzieniach. Europoseł PiS ma postulat, ale "wyważa otwarte drzwi"

Źródło:
Konkret24

Grzegorz Braun trzy lata temu szarpał w warszawskim szpitalu byłego ministra Łukasza Szumowskiego, a w tym roku uwięził w gabinecie lekarkę w szpitalu w Oleśnicy. Jednak według posła PiS Jacka Sasina tego typu zachowanie to było "obywatelskie zatrzymanie" i "korzystanie z prawa obywatelskiego" - dozwolone prawem. To nieprawda.

Sasin broni Brauna i jego "obywatelskich zatrzymań". Bezpodstawnie

Sasin broni Brauna i jego "obywatelskich zatrzymań". Bezpodstawnie

Źródło:
Konkret24

Sławomir Mentzen złożył propozycję Karolowi Nawrockiemu i Rafałowi Trzaskowskiemu. Zaprosił ich do rozmowy na jego kanale w serwisie YouTube. Zapowiedział, że poprosi ich o podpisanie deklaracji zawierającej osiem punktów, które dotyczą m.in. podatków, wysyłania polskich żołnierzy na Ukrainę czy relacji z Unią Europejską. Sprawdziliśmy, co o postulatach lidera Konfederacji mówili dotychczas kandydaci.

Osiem punktów Mentzena. Co mówili o tym Nawrocki i Trzaskowski

Osiem punktów Mentzena. Co mówili o tym Nawrocki i Trzaskowski

Źródło:
Konkret24

Nie wszystko, co mówili kandydaci podczas kończącej się kampanii przed pierwszą turą wyborów, było zgodne z prawdą. I nie tylko o pomyłki tu chodzi, lecz o całe narracje zbudowane na błędnych tezach. 

10 tematów kampanii opartych na fałszu. Warto wiedzieć

10 tematów kampanii opartych na fałszu. Warto wiedzieć

Źródło:
Konkret24

"Sprzedają nawet naszą krew", "państwo handluje krwią Polaków" - komentują internauci, oburzeni opublikowanymi danymi, ile Polska zyskuje na sprzedaży nadwyżek osocza. Wielu jest zaskoczonych, że na bezpłatnie oddawanej przez nich krwi ktoś potem "robi biznes". To nie tak. Wyjaśniamy.

Oddaję krew, a "państwo nią handluje"? Co sprzedajemy, co zyskujemy

Oddaję krew, a "państwo nią handluje"? Co sprzedajemy, co zyskujemy

Źródło:
TVN24+

Czy Krystyna Janda naprawdę obraziła wyborców w reakcji na wyniki pierwszej tury wyborów prezydenckich? Tak sugeruje rozpowszechniany w sieci post, który został oparty na zrzucie ekranu z wyszukiwarki. To manipulacja. Wyjaśniamy, ofiarą jakiego mechanizmu padła aktorka.

Janda o wyborach. "Chamstwo i cwaniactwo króluje"? Tak nie napisała

Janda o wyborach. "Chamstwo i cwaniactwo króluje"? Tak nie napisała

Źródło:
Konkret24

"Niemcy się wygadali", "zagadka aut Bundeswehry rozwiązana" - komentują internauci informację, jakoby niemiecki rząd "ujawnił tajną umowę" z 2014 roku. Rzekomo pozwala ona przerzucać z Niemiec migrantów bez zgody Polski. To nieprawda, a rozpowszechnia ją znany działacz młodzieżówki PiS.

Niemcy "ujawniają tajną umowę" z Polską o migrantach? Wielostopniowa manipulacja

Niemcy "ujawniają tajną umowę" z Polską o migrantach? Wielostopniowa manipulacja

Źródło:
Konkret24

Cisza wyborcza nie spowodowała, że dezinformacja w mediach społecznościowych na temat prezydenckich wyborów ustała. Fake newsy dotyczyły zarówno samego głosowania, jak i niektórych polityków.

Obcięta karta, kserowanie zaświadczeń, fałszywe zdjęcia. Wyborcza dezinformacja

Obcięta karta, kserowanie zaświadczeń, fałszywe zdjęcia. Wyborcza dezinformacja

Źródło:
Konkret24

Komentarze w sieci wywołuje informacja, jakoby we Włoszech miały zostać zakazane małżeństwa osób tej samej płci. Trudno jednak zakazać czegoś, co i tak nie jest dozwolone. Wyjaśniamy, na co pozwala włoskie prawo.

Włochy "zakazały małżeństw homoseksualnych"? Duża nieścisłość

Włochy "zakazały małżeństw homoseksualnych"? Duża nieścisłość

Źródło:
Konkret24

Węgierskie wojsko przemieszcza się w stronę granicy z Ukrainą - informują internauci, a jako "dowód" publikują nagranie kolumny ciężkiego sprzętu wojskowego jadącej przez jakieś miasto. To klasyczna rosyjska dezinformacja, której celem jest potęgowanie napięć między Węgrami a Ukrainą, ale także wzbudzanie niepokoju obywateli innych państw.

"Węgierskie czołgi przy granicy z Ukrainą"? Co pokazuje mapa

"Węgierskie czołgi przy granicy z Ukrainą"? Co pokazuje mapa

Źródło:
Konkret24

Po jednej z ostatnich blokad trasy S8 w Warszawie organizowanych przez aktywistów Ostatniego Pokolenia w sieci zaczęło krążyć zdjęcie mężczyzny, który rzekomo uczestniczył w proteście. Internauci twierdzili, że to Wojtek - jeden z aktywistów klimatycznych, którzy przykleili się do asfaltu. Mylili się.

Wojtek z Ostatniego Pokolenia? Inny znany aktywista

Wojtek z Ostatniego Pokolenia? Inny znany aktywista

Źródło:
Konkret24

Wybory już za trzy dni, więc zwolennicy poszczególnych kandydatów nasilają w mediach społecznościowych swoje wsparcie dla nich - niejednokrotnie publikując fake newsy. Tak właśnie jest z plakatem zachęcającym do głosowania na Karola Nawrockiego.

"Patrioci za Nawrockim". A kto jest na zdjęciu?

"Patrioci za Nawrockim". A kto jest na zdjęciu?

Źródło:
Konkret24

Na trzy dni przed wyborami prezydenckimi internauci pokazują w mediach społecznościowych otrzymywane SMS-y mające zachęcać do głosowania na Rafała Trzaskowskiego. Sztab kandydata zaprzecza i nazywa to "masową akcją dezinformacji wyborczej". Ostrzegamy przed oszustami.

"Agitacja wyborcza PO"? Nie, uwaga na oszustów

"Agitacja wyborcza PO"? Nie, uwaga na oszustów

Źródło:
Konkret24

Administracja Trumpa nie wprowadzi jednak ograniczeń eksportu chipów stosowanych w systemach sztucznej inteligencji. Miały dotyczyć sporej grupy krajów, w tym Polski. Politycy PiS twierdzą, że to "sukces" niedawnej wizyty Karola Nawrockiego w USA. Fakty, które przeanalizowaliśmy, nie potwierdzają tej tezy.

USA znoszą restrykcje na chipy AI, PiS ogłasza "sukces Nawrockiego". Jak było naprawdę?

USA znoszą restrykcje na chipy AI, PiS ogłasza "sukces Nawrockiego". Jak było naprawdę?

Źródło:
Konkret24

Rozsyłając nagranie, na którym kongresmen prezentuje wejście do tajemniczego tunelu pod amerykańskim Kapitolem, internauci twierdzą, że był on wykorzystywany przez siatkę pedofili. Oto jak poglądowy filmik połączono ze znaną teorią spiskową.

Siatka pedofili i tunel pod Kapitolem? Co pokazuje kongresmen

Siatka pedofili i tunel pod Kapitolem? Co pokazuje kongresmen

Źródło:
Konkret24

W polskiej sieci krąży nagranie z przekazem, jakoby władze Holandii zniosły pomoc socjalną dla Ukraińców. To miało wywołać protesty ukraińskich uchodźców na holenderskich ulicach. Ten przekaz jednak niewiele ma to wspólnego z prawdą.

Ukraińcy protestują "po odcięciu socjalu"? Co to za marsz

Ukraińcy protestują "po odcięciu socjalu"? Co to za marsz

Źródło:
Konkret24

Miliony wyświetleń generuje nagranie, które jakoby pokazuje, jak papież Leon XIV "sprytnie uniknął" flagi społeczności LGBT+, którą powiewał jeden z wiernych. Tyle że to wcale nie była "flaga dumy".

Papież "odwraca się" od flagi LGBT? To inna flaga

Papież "odwraca się" od flagi LGBT? To inna flaga

Źródło:
Konkret24

Tusz z długopisów w lokalach wyborczych można usunąć za pomocą zapalniczki - sugerują internauci, pokazując jako "dowód" pewne nagranie. Zalecają, by na wybory zabrać własny długopis. Uwaga: to jedna z odsłon dezinformacji o planowanym fałszerstwie wyborczym. Wyjaśniamy.

"Weź długopis na wybory"? Uwaga: dezinformacja

"Weź długopis na wybory"? Uwaga: dezinformacja

Źródło:
Konkret24

Ostatnia debata prezydencka przed wyborami, która odbędzie się 12 maja, wywołuje dodatkowe emocje z powodu przekazu polityków PiS. W mediach społecznościowych sugerują, jakoby losowanie kolejności wypowiedzi zostało ustawione na korzyść kandydata KO Rafała Trzaskowskiego. Podobnie mówili na porannej konferencji prasowej. To nieprawda.

PiS o "skandalicznym losowaniu" kolejności w debacie. Bezpodstawny zarzut

PiS o "skandalicznym losowaniu" kolejności w debacie. Bezpodstawny zarzut

Źródło:
Konkret24

Paczuszka z białym narkotykiem i łyżeczka do jego zażywania - to według internautów miało leżeć na stole, przy którym w pociągu do Kijowa spotkali się Emmanuel Macron, Friedrich Merz i Keir Starmer. Przestrzegamy, to prorosyjska dezinformacja.

Macron, Merz, Starmer w pociągu. Co ukryto przed kamerami?

Macron, Merz, Starmer w pociągu. Co ukryto przed kamerami?

Źródło:
Konkret24

Internauci z oburzeniem komentują rzekomy nowy zakup Wołodymyra Zełenskiego - ma to być willa na Florydzie warta 20 milionów dolarów. Twierdzą, że zapłacono za nią środkami przekazanymi Ukrainie na walkę z Rosją. To nieprawda, kolejny fake news prorosyjskiej propagandy.

Willa Zełenskiego na Florydzie? To nie jego

Willa Zełenskiego na Florydzie? To nie jego

Źródło:
Konkret24

Podczas ostatniej telewizyjnej debaty prezydenckiej marszałek Sejmu Szymon Hołownia oznajmił, że w Sejmie nie ma projektu ustawy o asystencji osobistej. W sieci oburzyli się politycy PiS, twierdząc, że projekt jest już od dawna, tylko został zamrożony. Wyjaśniamy, o co chodzi.

Hołownia asystencji osób z niepełnosprawnościami: projektu nie mamy w Sejmie. Opozycja: jest. Tłumaczymy

Hołownia asystencji osób z niepełnosprawnościami: projektu nie mamy w Sejmie. Opozycja: jest. Tłumaczymy

Źródło:
Konkret24

Masz swoje hipotezy, dobierasz do nich pasujące ci zdarzenia, podkręcasz emocje - i teoria gotowa. To nic, że nieprawdziwa, byle znalazła zwolenników. Tak się właśnie stało z blackoutem w Hiszpanii i Portugalii. Przeciwnicy zielonej energii obarczyli winą Europejski Zielony Ład, a politycy stali się pasem transmisyjnym tej nowej teorii spiskowej. Zadział efekt potwierdzenia.

Blackout w Hiszpanii a Zielony Ład. Jak działa "efekt potwierdzenia"

Blackout w Hiszpanii a Zielony Ład. Jak działa "efekt potwierdzenia"

Źródło:
Konkret24

Rafał Trzaskowski w kampanii prezydenckiej wielokrotnie odwoływał się do swoich doświadczeń i sukcesów jako prezydenta Warszawy. Chwalił się 14 tysiącami mieszkań - raz były "wybudowane", raz "oddane", a innym razem "nowe". Kandydat ze swoich wypowiedzi tłumaczy się brakiem precyzji. Wyjaśniamy, ile mieszkań komunalnych powstało w Warszawie za kadencji polityka KO.

Trzaskowski i 14 tysięcy mieszkań w Warszawie. O jakie lokale chodzi

Trzaskowski i 14 tysięcy mieszkań w Warszawie. O jakie lokale chodzi

Źródło:
Konkret24