Wystarczy jedno zdjęcie lub seria zdjęć twarzy, aby wyprodukować deepfake'owe wideo, w którym można stać się superbohaterem ze znanej serii filmów albo postacią z popularnego serialu.
W dużym uproszczeniu, deepfake to fałszywe nagranie stworzone z pomocą sztucznej inteligencji. O tym na czym polega deepfake i jakie zagrożenia niesie za sobą ta technologia, pisaliśmy już na łamach Konkret24.
Pierwsze materiały deepfake pojawiły się pod koniec 2017 roku - wmontowywano wówczas twarze sławnych osób w firmy pornograficzne. Efekt był jednak mało realistyczny. Kolejne nagrania były już dużo lepsze - deepfake tworzono z m.in. twarzami Baracka Obamy, Władimira Putina, Donalda Trumpa, Nicholasa Cage'a, a niedawno Toma Cruise'a. Z każdym kolejnym nagraniem "nowa twarz" była coraz lepiej synchronizowana z resztą ciała, wypowiadane słowa współgrały z gestykulacją, usta układały się dokładniej w wypowiadane słowa.
Aby osiągnąć taki efekt, potrzebny jednak był czas i jeśli nie umiejętność pracy ze sztuczną inteligencją, to dostęp do narzędzi, dzięki którym można było uzyskiwać takie efekty.
"Oto ja jako DiCaprio" - realistyczny deepfake w osiem sekund
Stworzona przez chińską firmę aplikacja pokazała, że tworzenie deepfake'ów może być właściwie dostępne dla każdego i to od ręki. Dobitnie pokazał to na Twitterze użytkownik ZAO.
Jeden z udostępnionych przez niego materiałów jest komplikacją scen z filmów z Leonardo DiCaprio, gdzie twarz aktora została zastąpiona twarzą twitterowicza. Wideo wyświetlono już ponad dwa miliony razy.
"W razie gdybyście nie wiedzieli, #ZAO to chińska aplikacja, która całkiem rozniosła się od piątku. Najlepsza aplikacja do zastępowania twarzy w stylu AI 'Deepfake', jaką kiedykolwiek widziałem. Oto ja jako DiCaprio (wygenerowany w mniej niż 8 sekund na podstawie jednego zdjęcia z miniaturki)" - czytamy w poście użytkownika aplikacji.
W jednym z kolejnych tweetów zauważa, że "ZAO tak naprawdę nie dąży do 'dokładności' per se, ale raczej do 'subiektywnego', dobrze wyglądającego wyniku".
"Widzę to w filmach/telewizji, wyobrażam sobie zalogowanie się na swoje konto Netflix lub Disney+ - oglądając najnowszy program telewizyjny/film Marvela, gdzie aktor w zostałby automatycznie zastąpiony tobą. Najnowszym członkiem Avengers jesteś TY" - czytamy w kolejnym wpisie użytkownika. Dzięki aplikacji, można w filmach zastąpić także twarz Marilyn Monroe czy chińskich aktorów własną.
Większość komentujących nagrania na Twitterze, nie wykazywała jednak takiego entuzjazmu.
"Szaleństwo! Dla mnie jako dla marketingowca, to jest niesamowite. Ale jako dla konsumenta - przerażające. Każdy może mnie oszukać!", "Przestań wierzyć w to, co widzisz! Chiny biorą się za deepfake'owe oszustwa! Jeśli myślisz, że coś jest... to tego nie ma!" czy "Czy to jest to narzędzie trzeciej wojny światowej, którego od tak dawna się spodziewamy?" - to tylko niektóre z komentarzy, które można na temat aplikacji znaleźć w sieci.
Henry Ajder z firmy Deeptrace, zajmującej się walką z dezinformacją poprzez deepfake, skomentował dla portalu Digital Trends, że ZAO "jest symboliczną reprezentacją technologii (deepfake - red.), która staje się coraz bardziej rozpowszechniona i coraz prostsza do wykorzystywania". Zwraca jednak uwagę, że nie należy do aplikacji podchodzić jako czegoś niezwykłego. - Myślę, że bardzo ważne jest zachowanie czujności i unikanie sensacyjnych reakcji, bo one w dłuższej perspektywie mogą przynieść więcej szkody niż pożytku - stwierdził.
Zasady prywatności zmienione po fali krytyki użytkowników
ZAO swoją premierę miała 30 sierpnia, dwa dni później stała się najczęściej pobieraną aplikacją w chińskim AppStore. Jednocześnie średnia ocen wystawianych przez jej użytkowników to tylko 2,5/5 przy prawie 1500 ocenach. Wiele negatywnych komentarzy krytykowało aplikację za naruszenia prywatności. Także w innych miejscach sieci pojawiły się ostrzeżenia użytkowników na temat zapisów w polityce prywatności. "Aplikacja od deepfake'ów zrobi z nas gwiazdy filmowe - ale czy kiedyś nie będziemy żałować przez ten nasz narcyzm?", pytał jeden z nich.
Jak donosi Bloomberg, w pierwotnej wersji zasad polityki prywatności ZAO można było przeczytać, że aplikacja posiada "wolne, nieodwołalne, trwałe, przekazywalne i podlegające ponownemu licencjonowaniu" prawa do wszystkich treści wygenerowanych przez użytkownika. Zatem - materiałów, w których pojawiała się jego twarz. W sumie dokument miał ponad 6 tysięcy znaków.
1 września twórcy aplikacji wydali oświadczenie na chińskim portalu społecznościowym Weibo o pracach nad zmianami w polityce prywatności. "W pełni rozumiemy wasze obawy dotyczące kwestii prywatności. Zdajemy sobie sprawę z problemu i zastanawiamy się, jak go rozwiązać. Potrzebujemy trochę czasu" - czytamy we wpisie.
Dwa dni później polityka prywatności została zmieniona. Wynika z niej, że aplikacja nie będzie korzystać ze zdjęć twarzy lub miniaturowych filmów wideo przesyłanych przez użytkowników w celach innych niż poprawa aplikacji lub w innych celach uzgodnionych wcześniej z użytkownikiem. Jeśli użytkownicy usuną przesłane treści, aplikacja obiecuje, że usunie je także ze swoich serwerów.
Jak jednak pisze na Twitterze jeden z ekspertów zajmujących się bezpieczeństwem w sieci, 32 godziny po tym, jak usunął swoje wideo z aplikacji, nadal jest ono dostępne na jej serwerach. "Skłamali. ZAO nie usuwa zdjęć i wideo. Nigdy", skomentował i jako dowód załączył zdjęcia pokazujące, że wprawdzie wideo nie jest widoczne na jego profilu w aplikacji, ale na jej serwerach nadal jest dostępne.
