Prezydent Warszawy i burmistrzowie czterech europejskich stolic stali się ofiarami deep fake'a. Sądzili, że rozmawiali z merem Kijowa Witalijem Kliczką, podczas gdy było to wyrafinowane oszustwo. Do podszycia się pod Kliczkę w rozmowie z Trzaskowskim przyznała się para rosyjskich pranksterów Wowan i Leksus

W czerwcu prezydent Warszawy Rafał Trzaskowski oraz burmistrzowie Berlina, Budapesztu, Madrytu i Wiednia odbyli wideorozmowy z merem Kijowa Witalijem Kliczką. W ostatnich dniach ujawniono jednak, że w rzeczywistości nie dzwonił do nich Kliczko, tylko ktoś podszywający się pod byłego boksera. Wszyscy burmistrzowie przyznali się już do rozmowy z nieprawdziwym merem ukraińskiej stolicy, ale nie wszyscy ujawnili tyle samo szczegółów.

Burmistrz Budapesztu i kancelaria burmistrz Berlina sugerują, że przy oszustwie "użyto profesjonalnej technologii deep fake". Sugerowały to też media informujące o ich rozmowach z fałszywym Kliczką. Deep fake to technologia pozwalająca animować dowolną twarz w czasie rzeczywistym w oparciu o jej wcześniejsze nagrania. W ten sposób można podszywać się pod dowolną osobę, wykorzystując jej prawdziwy wizerunek.

Technologia wykorzystywana do deepfake’ów ma pomóc w poszukiwaniu zaginionych osób

Pojawiają się jednak wątpliwości co do tego, czy obraz Witalija Kliczki, który widzieli na swoich ekranach prezydent i burmistrzowie europejskich stolic, był na pewno wygenerowany w tej technologii, no i kto za tym stoi. Odpowiedź na to drugie pytanie poznaliśmy dwa dni później.

Co ujawniają rozmówcy rzekomego Kliczki?

Warszawski ratusz jest oszczędny w dzieleniu się informacjami na temat rozmowy z rzekomym merem Kijowa. Nie wydał żadnego oświadczenia ani nie opublikował żadnego zdjęcia z telekonferencji. Wszystkie dostępne publicznie informacje pochodzą z wypowiedzi Rafała Trzaskowskiego dla Radia Zet. Prezydent Warszawy potwierdził, że rozmawiał z nieprawdziwym merem, ale jednocześnie zapewnił, że "rozmowa nie dotyczyła żadnych wrażliwych kwestii". Dodał, że po rozmowie powiadomił o incydencie polskie służby odpowiedzialne za bezpieczeństwo oraz ambasadę Ukrainy.

Znacznie więcej wiadomo o szczegółach rozmowy burmistrz Berlina Franziski Giffey. 24 czerwca na oficjalnym koncie kancelarii przekazano, że przebieg rozmowy z rzekomym merem Kliczką oraz dobór tematów "wzbudziły w Berlinie nieufność", dlatego "rozmowa zakończyła się przedwcześnie". Tego samego dnia opublikowano także zdjęcie z rozmowy z dopiskiem: "Nie było dowodów na to, że wideokonferencji nie prowadzono z prawdziwą osobą. Najwyraźniej jest to deep fake".

Jeszcze więcej szczegółów w rozmowie z telewizją ZDF ujawniła Lisa Frerichs, rzeczniczka burmistrz. Według jej relacji rzekomy Kliczko mówił tylko po rosyjsku, co zaskoczyło Franziskę Giffey, ponieważ miała ona nadzieję na krótką pogawędkę po niemiecku, a mer Kijowa mówi płynnie w tym języku. Same wypowiedzi Kliczki były od razu tłumaczone na niemiecki przez kogoś po stronie dzwoniącego.

Poruszane przez rzekomego mera tematy wzbudziły jednak podejrzenia większości rozmówców. Frerichs wspomniała, że po około 35 minutach rzekomy Kliczko niespodziewanie zaproponował organizację "parady gejów" w Kijowie. W tamtym momencie burmistrz powiedziała do swojego zespołu: "coś jest nie tak", a rozmowa została przerwana przez dzwoniącego bez pożegnania. Zdaniem amerykańskiego magazynu "Fortune" wcześniej rzekomy mer miał także mówić, że ukraińscy uchodźcy oszukują niemiecki system zasiłków społecznych, co także wzbudziło podejrzenia burmistrz Berlina.

Z powodu nietypowych i podejrzanych pytań swoją rozmowę wcześniej skończył też burmistrz Budapesztu. Gergely Karácsony tak opisał to w swoim facebookowym wpisie: "Chociaż przez większość rozmowy toczyliśmy istotną dyskusję na temat wojny i kryzysu uchodźczego, pod koniec pojawiło się kilka dziwnych, podejrzanie prowokujących pytań, dlatego zakończyłem rozmowę dużo wcześniej, niż planowałem". Jak pisze niemiecki dziennik "Bild", również burmistrz Madrytu José Luis Martinez-Almeida zakończył rozmowę po kilku minutach z powodu podejrzeń.

Swojej rozmowy wciąż oficjalnie nie skomentował burmistrz Wiednia Michael Ludwig. Informował on natomiast o samym fakcie odbycia rozmowy już 22 czerwca, myśląc jednak, że rozmawiał z prawdziwym Witalijem Kliczką. "Dziś miałem okazję omówić aktualną sytuację w Ukrainie z merem Kijowa Witalijem Kliczką. Mer zapytał o ukraińskich uchodźców w Wiedniu i Austrii" - napisał w usuniętym już poście na Twitterze, który jednak zachował się na zrzutach ekranu.

Usunięty wpis burmistrza Wiednia o rozmowie z rzekomym merem Kijowa
Usunięty wpis burmistrza Wiednia o rozmowie z rzekomym merem Kijowa Foto: bild.de

O przebieg i szczegóły rozmowy Rafała Trzaskowskiego zapytaliśmy 28 czerwca rzeczniczkę prasową Urzędu Miasta Stołecznego Warszawy. W odpowiedzi Monika Beuth-Lutyk przekazała, że "rozmowa odbyła się 7 czerwca z inicjatywy Kijowa". W sprawie poruszanych tematów przekazała jedynie, że "rozmowa była w dużej mierze kurtuazyjna, prezydent pytał o aktualną sytuację w Kijowie". Powtórzyła zapewnienia Rafała Trzaskowskiego, że rozmowa nie dotyczyła żadnych wrażliwych kwestii ani szczegółów współpracy między Warszawą a Kijowem.

Rzeczniczka dodała również, że "zaproszenie przyszło z oficjalnej domeny kijowskiego urzędu miasta". Nie podała, jaki dokładnie był to adres. Do tej pory upubliczniono jedynie adres, z którego zaproszenie do rozmowy otrzymał burmistrz Madrytu - "mayor.kyiv@ukr.net". Prawdziwy Witalij Kliczko przekazał jednak 25 czerwca na swoim oficjalnym koncie na Telegramie, że to nieprawdziwy adres. Nie wiadomo więc, jaką domenę warszawski urząd uznał za oficjalną.

Wątpliwości w sprawie deep fake'a

Burmistrz Berlina i burmistrz Budapesztu sugerowali, że dzwoniący do nich Kliczko był wygenerowany w technologii deep fake. Niemieccy dziennikarze, na czele z Danielem Lauferem z ARD, mają jednak co do tego wątpliwości.

Laufer wykorzystał zdjęcie udostępnione przez kancelarię burmistrz Berlina i znalazł oryginalne nagranie, które mogło posłużyć do stworzenia fałszywki. Ustalił, że źródłem było nagranie wywiadu, którego Kliczko udzielił 2 kwietnia ukraińskiemu dziennikarzowi Dmitro Gordonowi.

Daniel Laufer następnie porównał kadry z filmiku ze zdjęciami rozmowy rzekomego Kliczki z burmistrz Berlina i doszedł do wniosku, że są one do siebie zbyt podobne, żeby mógł to być deep fake. Technologia ta, mimo że stale udoskonalana, wciąż nie jest perfekcyjna: wygenerowany w niej filmik, zwłaszcza w czasie rzeczywistym, często zawiera charakterystyczne błędy.

Laufer uważa na przykład, że w przypadku deep fake'a widoczne za głową mera Kijowa kawałki ukraińskiego godła oraz flagi momentami byłyby zniekształcone. Co więcej, wszystkie kadry z wideokonferencji udostępnione przez berlińską kancelarię pasują do kadrów z filmiku źródłowego.

Kadry z prawdziwego wywiadu z Witalijem Kliczką, które według Daniela Laufera zostały użyte do przeprowadzania rozmów z burmistrzami
Kadry z prawdziwego wywiadu z Witalijem Kliczką, które według Daniela Laufera zostały użyte do przeprowadzania rozmów z burmistrzami Foto: Twitter

Technologia deep fake najprawdopodobniej tak zmieniłaby mimikę Kliczki, że nie dałoby się znaleźć idealnych kadrów w oryginalnym nagraniu. Dziennikarz sugeruje więc, że twarz Kliczki nie została wygenerowana komputerowo, a jedynie wywiad został odpowiednio pocięty, zmontowany i dograno do niego wypowiedzi po rosyjsku i niemiecku.

Laufer dowodzi, że mimika Kliczki z rozmowy z Gordonem jest identyczna z tym, co zostało nagrane, gdy rzekomy Kliczko "rozmawiał" z burmistrz Berlina
Laufer dowodzi, że mimika Kliczki z rozmowy z Gordonem jest identyczna z tym, co zostało nagrane, gdy rzekomy Kliczko "rozmawiał" z burmistrz Berlina

"To nadal byłby fejk, ale tak zwany shallow fake/cheap fake – a nie wyrafinowany technologicznie deep fake generowany za pomocą sztucznej inteligencji. Nie ma więc magii, tylko magiczna sztuczka, której nie spodziewały się osoby zaangażowane w rozmowę" - napisał Laufer. Zastrzegł jednocześnie, że w tym momencie "niestety nic nie można powiedzieć na pewno, to tylko wskazówki".

Rzekomy mer "reagował", ale "zadawał jedno pytanie za drugim"

Tezy Laufena skomentowali eksperci z serwisu Vgency.com specjalizujący się w tworzeniu filmów z użyciem sztucznej inteligencji. Stwierdzili, że rzeczywiście podobieństwo kadrów z rozmowy i nagrania na YouTube podważa tezę o deep fake'u, ale jej nie wyklucza. Podali kilka powodów: w sieci dostępnych jest wiele materiałów z wizerunkiem Kliczki, które można "załadować" sztucznej inteligencji i "nauczyć" ją bardzo dobrze odwzorowywać jego twarz; Kliczko ma krótkie włosy i nie nosi okularów (co pomaga przy tworzeniu deep fake'ów); kamera i obraz są bardzo statyczne; w obrazie można zmienić wyłącznie usta i pozostawić resztę nienaruszoną; błędy deep fake'a są mniej zauważalne przy niskiej jakości wideokonferencji.

"Technicznie rzecz biorąc, nie jest trudno stworzyć deep fake'a na podstawie konkretnego wywiadu Kliczki na YouTube, po prostu zastępując usta i zachowując pozostałą część filmu bez zmian, w tym wszystkie ruchy głowy i ciała" - stwierdzili eksperci. Nie wykluczyli jednak, że tezy Laufena o cheap fake'u, czyli zmontowaniu filmiku z gotowych fragmentów, są trafne.

Za wykorzystaniem technologii deep fake przemawia część wspomnianej wcześniej relacji rzeczniczki burmistrz Berlina, Lisy Frerichs. W rozmowie z ZDF mówiła, że rzekomy mer raz zareagował na słowa burmistrz. Kiedy ta stanowczo odrzuciła propozycję wysłania ukraińskich policjantów do Niemiec, by wesprzeć berlińską policję w repatriacji zdolnych do walki Ukraińców, Kliczko miał odpowiedzieć: "źle mnie zrozumiałaś". Jak stwierdzają dziennikarze ZDF, taka interakcja przemawiałaby za tym, że film nie został nagrany wcześniej, a był tworzony na bieżąco w technologii deep fake.

Z drugiej strony, rzeczniczka stwierdziła, że poza tym momentem rozmowa była bardzo jednostronna, a to mogłoby sugerować, że oszuści umiejętne zmontowali wcześniejszy wywiad. "Kliczko ustalał tematy rozmowy i zadawał jedno pytanie po drugim" - mówiła Lisa Frerichs. Wideo miało działać płynnie, a Frerichs nie zauważyła zniekształceń obrazu typowych dla technologii deep fake.

Zapytaliśmy Urząd m.st. Warszawy, czy Kliczko w tym nagraniu (przesłaliśmy go) jest podobny do tego, jak zachowywał się i co mówił rzekomy Kliczko w rozmowie z prezydentem Trzaskowskim. W odpowiedzi rzeczniczka ratusza przekazała: "Nie posiadamy nagrania rozmowy i nie analizujemy podobieństw do innych tego typu nagrań, to zadanie dla specjalistów".


Aktualizacja, 30 czerwca

W środę 29 czerwca do podszycia się pod Witalija Kliczkę przyznała się para znanych rosyjskich pranksterów: Władimir Kuzniecow i Aleksiej Stoliarow, znani jako Wowan i Leksus. To oni w lipcu 2020 roku, podszywając się pod sekretarza generalnego ONZ Antonio Gutteresa, wkręcili prezydenta Andrzeja Dudę. Jak pisaliśmy w Konkret24, podczas wojny też są aktywni. Podszywając się pod polityków ukraińskich, w rozmowach z zachodnimi ministrami mówili o ukraińskich nacjonalistach czy broni atomowej dla Ukrainy - na czym korzysta kremlowska dezinformacja. Teraz w rozmowie z niemieckim magazynem "Kontakte" nie zdradzili, jak zrealizowali akcję z burmistrzami miast: jakich używali maili i czy wykorzystali technologię deep fake.

Rafał Trzaskowski najpierw rozmawiał z pranksterami po rosyjsku, potem przeszedł na angielski
Rafał Trzaskowski najpierw rozmawiał z pranksterami po rosyjsku, potem przeszedł na angielski Foto: rutube.ru

Natomiast 30 czerwca Wowan i Leksus na swoim kanale w serwisie rutube.ru opublikowali pełny zapis rozmowy z Rafałem Trzaskowskim. Nagranie trwa nieco ponad 15 minut. Prezydent Warszawy najpierw rozmawiał z rzekomym Kliczką po rosyjsku, ale potem poprosił, żeby przejść na angielski.

O uchodźcach, bezpłatnych biletach, wyborach

Prankster zaczął od pytania "jak tam u was sytuacja z uchodźcami?", na co Trzaskowski powiedział, że jest ich w mieście ok. 240 tys., dodając, że "nasza władza nie ma na to żadnej strategii". Wtedy prowadzący rozmowę zapytał, czy to prawda, że w Warszawie zlikwidowano bezpłatne przejazdy dla Ukraińców. "Tak, bo u nas nie ma pieniędzy. Nie ma pieniędzy europejskich" - odpowiedział Trzaskowski. I tłumaczył trudności we współpracy miast z rządem, że "nie ma państwowej strategii, w różnych miastach są różne podejścia". Skarżył się, że państwo zrzuca swoją odpowiedzialność na samorządy. "Kiedy populacja mojego miasta wzrosła o 12-15 procent, to rosną opłaty za wodociągi, transport itp., ale [rząd] oni za to nie płacą" - mówił Trzaskowski. Potem tłumaczył, jak polityka rządzących jest nastawiona przeciwko miejskim samorządom. "Im bliżej wyborów, tym bardziej próbują tworzyć problemy dla mnie i mojej partii, bo to jest priorytetem".

Podszywający się pod Kliczkę prankster zapytał: "Jak zachowują się nasi uchodźcy?", sugerując, że słyszał na nich dużo skarg. W odpowiedzi prezydent Trzaskowski mówił o problemach z lekarzami, psychologami i z brakiem nauczycieli mówiących po ukraińsku czy rosyjsku. Przyznał, że rozmawia z Unią o relokacji.

Prankster pytał też o rosnące ceny, sugerując, że rezygnacja z rosyjskiego gazu nie była dobrą decyzją; o oblanie farbą rosyjskiego ambasadora; o nadchodzące wybory. Przekazał "wieści od naszego (rzekomo ukraińskiego - red.) wywiadu", który miał się rzekomo dowiedzieć, że Rosja może wrócić na kierunek kijowski, więc będzie więcej uchodźców. Trzaskowski odparł, że informuje rząd i Unię, że miasto jest na skraju wydolności. "Jeśli będzie druga fala, u nas na pewno wynikną problemy" - stwierdził.

Autor:  Michał Istel
Źródło:  Konkret24 zdjęcie: Leszek Szymański/PAP

Pozostałe