"Energia księżycowa" i "fosforyzujące ślimaki". Minister ofiarą deep fake'a

Wideo, które w ostatnich dniach rozsyłane jest w mediach społecznościowych, trwa 24 sekundy. Słyszymy w nim głos wiceministry klimatu i środowiska Urszuli Zielińskiej, a ją widzimy siedzącą w studiu Programu I Polskiego Radia. W górnym prawym rogu ekranu jest napis ''na żywo", u dołu logo Telewizji Republika, zegar wyświetlający godzinę 19.32 i pasek informacyjny. Na górze kadru wyświetlana jest transkrypcja rzekomej wypowiedzi ministry Zielińskiej: "Inne i de facto wykorzystywane środki transportu, takie jak magnetyczne kapsuły napędzane energią księżycową, czy też podniebne szlaki dla ekologicznych sterowców z bambusa". Potem miała dodać: "Te innowacyjne rozwiązania są nie tylko bardziej opłacalne, ale także zupełnie nietoksyczne dla naszych bezcennych populacji rzecznych ślimaków fosforyzujących".

Jedna z internautek, która 10 listopada udostępniła na profilu w serwisie X to nagranie, skomentowała: "Teraz lecę grubej rury. A jak z grubej rury to musi być Zielińska o magnetycznych kopsułach napędzanych energią księżycową!'' (pisownia oryginalna). Ten post wygenerował ponad 90 tys. wyświetleń; ponad 1,3 tys. razy podano go dalej. Rzekome słowa wiceministry wywołały pełne emocji komentarze typu: "Chora z urojenia. Skąd ja wzięli"; "O kurde, ona jest z innej galaktyki chyba"; "Zakład specjalny się pani kłania..". Były też obraźliwe epitety.

Jednak już na pierwszy rzut oka widać, że z nagraniem jest coś nie tak. Słowa rzekomo wypowiadane przez Zielińską nie pokrywają się z widocznym na filmie ruchem jej warg. Ponadto na nagraniu widać oprawę graficzną Telewizji Republika, a na mikrofonie w studiu logo radiowej Jedynki. "Czy jest to AI czy też ona jest autentycznie tak odleciana. To chyba AI"; "Powiedz że to fejk'' - dopytywali internauci. "Przecież to fotomontaż. Sztucznie generowany głos" - stwierdził jeden z komentujących, a autorka wpisu przyznała mu rację: "AI".

Rzeczywiście, jest to rodzaj deep fake'a.

W Konkret24 opisywaliśmy, na czym polega deep fake. To fałszywka, do której stworzenia wykorzystywane są narzędzia i algorytmy sztucznej inteligencji. Treści stworzone przez tę technologię to między innymi zdjęcia, wideo czy - jak w opisanym tu przypadku - materiały audio. Na fragment prawdziwego nagrania nałożony został dźwięk stworzony najprawdopodobniej za pomocą generatora głosu. Materiał stworzono tak, by jak najbardziej przypominał głos, intonację i inne cechy charakterystyczne mowy Urszuli Zielińskiej.

Oryginał pochodzi z programu "Sygnały dnia" z 24 lipca 2024 roku, gdy ministra Zielińska gościła w Polskim Radiu. Cała audycja dostępna jest do odsłuchania na YouTube. W rozmowie z Grzegorzem Osieckim wiceministra mówiła między innymi o programie "Mój prąd" realizowanym przez Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej, o rządowym programie "Czyste powietrze", bonie energetycznym czy cenach energii. Zielińska była pytana o sytuację ekosystemu Odry i innych rzek w Polsce oraz o unijny system ETS2. Nigdzie w wywiadzie nie padły słowa, które słyszymy na nagraniu rozpowszechnianym w sieci.

Fragment wykorzystany w fałszywce zaczyna się od ok. 24 minuty wywiadu, gdy rozmowa dotyczyła Odry. Zgadzają się mimika, ruch warg, gestykulacja Zielińskiej oraz kilka pierwszych słów. Audio przeanalizowaliśmy za pomocą dostępnych w internecie narzędzi, które określają prawdopodobieństwo, czy dany materiał został stworzony za pomocą sztucznej inteligencji - w tym wypadku programy wskazały takie prawdopodobieństwo na ponad 90 proc.

Jak się okazuje, nie po raz pierwszy w sieci rozchodzi się ten sfałszowany filmik z Urszulą Zielińską. Dotarliśmy do posta w serwisie X opublikowanego 24 lipca tego roku - czyli w dniu, gdy odbyła się rozmowa z ministrą w radiowej Jedynce. Internauta zamieścił na swoim koncie jego fragment, w którym polityczka zapytana została o Odrę. Na początku słyszymy prawdziwe słowa dziennikarza: "To zapytam, bo poprzedni rząd stawiał na to, żeby Odrę w zasadzie uregulować i zrobić z niej szlak żeglugowy, który będzie wiódł do Szczecina i dalej do Świnoujścia". "Tak, to były takie miraże z piasku..." - zaczęła odpowiadać Zielińska. A dopytana przez dziennikarza, mówiła: "Dlatego, że transport rzeczny jest dzisiaj kompletnie nieopłacalny''. Lecz od kolejnego zdania jej prawdziwa wypowiedź została zamieniona na audio stworzone za pomocą sztucznej inteligencji. W tym nagraniu jest ono dłuższe. Oprócz "energii księżycowej" i "fosforujących ślimaków", Zielińska miała mówić także o "podwodnych koloniach cebulowych'', "wodorostach produkujących tlen emocjonalny", "rzecznych kijankach latających" czy "podwodnych piramidach energetycznych''.

''A skoro już mówimy o efektownym wykorzystaniu zasobów, to nie mogę nie wspomnieć o niewykorzystanym potencjale naszych cmentarzy. Zamiast marnować cenne tereny zielone, moglibyśmy przekształcić je w bioelektrownie nekroenergetyczne'' - słyszymy w filmiku. Trwa on ponad 2 minuty. Nie dodano tam oprawy wizualnej innego medium, a sam autor posta podpowiada, że materiał jest sfałszowany: "Musiałem. Zgadnijcie od którego momentu to nie są jej słowa". Ten post z filmem wygenerował ponad 70 tys. wyświetleń.

Co naprawdę mówiła Zielińska w tej części wywiadu? Po słowach ''są inne de facto wykorzystywane środki transportu'' kontynuowała: "...czy szynowego i drogowego, i z tego korzystają firmy przewoźnicze i korzystamy jako obywatele. Więc to były kompletne miraże z piasku. To się nijak nie spinało finansowo, a dodatkowo doprowadziło, było jednym z elementów tej katastrofy. Więc to jest pieśń przeszłości. To jest polityka zarządzania rzekami, jak z lat 70., kiedy się betonuje, prostuje. To zabija nasze rzeki".