Papież "się serio tak odstrzelił"? Nie, to "dezinformacja sztucznej inteligencji"

To, jak bardzo zastosowanie sztucznej inteligencji do generowania obrazów może wprowadzać w błąd i powodować nieporozumienia, pokazały niedawne przykłady z rzekomymi zdjęciami prezydenta Francji Emmanuela Macrona czy byłego prezydenta Stanów Zjednoczonych Donalda Trumpa, które w marcu krążyły masowo w sieci. Kolejnym przykładem takiego działania są zdjęcia papieża Franciszka w białej pikowanej kurtce, które zyskują w ostatnich dniach ogromną popularność w mediach społecznościowych - polskich i zagranicznych. Ponieważ często publikowane są bez wyjaśnienia, wiele osób wierzy w ich autentyczność. Jednak inni pytają, czy papież rzeczywiście pokazał się publicznie w takim stroju. "Weź bo ja nie wiem czy to prawda czy fejk"; " "Ja teraz rozkminiam czy to serio czy Photoshop"; "AI (ang. artificial intelligence - sztuczna inteligencja) robi te zdjecia czy on sie serio gdzies tak odstrzelił?"; "To nie fejk?" - pytali komentujący zdjęcia na Twitterze (pisownia postów oryginalna).

Odpowiadamy: wszystkie grafiki wygenerowano przy użyciu sztucznej inteligencji. Ponieważ wyglądają wiarygodnie, nie pierwszy raz wprowadzają internautów w błąd. Podpowiadamy, jak się przed tym bronić.

Najbardziej prawdopodobnym źródłem grafik jest serwis Reddit. W piątek, 24 marca, jeden z użytkowników opublikował tam cztery rzekome zdjęcia papieża Franciszka w czterech białych pikowanych kurtkach. Kurtki wyglądają podobnie, dopiero przy bliższym spojrzeniu widać, że różnią się m.in. zapięciem. Opis zdjęć - "Drip papieża" - nie sugerował, że zdjęcia nie są autentyczne. "Drip" w młodzieżowym slangu wyraża szacunek m.in. dla modnie ubranych osób, głównie amerykańskich raperów. Grafiki zostały jednak zamieszczone w sekcji "Midjourney" - to nazwa programu, który z pomocą sztucznej inteligencji generuje dowolne obrazy.

Jeszcze więcej, bo aż 21 grafik z papieżem w puchowych kurtkach, zamieścił 25 marca na Facebooku internauta regularnie tworzący obrazy przy użyciu sztucznej inteligencji. Swoje prace opublikował w grupie Midjourney Official - od razu potwierdzając, że wygenerował je właśnie w tym programie. W opisie przekazał nie tylko, że jest autorem grafik, ale też że przedstawiają "papieża Franciszka noszącego pikowaną kurtkę Balenciagi w teledysku rapowym". Wyjaśnił, że grafiki powstały przy użyciu "hiperrealistycznej animacji wygenerowanej komputerowo".

Wygenerowane grafiki z papieżem zyskały tak dużą popularność w Stanach Zjednoczonych, że tamtejsze portale - m.in. Forbes, NBCNews, Businessinsider - wyjaśniając tę sprawę, przestrzegają przed możliwym wykorzystaniem materiałów sztucznej inteligencji w dezinformacji. Portal NBCNews.com nazwał grafiki z papieżem "jednym z pierwszych przypadków dezinformacji sztucznej inteligencji na szeroką skalę". Henry Adjer, ekspert ds. sztucznej inteligencji, w rozmowie z portalem Businessinsider.com, stwierdził, że postęp programu Midjourney od jego powstania jest zdumiewający i ostrzegł, że już obecna wersja może tworzyć bardzo przekonujące fałszywe artykuły i zdjęcia polityków. Dodał, że firmy odpowiedzialne za takie programy mogą od teraz brać udział w "konkurencyjnym wyścigu zbrojeń", co może skutkować odsunięciem na bok obaw dotyczących bezpieczeństwa lub etyki.

Nawet sam autor grafiki, 31-letni Pablo Xavier, w rozmowie z portalem Buzzfeed.com stwierdził, że wcześniej nie zdawał sobie sprawy z potencjalnych kompetencji masowego publikowania grafik wygenerowanych z użyciem sztucznej inteligencji. "Z pewnością sytuacja stanie się poważna, jeśli nie zacznie się wdrażać przepisów regulujących" - przyznał.

Tym bardziej, że obrazy z papieżem Franciszkiem w modnej kurtce nie są pierwszym przypadkiem, gdy materiały wygenerowane przez sztuczną inteligencję ze względu na swój realizm i brak odpowiedniego oznaczenia wprowadzają internautów w błąd. Na portalu Tvn24.pl opisaliśmy podobne podróbki krążące w sieci - z prezydentem Francji Emmanuelem Macronem i byłym prezydentem Stanów Zjednoczonych Donaldem Trumpem.

Na tych obrazach pokazano, że Macron miał dołączyć do protestujących przeciwko podwyższaniu wieku emerytalnego we Francji, zaś Trump miał szarpać się z funkcjonariuszami policji, którzy go rzekomo chcieli aresztować. Oba materiały nawiązywały do prawdziwych wydarzeń: we Francji rzeczywiście od kilku tygodni trwają protesty, a Donald Trump w połowie marca zapowiedział, że spodziewa się aresztowania w związku z toczącym się przeciwko niemu śledztwem.

Zobacz też: Wymyśli obiad, wyjaśni ustawę, stworzy gry dla dzieci. Sprawdziliśmy, co naprawdę potrafi GPT-4

Wprowadzające w błąd grafiki tworzone przy użyciu sztucznej inteligencji często porównuje się do deep fake'ów. To nagrania tworzone przez sztuczną inteligencję, na których animuje ona dowolną twarz wygenerowaną z wgranych wcześniej zdjęć danej osoby. Dzięki temu technologia deep fake umożliwia tworzenie filmów, na których osoby publiczne, np. politycy, rzekomo wypowiadają przygotowane wcześniej kwestie.

O ile materiały deep fake trudno szybko zweryfikować, to z podejrzanymi zdjęciami jest łatwiej. Można je sprawdzić przez wprowadzenie ich do wyszukiwarki obrazów, np. Google Grafika, i odnalezienie artykułów, w których obala się autentyczność takich fałszywek. W przypadku zdjęcia z papieżem Franciszkiem jest to np. tekst portalu Forbes.

Warto zwracać także uwagę na szczegóły: sztuczna inteligencja ma jeszcze problemy m.in. z dokładnym odwzorowaniem ludzkich dłoni. Widać to na grafice z papieżem, na której trzyma on bliżej nieokreślony przedmiot. Po zbliżeniu zobaczymy, że palce nie są wygenerowane realistycznie. Henry Adjer w rozmowie z Businessinsider.com mówił, że warto także zwrócić uwagę na przedmiot trzymany w dłoni, który prawdopodobnie miał być kubkiem kawy i okulary. Z odwzorowaniem tak szczegółowych przedmiotów sztuczna inteligencja wciąż ma problem.

Podobne sugestie opublikował na Facebooku m.in. Wojciech Kardyś, specjalista ds. komunikacji internetowej. "Macie wątpliwość, patrzcie zawsze na ręce/zęby. Ogólnie na szczegóły" - napisał. Dodał, że jego zdaniem odpowiednie oznaczenia "powinny być automatycznie wygenerowane na obrazku (tak by nie wzbudzało wątpliwości u użytkowników)". Opisując problem z rozpoznawaniem grafik stworzonych przez sztuczną inteligencję, skomentował: "Narazie jest 'zabawnie'. Poczekajmy na te mniej 'zabawne' memy".