W Jaśle "dzieci z klas 1-3 wypisały się z religii"?

"W szkole nr 63 w Jaśle dzieci z klas 1-3 wypisały się z religii. To zasluga pana Adama, nauczyciela muzyki, który zaszczepil w nich miłość do black metalu. Zamiast jasełek zorganizował Black Mass Week. Dzieci wykonały wspólnie przygotowany utwór 'I worship You, my sweet Satan' - napisał 19 kwietnia na Twitterze Bartosz Scheuer, wykładowca Uniwersytetu Ekonomicznego we Wrocławiu (pisownia wszystkich postów oryginalna). Tytuł piosenki można przetłumaczyć jako "Wielbię cię, mój słodki szatanie", a nazwę imprezy jako "Tydzień czarnej mszy".

Do wpisu autor dołączył zdjęcie, mające potwierdzać historię z tweeta. Widzimy na nim ubranego na czarno gitarzystę z długimi włosami i twarzą pomalowaną na biało i czarno. Wygląda jak członek zespołu Kiss lub innego black- lub heavymetalowego zespołu. Mężczyzna gra na gitarze elektrycznej w otoczeniu dzieci w wieku wczesnoszkolnym. Ubrane są w czarne ubrania, część z nich ma również pomalowane twarze. Pomieszczenie przypomina salę szkolną; za grupą wiszą dziwne ozdoby: o ścianę oparta jest zdeformowana lalka, obok stoi maska, która przypomina afrykański totem. Wpis szybko zyskał na popularności. Wyświetlono go ponad 186 tys. razy, polubiło go 2,8 tys. twitterowiczów, a udostępniło ponad 290.

Po przyjrzeniu się fotografii można zauważyć pewne detale, które podają w wątpliwość prawdziwość zdjęcia. Dostrzegli je również użytkownicy Twittera, którzy dyskutowali na temat wpisu i fotografii. "Skąd gitarzysta ma 3 ręce ale nie ma prawego kciuka?"; "Nie ma to jak gitarzysta bez kciuka, ale z dwoma lewymi rękami"; "Nauczyciel muzyki bez kciuka, za to z podwójną lewą dłonią. takie cuda tylko w Jaśle". Inni też zwracali na ustawienie werbla stojącego za mężczyzna z gitarą - ten był na wysokości głowy dorosłego. To za wysoko, żeby na nim grać.

Wielu internautów stwierdzało, że zdjęcie nie jest prawdziwe: "A dowodem na to zdjęcie wygenerowane przez AI?"; "Słaby ten fotomontaż"; "Ciekawy wątek. Pokazuje zagrożenia użycia sztucznej inteligencji w sianiu dezinformacji".

Inni zwracali na istotny szczegół z treści wpisu: "Jedno mi się nie zgadza. W Jaśle nie ma tylu szkół"; "Wystarczy wpisać w Google: 'w szkole nr 63 w Jaśle' i już wiesz, że to fejk, bo takiej szkoły nie ma. Low quality fake".

Zrzut ekranu wpisu wraz ze zdjęciem krążył również na Facebooku. Tam wielu komentujących zastanawiało się nad autentycznością historii z Jasła. Z treści komentarzy wynika, że niektórzy w nią uwierzyli. "Niech to wszystko już pier******" - napisała autorka postu na Facebooku. "Ze skrajności w skrajność. Gdzie rodzice. Dzieci szukają kogoś kto się nimi zainteresuje czy to ksiundz czy inny satanista"; "Z jednego bagna w drugie… niektórzy lata świetlne potrzebuję aby ich światło w duszy wydobyło się z mroku"; "stad wiadomo, ze to początek ich końca"; "a gdzie są rodzice tych dzieci"; "Horror"; "Brawo. Nauczyciele się popisali".

Bardziej uważni internauci mieli rację. Popularny tweet to zmyślona historia, zdjęcie również nie jest prawdziwe. Stworzyła je sztuczna inteligencja.

Tak jak zwrócili uwagę internauci, w ponad 33-tysięcznym Jaśle w województwie podkarpackim nie ma szkoły podstawowej nr 63. Podstawówek w Jaśle jest tylko dziesięć, wynika z informacji na stronie urzędu miasta.

O tym, że popularny tweet i zdjęcie to żart, przekazał nam jego autor, Bartosz Scheuer. Potwierdził, że twitterowe konto należy do niego, a konto jest "całkowicie prywatne" i to on publikuję na nim treści. "Wpis miał charakter wybitnie satyryczny i cała jego treść wyraźnie to sugeruje (włącznie z celowo dobranym numerem szkoły, co do którego nawet bez sprawdzania można się domyślić, iż jest fikcyjny)" - przekazał w odpowiedzi na nasze pytania.

"Prawdopodobieństwo, że ktoś weźmie coś takiego poważnie (lub w ogóle, że czytający jakiś tekst odczyta go odmiennie od zamysłu autora) zawsze istnieje. W przypadku jednak treści w samym zamyśle satyrycznych raczej nie sądzę, żeby to autor ponosił za to odmienne odczytanie odpowiedzialność" - dodał Scheuer.

"Widziałem, że screeny krążą po internecie; jednak w porównaniu ze sporą liczbą poprzednich przypadków, z niewielkiej tym razem ilości otrzymanych gróźb karalnych i życzeń śmierci, wnioskuję, iż co do zasady został on odczytany właściwie (tzn. jako satyryczny)" - zauważył Scheuer.

Pod koniec marca na Konkret24 pisaliśmy o zdjęciach generowanych przez sztuczną inteligencję. Te przedstawiały prezydenta Francji Emmanuela Macrona, który miał dołączyć do protestujących przeciwko podwyższaniu wieku emerytalnego we Francji, na kolejnym były prezydent USA Donald Trump miał szarpać się z funkcjonariuszami policji, którzy rzekomo chcieli go aresztować. Opublikowaliśmy też materiał o zdjęciu pokazującym rzekomo "największego konia w historii", tyle że zdjęcie zostało stworzone przez sztuczną inteligencję.

Niektóre obrazy wyglądały realistycznie, ale po przyjrzeniu się im bliżej, można zauważyć elementy, które budziły wątpliwości. Wiele anglojęzycznych redakcji fact-checkingowych w ostatnich tygodniach wyjaśniało jak rozpoznać obrazy generowane przez sztuczną inteligencję (ang. artificial intelligence, AI). Oto pięć, naszym zdaniem kluczowych, wskazówek i sposobów, które pozwolą rozpoznać takie obrazy.

Warto zacząć od pytania: czy jest prawdopodobne, że sytuacja przedstawiona na zdjęciu miała miejsce? Tak więc, jak prawdopodobne jest, że w polskiej szkole podstawowej zamiast jasełek zorganizowano "Black Mass Week"? Nie jest to niemożliwe - nietypowe i zaskakujące sytuacje się zdarzają, ale ta wydaje się wyjątkowo mało prawdopodobna.

Co więcej, jeśli zdjęcie budzi twoje wątpliwości, lub silne negatywne emocje to warto zachować ostrożność i nie ufać przekazowi, który niesie. Warto bliżej mu się przyjrzeć.

Mimo że w ostatnich miesiącach pojawiają się coraz bardziej zaawansowane narzędzia oparte na sztucznej inteligencji - to zdjęcia generowane przez niektóre z nich (zwykle dostępne za darmo) są pełne błędów. Ich szukanie jest dobrym krokiem do rozpoznania sfabrykowanego obrazu.

Wielu anglojęzycznych dziennikarzy i weryfikatorów informacji, zwracało uwagę, że obecnie (marzec i kwiecień 2023 roku) generujące obrazy systemy sztucznej inteligencji mają pewne problemy z wygenerowaniem realistycznych ludzkich rąk. I tak w przypadku zdjęcia, które krążyło na Twitterze i Facebooku, internauci szybko dostrzegli, że gitarzyście u prawej dłoni brakowało kciuka, a gryf gitary trzymały... dwie lewe dłonie. Ponadto, za jego lewym ramieniem pojawiła się kolejna ręka trzymająca drugi gryf gitary.

Co więcej, takie generatory zdjęć często tworzą asymetrie. I tak twarze ludzi na takich zdjęciach mogą być nieproporcjonalne, uszy mogą mieć różną wielkość, a wzrok osoby ze zdjęcia może być dziwnie rozstrzelony, tak jak by patrzyła jednocześnie w dwóch różnych kierunkach. Także układ zębów lub włosów np. zlewają się ich się kontury, lub dziwna rozmywa faktura - mogą dowodzić temu, że obraz nie jest prawdziwy. Niektóre elementy mogą być słabo zintegrowane w zdjęcie, na przykład okulary "wtapiające się" w twarz noszącego. I tak na przykład na jednym ze wygenerowanych przez AI zdjęć papieża Franciszka, jego korekcyjne okulary dziwnie łączą się z brwią, i następne "spływają" do własnego cienia - wyjaśniała pod koniec marca redakcja amerykańskiego magazynu "Time".

Na jakie inne elementy warto zwracać uwagę? "Obecnie obrazy AI mają również duży problem z generowaniem odbić" - powiedział AFP Vincent Terrasi, współzałożyciel Draft & Goal, startupu, który stworzył wykrywacz AI dla uniwersytetów. "Dobrym sposobem na zauważenie AI jest szukanie cieni, luster, wody, oprócz tego możemy zrobić zbliżenie na oczy i przeanalizować źrenice, ponieważ podczas wykonywania zdjęcia zazwyczaj pojawia się w nich odbicie. Często możemy również zauważyć, że oczy nie są tej samej wielkości, czasami mają różne kolory".

Czy faktura zdjęcia jest wygładzona, prawie rozmyta? Twarze są prawie nieskazitelne lub wyglądają na rozmyte, pozbawione szczegółów? To częsty efekt uzyskiwany w aplikacjach AI generujących obrazy. Na wielu obrazach wygenerowanych przez AI w tle pojawiają się wyglądające na zdeformowane przedmioty lub postacie. I tak na popularnym zdjęciu z Twittera, sylwetki dzieci w tle są bardzo niewyraźne, ich twarze wydają się być zdeformowane.

AI może popełniać błędy logiczne - generować na zdjęciu elementy, które nie powinny się tam znaleźć np. znak drogowy nieistniejący w kraju, gdzie zdjęcie miało zostać zrobione. W przypadku fotografii z omawianego wpisu widzimy, że znajdujący się po lewej stronie werbel znajduje się za wysoko, aby na nim grać. Co więcej, jego stojak wydaje się "złamany" - to kolejny błąd w generowaniu zdjęcia. Nie zgadza się też liczba kluczy na główce gitary (w większości gitar powinny być po trzy klucze po każdej stronie główki gryfu; na zdjęciu po jednej stronie są trzy, a po drugiej tylko dwa).

Przyjrzenie się obrazowi jest punktem wyjścia, ale nie zawsze wystarczy. Annalisa Verdoliva z Uniwersytetu Fryderyka II w Neapolu w rozmowie z redakcją AFP Fact Check ostrzegała, że "metody generowania z czasem się poprawiają i pokazują coraz mniej artefaktów syntezy, więc nie polegałbym na wizualnych wskazówkach w dłuższej perspektywie".

Dlatego zalecane jest również przeprowadzenie tzw. wyszukiwania bocznego, aby potwierdzić lub obalić autentyczność materiału - podaje redakcja Politifact. Używając wybranej wyszukiwarki, sprawdź, czy inne wiarygodne źródła informują o tym samym zdjęciu lub wydarzeniu. Przeczytaj, co na jego temat w innych postach piszą internauci. Czy przedstawiają dowody na autentyczność materiału, a może również mają wątpliwości?

Samo wyszukanie frazy "szkoła nr 63 w Jaśle" w wybranej przeglądarce internetowej potwierdzi nam, że taka szkoła w tym mieście nie istnieje. To już podaje wątpliwość całą historię z popularnego tweeta.

Warto też użyć wyszukiwania obrazem w przeglądarce. W ten sposób można sprawdzić gdzie i kiedy zdjęcie było jeszcze opublikowane. Ta funkcja pozwoli nam uzupełnić internetową kwerendę i być może dotrzeć do najstarszej dostępnej wersji zdjęcia.

Obecnie w sieci dostępne są darmowe narzędzia, które oceniają czy dane zdjęcie zostało wygenerowane przez sztuczną inteligencję. Jedno z nich udostępnia Hive Moderation, amerykańska firma zajmująca się sztuczną inteligencją. Użyliśmy narzędzia na zdjęciu z popularnego tweeta. Hive Moderation oceniło, że prawdopodobieństwo, wygenerowania fotografii przez sztuczną inteligencję wynosi 99,8 proc.

Używając innego podobnego narzędzia Maybe's AI Art Detector uzyskaliśmy informację, że to prawdopodobieństwo wynosi 83 proc. Wyniki te potwierdzają, że zdjęcie najprawdopodobniej powstało przy użyciu sztucznej inteligencji.