Miała być absolwentką prestiżowej uczelni i pracownicą jednego z największych think tanków w Stanach Zjednoczonych. Na portalu LinkedIn wysyłała zaproszenia do wpływowych Amerykanów i Brytyjczyków, a ci dodawali ją do grona znajomych, częściowo zachęceni atrakcyjnym zdjęciem. Nie wiedzieli, że twarz kobiety wygenerowała sztuczna inteligencja, a za profilem może kryć się nawet wywiad obcego państwa.

LinkedIn jest serwisem społecznościowym, który w przeciwieństwie do Facebooka czy Instagrama nie stawia na dzielenie się swoim prywatnym życiem w gronie znajomych, a raczej doświadczeniem zawodowym. Konta w serwisie posiadają zarówno osoby szukające pracy, jak i np. wysoko postawieni decydenci, tacy jak prezesi największych strategicznych firm czy szefowie organów administracji państwowej.

To właśnie na nawiązanie kontaktów z tak wpływowymi ludźmi liczyli twórcy - z dużym prawdopodobieństwem pracownicy jednego z wywiadów - którzy stworzyli Katie Jones, wygenerowaną przez sztuczną inteligencję kobietę-szpiega.

Fałszywy profil z komputerowo wygenerowaną twarzą
Fałszywy profil z komputerowo wygenerowaną twarzą Foto: Zrzut zarchiwizowany przez Associated Press

Ofiary oszustwa opisanego przez amerykańską agencję Associated Press wiąże jedno – wszystkie zajmowały lub zajmują strategiczne stanowiska w administracji lub think tankach i przede wszystkim posiadają pożądaną wiedzę z kluczowych dziedzin, takich jak finanse czy wojsko. Na liście ofiar znalazł się m.in. Paul Winfree, były doradca Donalda Trumpa i Dyrektor Polityki Budżetowej w Białym Domu oraz były attaché wojskowy USA w Moskwie, którego nazwiska nie podano.

Osoba bądź instytucja, która stała za fałszywym profilem, konsekwentnie budowała w serwisie pozycję i siatkę powiązań Katie - osoby dobrze wyedukowanej, pracującej na dobrym stanowisku w uznanej instytucji, zaznajomionej z osobami, które w kręgach amerykańskich think tanków i instytucji federalnych są poważane. Wszystko to uwiarygadniano dodatkowo zdjęciem - atrakcyjnej, rudowłosej, wyglądającej realnie kobiety.

"Jakiś rodzaj państwowej operacji"

Na ten moment nie ma żadnych twardych dowodów na to, że oszustwo z użyciem sztucznej inteligencji były zorganizowane przez konkretne państwo. Keir Giles – ekspert od Rosji z brytyjskiego think tanku Chatham House – powiązał działania Katie Jones z rosyjskim wywiadem, ale inni eksperci są bardziej powściągliwi.

Jonas Parello-Plesner z Alliance for Democracies Foundation wskazał, że "to bardzo śmierdzi, jak jakiś rodzaj państwowej operacji", ale także nie przytoczył żadnych dowodów.

Ewentualną wskazówką może być fakt, że Katie Jones w opisie swojego profilu zapewniała, że uzyskała tytuł naukowy na Uniwersytecie w Michigan w obszarze "Rosji i Eurazji". Może to być jednak fałszywy trop.

Cytowany przez AP dyrektor amerykańskiego Centrum Kontrwywiadu i Bezpieczeństwa Narodowego William Evanina w związku z tą sytuację oskarżył o finansowanie szpiegowania na LinkedIn inny kraj – Chiny. "Zamiast wysyłać szpiegów do jakiegoś garażu w USA w celu pozyskania śledzonej przez nas osoby, skuteczniej jest siedzieć za komputerem w Szanghaju i wysyłać zaproszenia do znajomych dla 30 tysięcy celów", komentował Evanina.

"Wyglądała młodziej niż ktoś tak doświadczony"

Keir Giles, który powiązał internetowe oszustwo z Rosją, jest też osobą, która jako pierwsza nabrała podejrzeń do Katie Jones i zdecydowała się bliżej zbadać sprawę. Podejrzliwość Gilesa wzięła się m.in. z faktu, że w przeszłości był on już celem szpiegów śledzących go za krytyczne wypowiedzi o rosyjskim producencie programów antywirusowych Kaspersky Lab.

Pracownik brytyjskiego think tanku znalazł na profilu kobiety co najmniej kilka alarmujących elementów. Jego podejrzenia wzbudził m.in. fakt, że Katie wyglądała zbyt młodo jak na kogoś, kto skończył już studia na Uniwersytecie w Michigan i od kilku lat pracuje w jednej z największych amerykańskich instytucji badawczych, Centrum Studiów Strategicznych i Międzynarodowych.

Sam później tłumaczył to dziennikowi "The Times": "Wyglądała młodziej niż ktoś tak doświadczony. Od lat współpracuję z CSIS [Center for Strategic and International Studies, Centrum Studiów Strategicznych i Międzynarodowych w Waszyngtonie - red.], więc powinienem o niej słyszeć. Wykonałem więc odwrócone wyszukiwanie jej zdjęcia w sieci, które nie pokazało żadnych wyników, co było bardzo podejrzane”, tłumaczył.

Mężczyzna zwrócił się więc zarówno do CSIS, jak i do amerykańskiego uniwersytetu z pytaniem, czy kobieta, która zaprosiła go do znajomych na LinkedIn, rzeczywiście spędziła tam kilka lat. Odpowiedzi z obu miejsc były przeczące. Skłoniło to Gilesa do pokazania zdjęcia znajomemu ekspertowi od kontrwywiadu, który zasugerował, że zostało ono stworzone komputerowo. W rozmowach z AP potwierdzili to także inni specjaliści.

Podejrzane włosy i plamka po kolczyku

Opublikowane przez Associated Press zrzuty ekranu konta Katie potwierdzają, że przy pobieżnym kontakcie rozpoznanie fałszywki było praktycznie niemożliwe. Zdjęcia profilowe w serwisie LinkedIn nie są wystarczająco duże, żeby dostrzec na nich jakiekolwiek podejrzane elementy. Nie oznacza to jednak, że wizerunek kobiety był bezbłędny.

O generowanych komputerowo twarzach nieistniejących ludzi i sposobach ich rozpoznawania pisaliśmy już na Konkret24. Elementem, z którym najsłabiej ciągle radzi sobie sztuczna inteligencja, są włosy. Problemy przy ich generowaniu są widoczne także u rzekomej Katie Jones.

Associated Press zwraca uwagę, że szczególnie włosy nachodzące na uszy kobiety wyglądają nienaturalnie, jak gdyby były przyklejone do twarzy. To tylko jedna z wskazówek, które można dojrzeć przy bliższej analizie zdjęcia.

Powiększone zdjęcie z zaznaczonymi podejrzanymi elementami
Powiększone zdjęcie z zaznaczonymi podejrzanymi elementami Foto: Konkret24 na podstawie Associated Press

Inną jest wygląd oczu. Z nimi też AI (Artificial Intelligence - sztuczna inteligencja) często nie potrafi sobie w pełni poradzić. W przypadku Katie można zauważyć niewielkiego zeza, a przede wszystkim nieistniejąca kobieta cierpi na heterochromię, czyli różnobarwność tęczówek. Mimo że oczywiście mogłaby ona posiadać to zaburzenie rozwoju, to w przypadku podejrzanych zdjęć ta przypadłość może wskazywać na ingerencję sztucznej inteligencji.

Nieautentyczność zdjęcia rzekomej pracownicy CSIS sugeruje także kolczyk, a raczej przypominająca go biała plamka na uchu kobiety. Ten błąd powstaje przy nakładaniu na siebie zdjęć prawdziwie istniejących ludzi, z których sztuczna inteligencja tworzy wizerunek zupełnie nowej osoby. Jeśli jeden z "oryginałów" nosił biżuterię, a drugi nie, stworzona w ten sposób hybryda może wyglądać zupełnie nierealnie, tak jak stało się to w przypadku uszu Katie Jones. Także nienaturalne zmarszczki widoczne na policzku kobiety powinny wzbudzić nasze podejrzenia.

Problem jest znacznie szerszy

Fałszywy profil rzekomej pracownicy CSIS został usunięty odpowiednio szybko i dzięki temu jego siatka powiązań zdążyła rozrosnąć się tylko do ponad 50 znajomych. Associated Press dotarła do około 40 osób, które kontaktowały się z Katie między marcem i kwietniem tego roku.

Wiele z nich na pytanie o powód przyjęcia kobiety do znajomych odpowiadało, że robią to rutynowo ze wszystkimi zaproszeniami. "Akceptuję dosłownie każdą prośbę o dodanie do grona znajomych, jaką otrzymuję. Jestem prawdopodobnie najgorszym użytkownikiem LinkedIn w historii LinkedIn”, mówił AP jeden z najwyższej postawionych mężczyzn, którzy padli ofiarą oszustwa – były doradca prezydenta USA Paul Winfree.

Mimo że w tym przypadku stosunkowo szybka reakcja doprowadziła do wczesnego usunięcia fałszywego konta, problem z wykorzystywaniem tego serwisu społecznościowego do celów szpiegowskich może być dużo szerszy. Ostrzeżenia przed kontaktowaniem się z nieznanymi osobami poprzez tę platformę wydały już władze m.in. Wielkiej Brytanii, Francji i Niemiec.

W oficjalnym komunikacie właściciele LinkedIn zapewnili, że w pierwszym kwartale 2019 r. "zidentyfikowali tysiące fałszywych kont" i ciągle rozwijają swoje technologie zapewniające skuteczniejszą walkę z nimi.

Rosyjskie tropy

Platforma mająca służyć do kontaktów biznesowych w zeszłym roku stała się także miejscem rozpowszechniania dezinformacji politycznej. W październiku odpowiedzialny za bezpieczeństwo serwisu Paul Rockwell poinformował, że administratorzy dzięki użyciu nowych technologii i danych wywiadowczych usunęli 24 fałszywe profile.

Przypuszcza się, że mogły one zostać stworzone przez rosyjskie podmioty państwowe. Udostępniane przez nie treści pochodziły z obu skrajnych stron amerykańskiej sceny politycznej i mogły tym samym wywoływać wewnętrzne podziały oraz zaognienie debaty publicznej. LinkedIn zapewnił, że stale współpracuje zarówno z Kongerem USA, jak i z FBI. Poza tym właściciele platformy zaapelowali, aby akceptować zaproszenia do znajomych wyłącznie od osób, które znamy. I wiemy, że istnieją.

Autor:  Michał Istel
Źródło:  Konkret24, Associated Press; Zdjęcie tytułowe: Unsplash/Associated Press

Pozostałe

Co papież Franciszek mówił o edukacji seksualnej? Sprawdzamy popularny internetowy wpis

Tuż przed rozpoczęciem sejmowej debaty o obywatelskim projekcie ustawy wprowadzającej kary za propagowanie edukacji seksualnej, lider partii Wiosna Robert Biedroń zacytował na Twitterze słowa papieża Franciszka o konieczności edukacji seksualnej w szkołach i że "seks jest darem od Boga". Konkret24 sprawdził, że cytat jest prawdziwy, a papież takiego sformułowania w ostatnim roku użył co najmniej trzykrotnie. Przybliżamy jego kontekst.

#MódlSięZaJaponię. Internetowa akcja pełna wsparcia i... fałszywych materiałów

Tajfun Hagibis uderzył w Japonię – to fakt. Żeby okazać solidarność z Japończykami, w serwisach społecznościowych zorganizowano akcję #PrayforJapan (z ang. #MódlsięzaJaponię), w ramach której każdy może przekazać swoje wsparcie poszkodowanym. Nagrania gwałtownych zjawisk atmosferycznych, które mają pokazać potęgę żywiołu, nie zawsze pochodzą jednak z Japonii i niekoniecznie zostały wykonane w tym roku.

Była wzorem dla lalki Barbie, miała pracować w NASA. Wcześniej wymyśliła sobie życiorys

Greckie media pisały o Eleni Antoniadou jako o "naukowcu światowego kalibru". Miała mieć tytuł doktora, pracować przy pierwszym udanym przeszczepie sztucznej tchawicy, prowadzić firmę medycyny regeneracyjnej, a w przeszłości pracować w NASA. Po otrzymaniu nagrody od greckiej minister edukacji postanowiono jednak zweryfikować imponujący życiorys kobiety.

Polski żołnierz nie zastrzelił ukraińskiego. To fejk z atakiem hakerskim w tle

W ukraińskich i rosyjskich mediach pojawiła się informacja o Ukraińcu postrzelonym przez polskiego żołnierza na poligonie w Jaworowie podczas ukraińsko-amerykańskich manewrów wojskowych. Ukraińska policja zaprzeczyła takim doniesieniom, a przedstawiciele portalu, który był źródłem tych doniesień, poinformowali, że artykuł był efektem ataku hakerskiego przeprowadzonego przez "nieznanych sprawców". Fałszywe informacje nadal można jednak znaleźć w sieci.

UFO, amerykańska ściśle tajna baza i fałszywe zdjęcia

Czy tłumy szturmowały amerykańską bazę, gdzie mają być dowody na istnienie pozaziemskich istot? Taki wniosek można było wysnuć oglądając w mediach społecznościowych niektóre bardzo popularne zdjęcia. Jednak były to tylko internetowe żarty, a przed bramą słynnej Strefy-51 nie pojawiły się zapowiedziane dwa miliony osób.

Nie, to nie jest nagranie huraganu Dorian. To tylko animacja przerobionego zdjęcia

Rzekome nagranie huraganu Dorian, który na początku września uderzył w wybrzeże Bahamów, nie przedstawia nawet prawdziwego zjawiska pogodowego. Filmik to zbitka dwóch zdjęć, a za efekt ruchu odpowiada aplikacja. Przerobione zdjęcie po raz pierwszy pojawiło się w sieci w kwietniu, a jego zaanimowana wersja w maju 2019 - na kilka miesięcy przed nadejściem Doriana.

NYT: "Globalna maszyna" nakręca narrację o "upadłej Szwecji". Także w Polsce

"Globalna maszyna za wzrostem skrajnie prawicowego nacjonalizmu" - tak "The New York Times" zatytułował swój artykuł, w którym pokazano, jak dezinformacyjny przekaz o przyjmującej imigrantów Szwecji jako "kraju upadłym" rozprzestrzenia się po świecie. Schemat jest prosty: narrację kreują szwedzkojęzyczne internetowe portale związane z nacjonalistyczną partią Szwedzcy Demokraci, a ich negatywny przekaz przejmują podobne strony w innych krajach, także w Polsce. Dziennik przeanalizował 12 milionów linków. Poszliśmy polskim tropem śledztwa NYT.