Miała być absolwentką prestiżowej uczelni i pracownicą jednego z największych think tanków w Stanach Zjednoczonych. Na portalu LinkedIn wysyłała zaproszenia do wpływowych Amerykanów i Brytyjczyków, a ci dodawali ją do grona znajomych, częściowo zachęceni atrakcyjnym zdjęciem. Nie wiedzieli, że twarz kobiety wygenerowała sztuczna inteligencja, a za profilem może kryć się nawet wywiad obcego państwa.

LinkedIn jest serwisem społecznościowym, który w przeciwieństwie do Facebooka czy Instagrama nie stawia na dzielenie się swoim prywatnym życiem w gronie znajomych, a raczej doświadczeniem zawodowym. Konta w serwisie posiadają zarówno osoby szukające pracy, jak i np. wysoko postawieni decydenci, tacy jak prezesi największych strategicznych firm czy szefowie organów administracji państwowej.

To właśnie na nawiązanie kontaktów z tak wpływowymi ludźmi liczyli twórcy - z dużym prawdopodobieństwem pracownicy jednego z wywiadów - którzy stworzyli Katie Jones, wygenerowaną przez sztuczną inteligencję kobietę-szpiega.

Fałszywy profil z komputerowo wygenerowaną twarzą
Fałszywy profil z komputerowo wygenerowaną twarzą Foto: Zrzut zarchiwizowany przez Associated Press

Ofiary oszustwa opisanego przez amerykańską agencję Associated Press wiąże jedno – wszystkie zajmowały lub zajmują strategiczne stanowiska w administracji lub think tankach i przede wszystkim posiadają pożądaną wiedzę z kluczowych dziedzin, takich jak finanse czy wojsko. Na liście ofiar znalazł się m.in. Paul Winfree, były doradca Donalda Trumpa i Dyrektor Polityki Budżetowej w Białym Domu oraz były attaché wojskowy USA w Moskwie, którego nazwiska nie podano.

Osoba bądź instytucja, która stała za fałszywym profilem, konsekwentnie budowała w serwisie pozycję i siatkę powiązań Katie - osoby dobrze wyedukowanej, pracującej na dobrym stanowisku w uznanej instytucji, zaznajomionej z osobami, które w kręgach amerykańskich think tanków i instytucji federalnych są poważane. Wszystko to uwiarygadniano dodatkowo zdjęciem - atrakcyjnej, rudowłosej, wyglądającej realnie kobiety.

"Jakiś rodzaj państwowej operacji"

Na ten moment nie ma żadnych twardych dowodów na to, że oszustwo z użyciem sztucznej inteligencji były zorganizowane przez konkretne państwo. Keir Giles – ekspert od Rosji z brytyjskiego think tanku Chatham House – powiązał działania Katie Jones z rosyjskim wywiadem, ale inni eksperci są bardziej powściągliwi.

Jonas Parello-Plesner z Alliance for Democracies Foundation wskazał, że "to bardzo śmierdzi, jak jakiś rodzaj państwowej operacji", ale także nie przytoczył żadnych dowodów.

Ewentualną wskazówką może być fakt, że Katie Jones w opisie swojego profilu zapewniała, że uzyskała tytuł naukowy na Uniwersytecie w Michigan w obszarze "Rosji i Eurazji". Może to być jednak fałszywy trop.

Cytowany przez AP dyrektor amerykańskiego Centrum Kontrwywiadu i Bezpieczeństwa Narodowego William Evanina w związku z tą sytuację oskarżył o finansowanie szpiegowania na LinkedIn inny kraj – Chiny. "Zamiast wysyłać szpiegów do jakiegoś garażu w USA w celu pozyskania śledzonej przez nas osoby, skuteczniej jest siedzieć za komputerem w Szanghaju i wysyłać zaproszenia do znajomych dla 30 tysięcy celów", komentował Evanina.

"Wyglądała młodziej niż ktoś tak doświadczony"

Keir Giles, który powiązał internetowe oszustwo z Rosją, jest też osobą, która jako pierwsza nabrała podejrzeń do Katie Jones i zdecydowała się bliżej zbadać sprawę. Podejrzliwość Gilesa wzięła się m.in. z faktu, że w przeszłości był on już celem szpiegów śledzących go za krytyczne wypowiedzi o rosyjskim producencie programów antywirusowych Kaspersky Lab.

Pracownik brytyjskiego think tanku znalazł na profilu kobiety co najmniej kilka alarmujących elementów. Jego podejrzenia wzbudził m.in. fakt, że Katie wyglądała zbyt młodo jak na kogoś, kto skończył już studia na Uniwersytecie w Michigan i od kilku lat pracuje w jednej z największych amerykańskich instytucji badawczych, Centrum Studiów Strategicznych i Międzynarodowych.

Sam później tłumaczył to dziennikowi "The Times": "Wyglądała młodziej niż ktoś tak doświadczony. Od lat współpracuję z CSIS [Center for Strategic and International Studies, Centrum Studiów Strategicznych i Międzynarodowych w Waszyngtonie - red.], więc powinienem o niej słyszeć. Wykonałem więc odwrócone wyszukiwanie jej zdjęcia w sieci, które nie pokazało żadnych wyników, co było bardzo podejrzane”, tłumaczył.

Mężczyzna zwrócił się więc zarówno do CSIS, jak i do amerykańskiego uniwersytetu z pytaniem, czy kobieta, która zaprosiła go do znajomych na LinkedIn, rzeczywiście spędziła tam kilka lat. Odpowiedzi z obu miejsc były przeczące. Skłoniło to Gilesa do pokazania zdjęcia znajomemu ekspertowi od kontrwywiadu, który zasugerował, że zostało ono stworzone komputerowo. W rozmowach z AP potwierdzili to także inni specjaliści.

Podejrzane włosy i plamka po kolczyku

Opublikowane przez Associated Press zrzuty ekranu konta Katie potwierdzają, że przy pobieżnym kontakcie rozpoznanie fałszywki było praktycznie niemożliwe. Zdjęcia profilowe w serwisie LinkedIn nie są wystarczająco duże, żeby dostrzec na nich jakiekolwiek podejrzane elementy. Nie oznacza to jednak, że wizerunek kobiety był bezbłędny.

O generowanych komputerowo twarzach nieistniejących ludzi i sposobach ich rozpoznawania pisaliśmy już na Konkret24. Elementem, z którym najsłabiej ciągle radzi sobie sztuczna inteligencja, są włosy. Problemy przy ich generowaniu są widoczne także u rzekomej Katie Jones.

Associated Press zwraca uwagę, że szczególnie włosy nachodzące na uszy kobiety wyglądają nienaturalnie, jak gdyby były przyklejone do twarzy. To tylko jedna z wskazówek, które można dojrzeć przy bliższej analizie zdjęcia.

Powiększone zdjęcie z zaznaczonymi podejrzanymi elementami
Powiększone zdjęcie z zaznaczonymi podejrzanymi elementami Foto: Konkret24 na podstawie Associated Press

Inną jest wygląd oczu. Z nimi też AI (Artificial Intelligence - sztuczna inteligencja) często nie potrafi sobie w pełni poradzić. W przypadku Katie można zauważyć niewielkiego zeza, a przede wszystkim nieistniejąca kobieta cierpi na heterochromię, czyli różnobarwność tęczówek. Mimo że oczywiście mogłaby ona posiadać to zaburzenie rozwoju, to w przypadku podejrzanych zdjęć ta przypadłość może wskazywać na ingerencję sztucznej inteligencji.

Nieautentyczność zdjęcia rzekomej pracownicy CSIS sugeruje także kolczyk, a raczej przypominająca go biała plamka na uchu kobiety. Ten błąd powstaje przy nakładaniu na siebie zdjęć prawdziwie istniejących ludzi, z których sztuczna inteligencja tworzy wizerunek zupełnie nowej osoby. Jeśli jeden z "oryginałów" nosił biżuterię, a drugi nie, stworzona w ten sposób hybryda może wyglądać zupełnie nierealnie, tak jak stało się to w przypadku uszu Katie Jones. Także nienaturalne zmarszczki widoczne na policzku kobiety powinny wzbudzić nasze podejrzenia.

Problem jest znacznie szerszy

Fałszywy profil rzekomej pracownicy CSIS został usunięty odpowiednio szybko i dzięki temu jego siatka powiązań zdążyła rozrosnąć się tylko do ponad 50 znajomych. Associated Press dotarła do około 40 osób, które kontaktowały się z Katie między marcem i kwietniem tego roku.

Wiele z nich na pytanie o powód przyjęcia kobiety do znajomych odpowiadało, że robią to rutynowo ze wszystkimi zaproszeniami. "Akceptuję dosłownie każdą prośbę o dodanie do grona znajomych, jaką otrzymuję. Jestem prawdopodobnie najgorszym użytkownikiem LinkedIn w historii LinkedIn”, mówił AP jeden z najwyższej postawionych mężczyzn, którzy padli ofiarą oszustwa – były doradca prezydenta USA Paul Winfree.

Mimo że w tym przypadku stosunkowo szybka reakcja doprowadziła do wczesnego usunięcia fałszywego konta, problem z wykorzystywaniem tego serwisu społecznościowego do celów szpiegowskich może być dużo szerszy. Ostrzeżenia przed kontaktowaniem się z nieznanymi osobami poprzez tę platformę wydały już władze m.in. Wielkiej Brytanii, Francji i Niemiec.

W oficjalnym komunikacie właściciele LinkedIn zapewnili, że w pierwszym kwartale 2019 r. "zidentyfikowali tysiące fałszywych kont" i ciągle rozwijają swoje technologie zapewniające skuteczniejszą walkę z nimi.

Rosyjskie tropy

Platforma mająca służyć do kontaktów biznesowych w zeszłym roku stała się także miejscem rozpowszechniania dezinformacji politycznej. W październiku odpowiedzialny za bezpieczeństwo serwisu Paul Rockwell poinformował, że administratorzy dzięki użyciu nowych technologii i danych wywiadowczych usunęli 24 fałszywe profile.

Przypuszcza się, że mogły one zostać stworzone przez rosyjskie podmioty państwowe. Udostępniane przez nie treści pochodziły z obu skrajnych stron amerykańskiej sceny politycznej i mogły tym samym wywoływać wewnętrzne podziały oraz zaognienie debaty publicznej. LinkedIn zapewnił, że stale współpracuje zarówno z Kongerem USA, jak i z FBI. Poza tym właściciele platformy zaapelowali, aby akceptować zaproszenia do znajomych wyłącznie od osób, które znamy. I wiemy, że istnieją.

Autor:  Michał Istel
Źródło:  Konkret24, Associated Press; Zdjęcie tytułowe: Unsplash/Associated Press

Pozostałe

Mamy kontakt z rosyjską propagandą, ale ją odrzucamy. Wyniki badania

Polacy w większości spotykali się z propagandowymi przekazami Rosji w kwestiach historycznych, jednak głównie reagowali na nie oburzeniem – wynika z raportu opublikowanego przez Centrum Polsko-Rosyjskiego Dialogu i Porozumienia. "Choć w warstwie deklaratywnej propaganda rosyjska wzbudza negatywne emocje, to niektóre jej przekazy znajdują w Polsce swoich zwolenników", zaznaczają jednocześnie autorzy.

Nie, wideo z mężczyzną wchodzącym do kapsuły to nie ustawka

"Nie było chudszego aktora?" - pyta jeden z internautów, którzy nie wierzą w prawdziwość popularnego w sieci filmu. Widać na nim, jak mężczyzna, prawdopodobnie zakażony koronawirusem, sam wchodzi do kapsuły, którą potem sanitariusze umieszczają w karetce. Zdaniem internautów to ustawiona scena, a mężczyzna jest zdrowy. Sprawdziliśmy, co przedstawia nagranie i gdzie zostało wykonane.

Zdjęcie z pogrzebu zmarłego na COVID-19 to "bez wątpienia fejk"? Nie, jest prawdziwe

Opublikowane przez rosyjską agencję informacyjną zdjęcie pogrzebu pacjenta zakażonego koronawirusem spotkało się z niedowierzaniem u większości komentujących Rosjan. Sugerowali, że tak nie wyglądają rosyjskie cmentarze, że fotografia to fotomontaż oraz że agencja kłamie. Pogrzeb jednak rzeczywiście odbył się na jednym z cmentarzy Sankt Petersburga.

Tłumy na plaży? Tak, to aktualne zdjęcie

Uwagę naszego czytelnika przykuło rozpowszechniane na Twitterze zdjęcie zatłoczonej plaży. Potwierdzamy, jest aktualne - zostało wykonane 25 kwietnia w Newport Beach w stanie Kalifornia. Władze stanu zdecydowały niedawno o częściowym rozluźnieniu restrykcji związanych z epidemią COVID-19. Lecz gdy na plażach hrabstwa Orange pojawiły się tłumy, zdecydowano ponownie o ich zamknięciu.

Mężczyzna wyrzuca śmieci do wody? Tak, w Rumunii

Na polskich stronach na Facebooku krąży zdjęcie mężczyzny wyrzucającego śmieci do rzeki. Internauci wzywają do udostępniania fotografii i odnalezienia sprawcy. Niepotrzebnie. Mężczyzna został odnaleziony i ukarany mandatem już przed rokiem. W Rumunii.