Miała być absolwentką prestiżowej uczelni i pracownicą jednego z największych think tanków w Stanach Zjednoczonych. Na portalu LinkedIn wysyłała zaproszenia do wpływowych Amerykanów i Brytyjczyków, a ci dodawali ją do grona znajomych, częściowo zachęceni atrakcyjnym zdjęciem. Nie wiedzieli, że twarz kobiety wygenerowała sztuczna inteligencja, a za profilem może kryć się nawet wywiad obcego państwa.
LinkedIn jest serwisem społecznościowym, który w przeciwieństwie do Facebooka czy Instagrama nie stawia na dzielenie się swoim prywatnym życiem w gronie znajomych, a raczej doświadczeniem zawodowym. Konta w serwisie posiadają zarówno osoby szukające pracy, jak i np. wysoko postawieni decydenci, tacy jak prezesi największych strategicznych firm czy szefowie organów administracji państwowej.
To właśnie na nawiązanie kontaktów z tak wpływowymi ludźmi liczyli twórcy - z dużym prawdopodobieństwem pracownicy jednego z wywiadów - którzy stworzyli Katie Jones, wygenerowaną przez sztuczną inteligencję kobietę-szpiega.
Ofiary oszustwa opisanego przez amerykańską agencję Associated Press wiąże jedno – wszystkie zajmowały lub zajmują strategiczne stanowiska w administracji lub think tankach i przede wszystkim posiadają pożądaną wiedzę z kluczowych dziedzin, takich jak finanse czy wojsko. Na liście ofiar znalazł się m.in. Paul Winfree, były doradca Donalda Trumpa i Dyrektor Polityki Budżetowej w Białym Domu oraz były attaché wojskowy USA w Moskwie, którego nazwiska nie podano.
Osoba bądź instytucja, która stała za fałszywym profilem, konsekwentnie budowała w serwisie pozycję i siatkę powiązań Katie - osoby dobrze wyedukowanej, pracującej na dobrym stanowisku w uznanej instytucji, zaznajomionej z osobami, które w kręgach amerykańskich think tanków i instytucji federalnych są poważane. Wszystko to uwiarygadniano dodatkowo zdjęciem - atrakcyjnej, rudowłosej, wyglądającej realnie kobiety.
"Jakiś rodzaj państwowej operacji"
Na ten moment nie ma żadnych twardych dowodów na to, że oszustwo z użyciem sztucznej inteligencji były zorganizowane przez konkretne państwo. Keir Giles – ekspert od Rosji z brytyjskiego think tanku Chatham House – powiązał działania Katie Jones z rosyjskim wywiadem, ale inni eksperci są bardziej powściągliwi.
Jonas Parello-Plesner z Alliance for Democracies Foundation wskazał, że "to bardzo śmierdzi, jak jakiś rodzaj państwowej operacji", ale także nie przytoczył żadnych dowodów.
Ewentualną wskazówką może być fakt, że Katie Jones w opisie swojego profilu zapewniała, że uzyskała tytuł naukowy na Uniwersytecie w Michigan w obszarze "Rosji i Eurazji". Może to być jednak fałszywy trop.
Cytowany przez AP dyrektor amerykańskiego Centrum Kontrwywiadu i Bezpieczeństwa Narodowego William Evanina w związku z tą sytuację oskarżył o finansowanie szpiegowania na LinkedIn inny kraj – Chiny. "Zamiast wysyłać szpiegów do jakiegoś garażu w USA w celu pozyskania śledzonej przez nas osoby, skuteczniej jest siedzieć za komputerem w Szanghaju i wysyłać zaproszenia do znajomych dla 30 tysięcy celów", komentował Evanina.
"Wyglądała młodziej niż ktoś tak doświadczony"
Keir Giles, który powiązał internetowe oszustwo z Rosją, jest też osobą, która jako pierwsza nabrała podejrzeń do Katie Jones i zdecydowała się bliżej zbadać sprawę. Podejrzliwość Gilesa wzięła się m.in. z faktu, że w przeszłości był on już celem szpiegów śledzących go za krytyczne wypowiedzi o rosyjskim producencie programów antywirusowych Kaspersky Lab.
Pracownik brytyjskiego think tanku znalazł na profilu kobiety co najmniej kilka alarmujących elementów. Jego podejrzenia wzbudził m.in. fakt, że Katie wyglądała zbyt młodo jak na kogoś, kto skończył już studia na Uniwersytecie w Michigan i od kilku lat pracuje w jednej z największych amerykańskich instytucji badawczych, Centrum Studiów Strategicznych i Międzynarodowych.
Sam później tłumaczył to dziennikowi "The Times": "Wyglądała młodziej niż ktoś tak doświadczony. Od lat współpracuję z CSIS [Center for Strategic and International Studies, Centrum Studiów Strategicznych i Międzynarodowych w Waszyngtonie - red.], więc powinienem o niej słyszeć. Wykonałem więc odwrócone wyszukiwanie jej zdjęcia w sieci, które nie pokazało żadnych wyników, co było bardzo podejrzane”, tłumaczył.
Mężczyzna zwrócił się więc zarówno do CSIS, jak i do amerykańskiego uniwersytetu z pytaniem, czy kobieta, która zaprosiła go do znajomych na LinkedIn, rzeczywiście spędziła tam kilka lat. Odpowiedzi z obu miejsc były przeczące. Skłoniło to Gilesa do pokazania zdjęcia znajomemu ekspertowi od kontrwywiadu, który zasugerował, że zostało ono stworzone komputerowo. W rozmowach z AP potwierdzili to także inni specjaliści.
Podejrzane włosy i plamka po kolczyku
Opublikowane przez Associated Press zrzuty ekranu konta Katie potwierdzają, że przy pobieżnym kontakcie rozpoznanie fałszywki było praktycznie niemożliwe. Zdjęcia profilowe w serwisie LinkedIn nie są wystarczająco duże, żeby dostrzec na nich jakiekolwiek podejrzane elementy. Nie oznacza to jednak, że wizerunek kobiety był bezbłędny.
O generowanych komputerowo twarzach nieistniejących ludzi i sposobach ich rozpoznawania pisaliśmy już na Konkret24. Elementem, z którym najsłabiej ciągle radzi sobie sztuczna inteligencja, są włosy. Problemy przy ich generowaniu są widoczne także u rzekomej Katie Jones.
Associated Press zwraca uwagę, że szczególnie włosy nachodzące na uszy kobiety wyglądają nienaturalnie, jak gdyby były przyklejone do twarzy. To tylko jedna z wskazówek, które można dojrzeć przy bliższej analizie zdjęcia.
Inną jest wygląd oczu. Z nimi też AI (Artificial Intelligence - sztuczna inteligencja) często nie potrafi sobie w pełni poradzić. W przypadku Katie można zauważyć niewielkiego zeza, a przede wszystkim nieistniejąca kobieta cierpi na heterochromię, czyli różnobarwność tęczówek. Mimo że oczywiście mogłaby ona posiadać to zaburzenie rozwoju, to w przypadku podejrzanych zdjęć ta przypadłość może wskazywać na ingerencję sztucznej inteligencji.
Nieautentyczność zdjęcia rzekomej pracownicy CSIS sugeruje także kolczyk, a raczej przypominająca go biała plamka na uchu kobiety. Ten błąd powstaje przy nakładaniu na siebie zdjęć prawdziwie istniejących ludzi, z których sztuczna inteligencja tworzy wizerunek zupełnie nowej osoby. Jeśli jeden z "oryginałów" nosił biżuterię, a drugi nie, stworzona w ten sposób hybryda może wyglądać zupełnie nierealnie, tak jak stało się to w przypadku uszu Katie Jones. Także nienaturalne zmarszczki widoczne na policzku kobiety powinny wzbudzić nasze podejrzenia.
Problem jest znacznie szerszy
Fałszywy profil rzekomej pracownicy CSIS został usunięty odpowiednio szybko i dzięki temu jego siatka powiązań zdążyła rozrosnąć się tylko do ponad 50 znajomych. Associated Press dotarła do około 40 osób, które kontaktowały się z Katie między marcem i kwietniem tego roku.
Wiele z nich na pytanie o powód przyjęcia kobiety do znajomych odpowiadało, że robią to rutynowo ze wszystkimi zaproszeniami. "Akceptuję dosłownie każdą prośbę o dodanie do grona znajomych, jaką otrzymuję. Jestem prawdopodobnie najgorszym użytkownikiem LinkedIn w historii LinkedIn”, mówił AP jeden z najwyższej postawionych mężczyzn, którzy padli ofiarą oszustwa – były doradca prezydenta USA Paul Winfree.
Mimo że w tym przypadku stosunkowo szybka reakcja doprowadziła do wczesnego usunięcia fałszywego konta, problem z wykorzystywaniem tego serwisu społecznościowego do celów szpiegowskich może być dużo szerszy. Ostrzeżenia przed kontaktowaniem się z nieznanymi osobami poprzez tę platformę wydały już władze m.in. Wielkiej Brytanii, Francji i Niemiec.
W oficjalnym komunikacie właściciele LinkedIn zapewnili, że w pierwszym kwartale 2019 r. "zidentyfikowali tysiące fałszywych kont" i ciągle rozwijają swoje technologie zapewniające skuteczniejszą walkę z nimi.
Rosyjskie tropy
Platforma mająca służyć do kontaktów biznesowych w zeszłym roku stała się także miejscem rozpowszechniania dezinformacji politycznej. W październiku odpowiedzialny za bezpieczeństwo serwisu Paul Rockwell poinformował, że administratorzy dzięki użyciu nowych technologii i danych wywiadowczych usunęli 24 fałszywe profile.
Przypuszcza się, że mogły one zostać stworzone przez rosyjskie podmioty państwowe. Udostępniane przez nie treści pochodziły z obu skrajnych stron amerykańskiej sceny politycznej i mogły tym samym wywoływać wewnętrzne podziały oraz zaognienie debaty publicznej. LinkedIn zapewnił, że stale współpracuje zarówno z Kongerem USA, jak i z FBI. Poza tym właściciele platformy zaapelowali, aby akceptować zaproszenia do znajomych wyłącznie od osób, które znamy. I wiemy, że istnieją.
Autor: Michał Istel / Źródło: Konkret24, Associated Press; Zdjęcie tytułowe: Unsplash/Associated Press
Źródło zdjęcia głównego: Unsplash/Associated Press