Prawie 200 stron i grup z potencjałem dotarcia do ponad ośmiu milionów polskich użytkowników Facebooka tworzyło trzy sieci dezinformujące internautów - wynika z ustaleń ruchu obywatelskiego Avaaz. Część z tych stron została usunięta przez Facebook, część działa nadal. Jedna z sieci związana była z bohaterem reportażu "Superwizjera" o TVN o polskiej "fabryce fake newsów".

Usunięte w połowie maja strony na polskim Facebooku posiadały łącznie 1,9 mln obserwujących. Były częścią trzech większych sieci udostępniających fałszywe i hejterskie materiały, m.in. na temat imigrantów, islamu, feministek, LGBT, a także treści antysemickie. Składały się w sumie ze 184 stron i 13 grup z potencjałem dotarcia nawet do ponad 8 mln użytkowników platformy społecznościowej.

Ruch Facebooka jest następstwem śledztwa przeprowadzonego przez globalny ruch obywatelski Avaaz w ramach kampanii, która była wymierzona w falę dezinformacji w przeddzień wyborów do Parlamentu Europejskiego.

Zarówno sieci, jak i poszczególne należące do nich strony, charakteryzował wysoki stopień nieprzejrzystości. Treści rozprzestrzeniały się tam w sposób wysoce skoordynowany. Tematyka publikowanych materiałów była bardzo do siebie podobna.

Publiszer, czyli kopalnia fejków

O fałszywych treściach ze strony publiszer.pl pisaliśmy już kilkukrotnie także na Konkret24 - publikowano tam artykuły zazwyczaj niemające jakiegokolwiek poparcia w rzeczywistości. Także Avaaz zwraca uwagę na ten fakt. Jak piszą autorzy raportu, większość treści zamieszczanych przez tę sieć miała charakter szokujących fake news. Pisano m.in. o porwaniach dzieci i wycinaniu nerek, o obniżeniu wieku pełnoletności czy bójce w szatni reprezentacji Polski.

Wśród treści pochodzących od tej strony znajdowały się także materiały wzbudzające nastroje antysemickie. Jednym z nich - przywołuje go także Avaaz - była głośna sprawa rzekomego zniszczenia cmentarza w Świdnicy. W tę fałszywą informację opublikowaną przez Publiszera i sieć jego facebookowych fanpejdży uwierzyły izraelskie media.

Jak pisaliśmy w Konkret24, depeszę opartą na sensacjach Publiszera stworzyła Jewish Telegraphic Agency, a następnie informacje z niej wykorzystały w swoich artykułach "The Times of Israel" i "The Jerusalem Post". W akcji prostowania nieprawdziwych doniesień opatrzonych zdjęciami z zupełnie innego cmentarza wziął udział nawet ambasador Polski w Izraelu Marek Magierowski.

Nasz artykuł dotyczący fałszywej informacji z Publiszera
Nasz artykuł dotyczący fałszywej informacji z Publiszera Foto: Konkret24

W sieci Publiszera na Facebooku była m.in. strona o tej samej nazwie, co portal, ale i "Polacy, Typowy Janusz - Śmieszne sytuacje" (w adresie jednak brzmiała ona: Typowy.Janusz.Polak), "Typowy Polak" czy "Pożyczka przez internet". Strony te bardzo często zamieszczały linki do portali, o których niewiele można powiedzieć, podobnie zresztą, jak i o samych fanpejdżach - nie są znani ich właściciele czy administratorzy.

Jeszcze inna z historii opublikowanych przez Publiszera, którą przywołuje Avaaz, twierdziła, że kierowcy-migranci gwałcą europejskie kobiety. "To się dzieje" - głosił opis materiału zatytułowanego: "Uwaga! Wywożą, gwałcą i wyrzucają na drogach". Żadne polskie media nie publikowały jednak takich doniesień.

Tekst opatrzono zdjęciem, które miało pokazywać jedną z ofiar napaści, a w rzeczywistości pochodziło z filmu "Jestem mordercą" opowiadającego historię polskiego seryjnego mordercy znanego jako "wampir z Zagłębia". Artykuł Publiszera opublikowało 26 z 28 facebookowych stron wchodzących w jego sieć. Posty następowały jeden po drugim w krótkich odstępach czasowych 29 kwietnia między godz. 5:17 a 5:28.

Część stron, które opublikowały materiał o rzekomych napadach kierowców-migrantów
Część stron, które opublikowały materiał o rzekomych napadach kierowców-migrantów Foto: Avaaz/Facebook

Nie był to pierwszy raz, gdy tekst ten pojawił się w tej facebookowej sieci. Krążył w niej od lutego, za każdym razem opisywany był jako "to się dzieje", sugerując bieżący charakter materiału. W sumie mógł dotrzeć do ponad 550 tys. osób.

Od "Wariata" do "Pożyczki przez internet"

Strony sieci Publiszera bardzo rzadko publikowały materiały własne. Same nazwy fanpejdży na Facebooku także nie odnosiły się do treści, które na nich zamieszczano. Przykładowo na trzech fanpejdżach dotyczących Jana Pawła II nie było treści o papieżu, ale przede wszystkim linki do stron publiszer.pl, wMeritum.com (raport błędnie wskazuje stronę na domenie .pl - red.) oraz spora ilość treści clickbaitowych, czyli posiadających sensacyjne, wyolbrzymione, zachęcające do kliknięcia tytuły.

Historia części stron pokazywała także, że często zmieniały one nazwy. Przykładowo strona "Pożyczka przez internet" w 2018 r. nazywała się "Miałaś szanse, teraz myśl Pożyczka przez internet". W 2016 roku ta facebookowa strona nazywała się "Miałaś szanse, teraz myśl że jestem chu**m" (wykropkowane przez Konkret24 - red.) oraz "Jestem Polakiem - Biało Czerwony".

Historia zmiany nazw jednej ze stron
Historia zmiany nazw jednej ze stron Foto: Avaaz

Trzy lata wcześniej jej nazwa brzmiała także "Miałaś szanse, teraz myśl…" oraz "Jest we mnie tyle nienawiści ile w tobie fałszywości dziwko". Pierwsza nazwa strony utworzonej 15 czerwca 2013 była krótka i niezwiązana z następnymi - "Wariat".

"Liczba fanów nie rosła organicznie"

Strony w drugiej z sieci - InnaPolityka - na pierwszy rzut oka miały nazwy ogólne, nienacechowane politycznie czy kontrowersyjnie - Kryminalka, KochaszToPolub, Mężczyzny, Śmieszne filmiki. Przy bliższej analizie ukazywał się jednak zupełnie inny ich obraz. Przykładowo strona Kryminalka w adresie https miała nazwę "falszywemordyktorebylyzemna".

InnaPolityka w okresie badanym przez Avaaz miała ponad 3,6 mln obserwujących, ale ich zaangażowanie było mniejsze niż w przypadku trzeciej z sieci - Supernetworku. "To sugeruje, że liczba fanów nie rosła organicznie", pisze Avaaz. Można zatem przypuszczać, że część profili była fałszywa, a niektóre mogły być także internetowymi botami.

Zmienianie nazw a omijanie zasad

Część fanpejdży InnejPolityki miała krótkie nazwy bez jakiegokolwiek znaczenia w języku polskim. Jak pisze Avaaz, "ta sieć to przykład, jak zmiany w nazwach stron mogą być wykorzystywane, by wprowadzać użytkowników Facebooka w błąd poprzez przyciąganie ich do stron poświęconych konkretnym zainteresowaniom, a potem publikowanie na nich niezwiązanych, często wprowadzających w błąd i hejterskich informacji".

Avaaz zwraca uwagę, że Facebook ma bardzo restrykcyjne zasady jeśli chodzi o zmiany nazw stron na platformie, dlatego administratorzy fanpejdży w tej sieci dokonywali ich etapowo - raz na jakiś czas dodając lub odejmując z nich słowa, tak by zmiany te nie były mocno zauważalne, a dzięki temu dopuszczane przez platformę. Po kilku takich zmianach strona może mieć zupełnie inną nazwę.

Dla przykładu Avaaz pokazuje ewolucję nazwy strony, która początkowo nazywała się "Tego w mediach nie powiedzą". W pierwszej zmianie do nazwy tej dodano "Pier**ę lewackie media" (wykropkowane przez Konkret24 - red.). W drugiej zmianie usunięto "Tego w mediach nie powiedzą". Ostatecznie nazwą stała się tylko druga część uprzednio zmienionej nazwy strony.

W tej sieci w błąd wprowadzały także strony, które w nazwie miały np. "śmieszne wideo". Publikowane na nich treści nie były jednak śmieszne, ale np. antyukraińskie.

Skrajna prawica zamiast tekstów z Pitbulla

Trzecia sieć powiązana była z tzw. Supernetworkiem (portale Otopress, Propublico, Prawdaobiektywna) - należące do niej strony nazywały się m.in. "Chlew polski", "Imigranci w Europie", 'Bądź na bieżąco", "Antykomuna" czy "Milion polubień dla Powstańców Warszawskich". Większość miała osadzenie w polskiej rzeczywistości.

Łącznie 132 strony i grupy w tej sieci miały prawie cztery miliony obserwujących. Działały w sposób skoordynowany, przede wszystkim publikując treści clickbaitowe, skrajnie prawicowe, a głównymi źródłami materiałów były strony magnapolonia (ponad 19 tysięcy razy w ciągu trzech miesięcy), nczas, prawdaobiektywna, otopress czy propublico24. Za każdym razem linki do takich treści osadzano bezpośrednio na poszczególnych stronach i nie wykorzystywano funkcji "udostępnij", która mogłaby bezpośrednio wskazywać na powiązania między stronami.

Sieć supernetworku publikowała m.in. teksty dotyczące pożaru Notre Dame
Sieć supernetworku publikowała m.in. teksty dotyczące pożaru Notre Dame Foto: Avaaz/Facebook

Nazwy fanpejdży często nie miały żadnego związku z treściami tam publikowanymi. Z zachowanych przez Avaaz zrzutów ekranów można zobaczyć, że np. osoby obserwujące stronę "1001 najlepszych tekstów z Pitbulla" narzekały, że nie ma na niej treści związanych z filmem. "Odkąd na tej grupie jestem, to ani jednego tekstu z Pitbulla nie widziałem", pisał jeden z nich.

Bohater reportażu "Farma Troli"

Strony w Supernetworku były koordynowane przez kilka osób, w tym właściciela strony Otopress - Marcina P. Otopress.pl (który wg Avaazu prawdopodobnie miał mylnie kojarzyć się z portalem oko.press) powstał po tym, jak zamknięta została poprzednia strona Marcina P. - raportdnia.pl, która wcześniej nazywała się newsweb.pl. To właśnie ten portal stał się tematem reportażu "Superwizjera" TVN, w którym reporterka pod przykrywką zatrudniła się do pracy w serwisie.

Nagrania prac portalu pokazały, jak działają strony żerujące na zmyślonych lub wprowadzających w błąd informacjach. - To jest takie nowoczesne dziennikarstwo, co z dziennikarstwem prawdziwym nie ma wiele wspólnego – tłumaczył nowo zatrudnionej reporterce zastępca redaktora naczelnego newsweb.pl Dominik S. Jednocześnie wyjaśniał, na czym polega praca w portalu. – Człowiek siedzi i wymyśla jakieś bzdury. Dziennikarze to nad jednym tekstem trzy dni siedzą, a my piszemy po dziesięć dziennie – dodawał.

Treści te następnie były kolportowane w sieci za pomocą wykupywanych przez portal stron w serwisach społecznościowych, głównie na Facebooku.

Po emisji reportażu, raportdnia.pl został zamknięty, ale jego właściciel otworzył właśnie otopress.pl. Obecnie na stronie można znaleźć wiele treści z clickbaitowymi tytułami. Przykładami mogą być np. "Robi się gorąco. Sławomir Broniarz zaalarmował wszystkich nauczycieli", "Marcinkiewicz będzie miał kłopoty. Poseł PiS chce sprawdzić jedną rzecz", "Tego nie wiedział nikt. Marta Kaczyńska zdradziła tajemnice swojego ojca" czy "Wiemy, co planuje Zofia Klepacka. Żarty się skończyły!" (z tekstu nie wynika jednak, co sportsmenka planuje - autorzy sugerują, że może chcieć zostać parlamentarzystką).

Sieć powiązań między fanpejdżami należącymi do Supernetworku
Sieć powiązań między fanpejdżami należącymi do Supernetworku Foto: Avaaz/Facebook

W przypadku innego z administratorów sieci, namierzono pięć profili na Facebooku i trzy na Twitterze, którymi się posługiwał. Avaaz zwraca uwagę na to, że użytkownik ten bardzo często publikował i udostępniał od innych osób treści pro-PiS, a także używał loga partii w swoim zdjęciu profilowym i zachęcał do głosowania na PiS w eurowyborach.

Wzmacnianie rosyjskiej propagandy

Najpopularniejsza strona rozpoznana przez Avaaz miała ponad 200 tysięcy obserwujących - to palmala.pl (226 tys.). 190 tys. osób polubiło stronę "Śmieszne filmiki", a 146 tys. Lalakids. Wszystkie były częścią sieci InnaPolityka.

O sieci tej - jako wzmacniającej rosyjską propagandę pisało także OKO.press. Jak ustalili dziennikarze śledczy portalu, tylko w dziesięć dni między 10 a 19 kwietnia 2019 roku 16 tekstów strony internetowej "Inna Polityka" wieszczyło nadchodzący konflikt, straszyło potęgą militarną Rosji lub słabością jej przeciwników. Jak pisze oko.press, "po ich lekturze wniosek nasuwa się sam: do Rosji trzeba się przyłączyć albo jej poddać".

Portal "Inna Polityka"przygotowywał także teksty na bazie publikacji Sputnika. Dezinformował m.in. o konflikcie w Syrii i zamachu na Siergieja Skripala. Felietonistą portalu był Leszek Miller, a redaktorem naczelnym jego główny doradca (2003-2004) Jacek Podgórski. W rozmowie z OKO.press zapewniał jednak, że z obecną odsłoną "Innej Polityki" nie ma nic wspólnego (portal na siedem miesięcy zawiesił działalność w lipcu 2018 r.).

Autorzy cyklu artykułów w oko.press wskazują, że "Inna Polityka" należy do siatki stworzonej przez Konrada P. i Marta Sz. Według obliczeń dziennikarzy, fanpejdże tej siatki gromadzą łącznie co najmniej 4,9 mln fanów, a także że wspierały polityków: Janusza Korwin-Mikkego oraz członków stowarzyszenia Adama Andruszkiewicza, obecnie wiceministra cyfryzacji.

Jak wykazały analizy Avaazu, część stron we wszystkich trzech sieciach łamało zasady Facebooka publikując wprowadzające w błąd treści polityczne, "często atakując opozycję liberalną przed wyborami". Można było na nich znaleźć także materiały antysemickie, antyukraińskie, antyimigranckie, anty-LGBT, antymuzułmańskie, czy antyfeministyczne. Część z publikowanych informacji była nieprawdziwa, bądź wprowadzająca w błąd.

"Dezinformacja sprawia, że demokracje chorują"

Avaaz przekazał swoje ustalenia Facebookowi 26 kwietnia, uzupełniając je jeszcze 14 maja. W połowie maja serwis usunął 27 stron, które wskazała organizacja. W sumie miały one prawie 2 mln obserwujących. Zamknięto także 18 profili, które były z nimi powiązane.

Śledztwo było częścią kampanii Avaaz wymierzonej - jak opisuje ruch - w falę dezinformacji zalewającej Europę w przeddzień wyborów do Parlamentu Europejskiego. Zespół reporterów śledczych, badaczy i analityków danych monitorował działania dezinformujące, prowadzone na terenie całego kontynentu, skupiając się na identyfikowaniu fake newsów zanim jeszcze zaczną rozchodzić się w internecie, oraz likwidowaniu stojących za nimi sieci.

Analiza została przeprowadzona w ramach projektu "Avaaz’s Disinformation Project". Wcześniej podobne raporty opracowane zostały m.in. przy okazji protestów "żółtych kamizelek" we Francji czy podczas wyborów parlamentarnych w Hiszpanii. W obydwu przytoczonych przypadkach po przekazaniu ustaleń Facebookowi platforma usuwała część stron, które dezinformowały bądź wykazywały nieautentyczny, skoordynowany typ działań. Trzy hiszpańskie sieci, zarządzane przez fałszywe oraz zduplikowane konta, docierały łącznie do ponad 1,4 miliona odbiorców.

Christoph Schott, Dyrektor ds. Kampanii w Avaaz, powiedział:

Dezinformacja rozprzestrzenia się na Facebooku jak trucizna i sprawia, że nasze demokracje chorują. Facebook w Polsce zadziałał szybko, jednak każdy lekarz powie, że najważniejsza jest profilaktyka. W przeddzień eurowyborów Facebook musi jak najszybciej przeprowadzić szczegółowy przegląd zdrowia całej platformy w Europie i zdjąć wszystkie nieprawdziwe i toksyczne treści, które znajdzie.

Christoph Schott

Komentarz Facebooka: wyścig zbrojeń

W odniesieniu do przeprowadzonej akcji poprosiliśmy polskie biuro Facebooka o komentarz. Serwis nie odpowiedział na nasze szczegółowe pytania, ale przysłał oświadczenie, w którym zaznaczył, że walka z takimi zjawiskami to "wyścig zbrojeń z wyrafinowanym i równie zdeterminowanym przeciwnikiem".

Oświadczenie brzmiało:

Jesteśmy zdeterminowani, by chronić naszą społeczność i zwalczać pojawiające się zagrożenia. Każdego dnia blokujemy miliony fałszywych kont oraz stale doskonalimy technologię i metody obrony. Ale należy jednocześnie pamiętać, że jest to "wyścig zbrojeń" z wyrafinowanym i równie zdeterminowanym przeciwnikiem, któremu zależy na manipulowaniu debatą publiczną.

Biuro prasowe Facebooka

W odpowiedzi serwis zaznaczył także rolę, jaką w tej akcji odegrała organizacja Avaaz. "Dziękujemy organizacji Avaaz za udostępnienie nam wyników ich dochodzenia i umożliwienie nam zbadania tej kwestii", napisało Biuro prasowe. "Jesteśmy skupieni na chronieniu wyborów w Unii Europejskiej i na całym świecie. Usunęliśmy szereg fałszywych i zduplikowanych kont, które naruszały nasze zasady dotyczące autentyczności, a także wiele stron, które między innymi naruszyły nasze zasady dotyczące zmiany nazwy. Jeśli odkryjemy kolejne naruszenia, podejmiemy stosowne działania", dodali przedstawiciele największego serwisu społecznościowego na świecie.

Autor:  bebi, mi
Źródło:  Konkret24; Avaaz, oko.press; zdjęcie tytułowe: Shutterstock

Pozostałe

Popularne w sieci wideo nie jest z Hongkongu. To projekt artystyczny

W mediach społecznościowych bardzo dużą popularność zyskuje krótkie wideo z wynalazkiem, który ma pomóc zmylić system rozpoznawania twarzy. Przekazujący sobie to nagranie internauci piszą, że pochodzi ono z Hongkongu. Jednak przenośny projektor twarzy to część projektu artystycznego holenderskich studentów sprzed dwóch lat. Podkreślają, że produkt tak naprawdę nie działa i apelują o niewykorzystywanie go w celach politycznych.

Dezinformacja - prognozy przed wyborami w USA w 2020 roku

Deep fake może być jednym z najpotężniejszych narzędzi w rękach twórców dezinformacji przed nadchodzącymi wyborami prezydenckimi w Stanach Zjednoczonych. Według raportu opublikowanego przez Uniwersytet Nowojorski, technologia może zostać wykorzystana w kampanii wyborczej, by przypisać kandydatom nieprawdziwe słowa lub zachowania. Raport wskazuje, że źródłami dezinformacji oprócz Rosji mogą być Chiny oraz Iran. Najwięcej sfałszowanych treści będzie jednak pochodziło nie z zagranicy, a z samych Stanów Zjednoczonych.

Tweety, których nie napisali Dominika Wielowieyska i Marcin Gortat

Na Twitterze pojawił się wpis podpisany nazwiskiem Dominiki Wielowieyskiej. Bardziej uważni użytkownicy serwisu bez trudu wychwycili, że jego autorką wcale nie jest dziennikarka "Gazety Wyborczej". Tweet zamieszczono na koncie, które tymczasowo zmieniło nazwę użytkownika. Podobnie wykorzystano nazwisko Marcina Gortata. Wielu komentujących, krytykujących treść wpisu, było jednak przekonanych, że uczestniczy w dyskusji właśnie ze sportowcem.

Odtworzyli głos szefa firmy. Wyłudzili 243 tys. dolarów

Korzystając ze sztucznie wygenerowanego głosu prezesa dużej firmy, przestępcy zadzwonili do dyrektora jednej z jej spółek zależnych i poprosili o wykonanie przelewu. Udało im się wyłudzić w ten sposób 243 tys. dolarów. To prawdopodobnie pierwszy opisany przykład oszustwa z wykorzystaniem dźwięku stworzonego w technologii deepfake.

Chińska aplikacja do podmieniania twarzy podbija rynek. I budzi obawy

Chińska aplikacja ZAO pozwala użytkownikom na "podmienienie" twarzy aktora w klipie z serialu lub filmu na swoją twarz. Efekt jest realistyczny i dostępny w ciągu chwili. Program budzi kontrowersje - nie tylko ze względu na swoje możliwości, ale i na politykę prywatności. Jednocześnie bije jednak rekordy popularności w Azji - w ciągu kilku dni od premiery stała się najczęściej ściąganą aplikacją.

Wyścig zbrojeń XXI wieku. Technologie deepfake coraz lepsze i groźniejsze

O deepfake jest głośno wraz z każdym takim materiałem wstawionym do sieci. Na początku sierpnia zaskoczenie zaawansowaniem tej technologii wywołał filmik, w którym komik Bill Hader zamienia się w Toma Cruise'a. Zastosowanie takich manipulacyjnych rozwiązań staje się jednak coraz groźniejsze - jedna z firm w USA miała stracić z tego powodu kilka milionów dolarów. Rząd Stanów Zjednoczonych chce stworzyć zaawansowane narzędzia do identyfikowania sfałszowanych treści pojawiających się w sieci.