Nigdy nie istnieli, mogli być Twoimi znajomymi na Facebooku

Zdjęcia profilowe osób, "które nigdy nie istniały" - Facebook interweniujeShutterstock

Facebook poinformował o usunięciu setek kont, których administratorzy złamali reguły serwisu. Chodzi między innymi o tworzenie fikcyjnych kont, rozsyłanie spamu czy treści mogących wprowadzać w błąd, głównie na temat wydarzeń w USA. Na niektórych kontach wykorzystano zdjęcia profilowe wygenerowane przez sztuczną inteligencję.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Facebook poinformował 20 grudnia o usunięciu 610 kont, 89 stron, 156 grup i 72 kont na Instagramie, administrowanych z Wietnamu i Stanów Zjednoczonych. Na profilach pojawiały się m.in. treści związane z aktualnymi wydarzeniami politycznymi w USA. Osoby odpowiedzialne za ich zamieszczanie miały wielokrotnie łamać standardy społeczności Facebooka. Chodziło o tworzenie fałszywych kont, rozsyłanie spamu czy treści mogących wprowadzić odbiorców w błąd.

Fałszywe zdjęcia zidentyfikowane przez ekspertów Graphika i DFR Lab
Fałszywe zdjęcia zidentyfikowane przez ekspertów Graphika i DFR Lab#OperationFFS: Fake Face Swarm. A Joint Report by Graphika & the Atlantic Council’s Digital Forensics Research Lab

Specjaliści od bezpieczeństwa w sieci zwrócili uwagę, że przy tworzeniu niektórych fałszywych kont jako zdjęcia profilowe wykorzystano nieprawdziwe, sztucznie wytworzone obrazy. Do ich stworzenia użyto oprogramowania opartego na sztucznej inteligencji.

Dezinformacja ze źródłem w Wietnamie?

Jak informuje Facebook, usunięte strony śledzono na platformie łącznie z około 55 mln kont. Z ponad 380 tys. dołączono do co najmniej jednej z usuniętych grup. 92 tys. osób obserwowało jedno lub kilka usuniętych kont na Instagramie. Na reklamy w ramach zidentyfikowanej sieci wydano równowartość ok. 9,5 mln dolarów.

Działania były skoncentrowane na rozpowszechnianiu treści ze stron internetowych amerykańskiej grupy medialnej The BL (skrót od "The Beauty of Life" - ang. Piękno Życia). Ich odbiorcami były przede wszystkim osoby przebywające w Stanach Zjednoczonych. Niektóre treści były także ukierunkowane na użytkowników serwisu na całym świecie, posługujących się językami wietnamskim, hiszpańskim i chińskim.

Dziennikarze amerykańskiego portalu fact-checkingowego Snopes, którzy przyglądali się tej grupie zanim Facebook podjął oficjalne kroki, odkryli że większość jej działań prowadzona była z Wietnamu. Prof. Joshua Tucker z Uniwersytetu Nowojorskiego w rozmowie ze Snopsem zasugerował, że prawdopodobnie nie chodziło tu o bezpośrednie wpływanie na amerykańską politykę, jak to często ma miejsce w przypadku dezinformacji prowadzonej z obcego kraju, a raczej o generowanie zysków bądź działalność "na rzecz kogoś, kto im za to płaci". Wietnamskie źródła dezinformacji potwierdził też sam Facebook, informując, że działania prowadzone w ramach zlikwidowanych profili były powiązane z Epoch Media Group i z osobami pracującymi dla tej firmy w Wietnamie. W oświadczeniu Epoch Media Group odpiera zarzuty o związki z osobami podejmującymi działania niezgodne z regulaminem.

Fałszywe konta i zdjęcia profilowe

We wpisie na blogu korporacyjnym, Nathaniel Gleicher odpowiedzialny za politykę bezpieczeństwa Facebooka podkreśla, że wiele podejrzanych aktywności zostało zidentyfikowanych przez algorytmy platformy. "Osoby odpowiedzialne za te działania szeroko wykorzystywały fałszywe konta" - informuje Gleicher.

Konta były wykorzystywane do automatycznego zamieszczania treści odsyłających użytkowników Facebooka do innych serwisów. Aby zmylić narzędzia do weryfikowania treści, obok fałszywych kont, udających Amerykanów, wykorzystywano również autentyczne konta istniejących osób przebywających w Stanach Zjednoczonych.

Profile i strony publikowały głównie memy i inne treści skupiające się na wiadomościach dotyczących Stanów Zjednoczonych, w tym impeachmentu, kandydatów na prezydenta, wyborów prezydenckich w 2020 r. i handlu. Odnosiły się przede wszystkim do wartości konserwatywnych, rodzinnych i religijnych.

Uwagę ekspertów do spraw bezpieczeństwa wzbudziły zdjęcia profilowe wykorzystane przy tworzeniu fałszywych kont. Niektóre z nich zostały wygenerowane przy użyciu specjalistycznego oprogramowania.

"Część profili wykorzystywało zdjęcia wygenerowane przez sztuczną inteligencję i udawało amerykańskie pochodzenie w celu dołączania do grup i zamieszczania treści BL" - napisał Nathaniel Gleicher.

fałsz

Przykładowe konta ze zdjęciami wygenerowanymi przez sztuczną inteligencjęGraphika/DFRLab

Snopes zwraca uwagę, że zanim Facebook usunął fałszywe profile i strony, platforma była informowana przez redakcję o działalności sieci BL. Dziennikarze oceniają, że treści, którymi się ona dzieliła na Facebooku, docierały do ok. 28 mln - w większości realnie istniejących - osób. Podnoszą także, że Facebook podjął swoje działania za późno - na miejsce automatycznie usuwanych fałszywych profili szybko powstawały nowe, także wykorzystujące zdjęcia wygenerowane przez sztuczną inteligencję.

"Zdjęcia osób, które nigdy nie istniały"

Sprawę opisano również we wspólnym raporcie firmy Graphika, zajmującej się m.in. analizą mediów społecznościowych, oraz Digital Forensics Research Lab. DFRLab to zespół analityków działający przy think tanku Atlantic Council w Waszyngtonie. Grupa śledzi wydarzenia na świecie i ich relacjonowanie w mediach społecznościowych.

Zgodnie z informacjami zawartymi w raporcie, niektóre zdjęcia profilowe kont przynależących do usuniętej sieci zostały wygenerowane za pomocą algorytmów tzw. generative adversarial networks (GAN), wykorzystywanych również przy generowaniu nagrań deep fake. Algorytmy bazują na dwóch sieciach, które w procesie analizy danych zawartych w materiale źródłowym dążą do wygenerowania zestawu nowych danych - np. fałszywego obrazu. "To były zdjęcia osób, które nigdy nie istniały" - napisano w raporcie Graphika i DFR Lab.

Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deepfake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Autorzy opracowania wskazują, że technologia wytwarzania fałszywych obrazów jest dostępna od ok. 2014. W lutym 2019 r. stała się dostępna dla każdego. W sieci pojawił się wówczas serwis pozwalający na generowanie fałszywych portretów. Jak tłumaczył autor narzędzia Phillip Wang, stworzył je, by "podnieść publiczną świadomość na temat tej technologii". Zdjęcia z serwisu trudno wykryć m.in. poprzez podstawową technikę do weryfikacji zdjęć, czyli odwrócone wyszukiwanie obrazem, gdyż bardzo często są unikatowe. Są wykorzystywane w różnych celach, w tym do tworzenia fałszywych profili w serwisach społecznościowych. Eksperci Graphiki i DFR Lab nie potwierdzili jednak, czy członkowie grupy zidentyfikowanej przez Facebooka korzystali z narzędzia.

Jak rozpoznać fałszywkę?

Autorzy raportu podkreślają, że przypadek sieci The BL jest pierwszym przez nich napotkanym, w którym wykorzystano sztucznie wygenerowane obrazy w kampanii prowadzonej w mediach społecznościowych.

Mimo znacznego zaawansowania algorytmów GAN, niektóre z obrazów użytych jako zdjęcia profilowe zdradzają, że mamy do czynienia z fałszywką. Autorzy raportu przytaczają przykład fotografii jednego z administratorów grupy zidentyfikowanej jako część sieci ujawnionej przez Facebooka. Asymetryczne elementy okularów zdradzają, że niemal z pewnością obraz został sztucznie wytworzony.

fałsz

Fałszywe zdjęcie zidentyfikowane przez ekspertów Graphika i DFR Lab
Fałszywe zdjęcie zidentyfikowane przez ekspertów Graphika i DFR LabFałszywe zdjęcie zidentyfikowane przez ekspertów Graphika i DFR LabGraphika/The Atlantic Council’s Digital Forensic Research Lab | #OperationFFS: Fake Face Swarm. A Joint Report by Graphika & the Atlantic Council’s Digital Forensics Research Lab

Analizując, czy zdjęcie profilowe jest prawdziwe czy fałszywe zwrócono również uwagę na nietypowe cechy postaci oraz tło. Na fotografii przedstawiającej jedną z administratorek grupy zidentyfikowanej przez Facebooka widać nietypowy kształt szyi i zniekształcone elementy tła.

fałsz

Fałszywe zdjęcia zidentyfikowane przez ekspertów Graphika i DFR Lab
Fałszywe zdjęcia zidentyfikowane przez ekspertów Graphika i DFR LabFałszywe zdjęcia zidentyfikowane przez ekspertów Graphika i DFR LabGraphika/The Atlantic Council’s Digital Forensic Research Lab | #OperationFFS: Fake Face Swarm. A Joint Report by Graphika & the Atlantic Council’s Digital Forensics Research Lab

Zniekształcenia tła widoczne są również na obrazie przedstawiającym mężczyznę, również admina jednej z grup.

Jak pisaliśmy już w Konkret24, choć technologia generowania zdjęć z użyciem AI jest udoskonalana, nadal zdarza się, że włosy takich sztucznie stworzonych osób bywają na fotografiach nieregularne i nienaturalne, czasem jakby namalowane (zwłaszcza długie proste włosy), czasem są niezbyt ostre, a wręcz wtapiają się w twarz (np. na czołach czy pod kością policzkową przy uchu).

Technologia, która budzi niepokój

Autorzy raportu dotyczącego zidentyfikowanej dezinformującej sieci na Facebooku zwracają uwagę, że przy tworzeniu fałszywych profili popełniano błędy, np. dwukrotnie używano tego samego zdjęcia przy tworzeniu fałszywych konta, czy błędnie je podpisywano (np. zdjęcie kobiety podpisano męskim imieniem).

Bardziej zaawansowane techniki analizy, np. wykorzystywana w kryminalistyce do analizy zdjęć analiza poziomu błędów (ELA) pozwalają na dostrzeżenie różnic w kompresji różnych elementów obrazu.

"Łatwość z jaką wygenerowano tak wiele sztucznych obrazów w celu wykorzystania fałszywych profili z (najczęściej) przekonującymi twarzami budzi niepokój" - podsumowują autorzy raportu. Eksperci podkreślają konieczność prac nad skuteczniejszym identyfikowaniem fałszywych obrazów i automatyzacji tego procesu.

Autor: kjab / Źródło: Konkret24; zdjęcie tytułowe: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Po ułaskawieniu Roberta Bąkiewicza przez prezydenta Andrzeja Dudę obrońcy tej decyzji szerzą narrację o niewinnie skazanym za "obronę Kościoła przed barbarzyńcami". Absurd? Nie, przemyślana retoryka. I znana metoda budowania poparcia z wykorzystaniem fałszywego założenia.

Bąkiewicz jako "obrońca Kościoła" kontra "barbarzyńcy". Tu nie ma przypadku

Bąkiewicz jako "obrońca Kościoła" kontra "barbarzyńcy". Tu nie ma przypadku

Źródło:
TVN24+

Europosłowie Adam Bielan i Patryk Jaki sugerują, że Niemcy zawracają migrantów wyłącznie do Polski. Tak nie jest - dane pokazują, że Niemcy stosują tę procedurę wobec innych sąsiadów.

Bielan i Jaki: "robią to tylko z Polską". No nie

Bielan i Jaki: "robią to tylko z Polską". No nie

Źródło:
Konkret24

"To już jest anektowanie terenów należących do Polski" - w tym duchu komentowana jest nagłaśniana w sieci informacja, że Polska oddała most graniczny w Słubicach pod zarząd Niemiec. Wpisuje się ona w prowadzoną przez prawicę i środowiska narodowe akcję polityczną, lecz błędnie jest łączona zarówno z obecnym rządem, jak i z tematem migrantów. To długa historia. Wyjaśniamy.

Polska "oddała most pod zarząd Niemiec"? Ten tak, ale inne "dostała"

Polska "oddała most pod zarząd Niemiec"? Ten tak, ale inne "dostała"

Źródło:
Konkret24

"Kpiny", "bezczelność" - tak internauci komentują przemówienie ambasadora Ukrainy w Polsce wygłoszone na obchodach rocznicy rzezi wołyńskiej. A to za sprawą nagrania, które krąży w sieci. Przekaz jest jednak fake newsem.

Ambasador Ukrainy o Wołyniu mówił 10 sekund? "Muszę zabrać głos"

Ambasador Ukrainy o Wołyniu mówił 10 sekund? "Muszę zabrać głos"

Źródło:
Konkret24

Były premier Mateusz Morawiecki opublikował w mediach społecznościowych film pokazujący "niemieckie wojsko" w okolicach Lubieszyna, pytając, kiedy rząd "z tym skończy". W ten sposób podważył nie tylko obecność wojsk NATO w Polsce, ale też udział Polski w sojuszu.

Morawiecki o "niemieckim wojsku" w Polsce. "Kłamstwem walczy o zasięg"

Morawiecki o "niemieckim wojsku" w Polsce. "Kłamstwem walczy o zasięg"

Źródło:
Konkret24

Politycy prawicy - a za nimi internauci - zwracają ostatnio uwagę na wszystko, co niemieckie bądź z Niemiec, komentując to jako zagrożenie dla Polski. Tak też się stało, gdy na Wałach Chrobrego w Szczecinie zacumowała niemiecka korweta. Padały nawet komentarze o możliwej prowokacji wobec Polski. Ten alarmujący ton i wzbudzający strach polityczny przekaz jest bezzasadny.

Niemiecka korweta Braunschweig w Szczecinie. "Co to ma być?" 

Niemiecka korweta Braunschweig w Szczecinie. "Co to ma być?" 

Źródło:
Konkret24

Europoseł PiS Patryk Jaki przekonuje, że obecny rząd wydaje więcej wiz pracowniczych obcokrajowcom niż poprzednie. Dane, które otrzymaliśmy z MSZ, pokazują coś innego.

Patryk Jaki: "wiz pracowniczych jest teraz więcej". A naprawdę? Mamy dane

Patryk Jaki: "wiz pracowniczych jest teraz więcej". A naprawdę? Mamy dane

Źródło:
Konkret24

Nowa ustawa spowoduje, że polski gaz będzie magazynowany w Niemczech - alarmują politycy opozycji i prawicowe media. To fałszywa narracja zbudowana na wielostopniowej manipulacji. W jej przypadku szczególnie istotne jest, jak powstała.

"Polski gaz u Niemca"? Tekst Obajtka i ustawa z czasów PiS

"Polski gaz u Niemca"? Tekst Obajtka i ustawa z czasów PiS

Źródło:
Konkret24

Po rocznicy rzezi wołyńskiej w sieci pojawiło się zdjęcie, które rzekomo przedstawia szczątki ofiar w zbiorowej mogile. Drastyczny opis informuje o "10 000 czaszkach małych dzieci". Fotografia nie ma jednak nic wspólnego z ludobójstwem na Wołyniu. Wyjaśniamy, co wiadomo o grobie i ofiarach, które się w nim znajdują.

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

"10 000 czaszek małych dzieci" zabitych podczas rzezi wołyńskiej? Co widać na zdjęciu

Źródło:
Konkret24

"To jest mocne" - napisał rzecznik rządu Adam Szłapka, publikując w mediach społecznościowych "wyciąg z systemu wizowego", który miał udowadniać, że za rządów Zjednoczonej Prawicy nie kontrolowano migracji do Polski. Tylko że akurat nie te dane to pokazują.

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Adam Szłapka pokazuje dane o "niekontrolowanej migracji". Manipuluje

Źródło:
Konkret24

Wizualizacje remontowanych kamienic we Wrocławiu wywołały poruszenie w sieci. Na budynkach widać bowiem szyldy w językach polskim i niemieckim. Czy rzeczywiście tam wiszą? My sprawdziliśmy, a inwestor wyjaśnia.

Niemieckie szyldy na kamienicach we Wrocławiu? "Charakter ilustracyjny"

Niemieckie szyldy na kamienicach we Wrocławiu? "Charakter ilustracyjny"

Źródło:
Konkret24

"Biurokratyczny zamordyzm w plastikowym wydaniu" - grzmiał w Sejmie poseł Konfederacji Witold Tumanowicz, twierdząc, że szwedzka fundacja wykazała wzrost liczby wyrzucanych nakrętek po tym, jak Unia Europejska nakazała przytwierdzać je do butelek. Tylko że to nieprawda.

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

"Unijne nakrętki". Konfederacja cytuje szwedzki raport. Oto jak zmyśla

Źródło:
Konkret24

Podczas gdy polski polityk wprost podważa zbrodnie popełnione w Auschwitz-Birkenau, w sieci rozpowszechniane są grafiki AI, które mają imitować autentyczne obrazy pokazujące sceny z tego obozu zagłady. Powstają często na bazie prawdziwych, zachowanych zdjęć. "Manipulowanie takim obrazem dla rozrywki bezcześci go" - przestrzega muzeum. Apeluje o niepodawanie dalej takich postów.

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Nieautentyczne obrazy o Auschwitz. Muzeum apeluje do internautów

Źródło:
Konkret24

Iga Świątek pokonała Amandę Anisimovą w finale Wimbledonu, przechodząc do historii tenisa. Jej zwycięstwo skomentował premier Donald Tusk, lecz nie ustrzegł się przy tym wpadki.

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Tusk o Świątek: "jeszcze nikt nigdy" nie wygrał tak finału Wimbledonu. Wygrał

Źródło:
Konkret24

W gorącej dyskusji na temat migrantów "przerzucanych" przez niemiecką granicę politycy opozycji stawiają za wzór Danię i Luksemburg. Według nich te dwa kraje mają nie przyjmować żadnych migrantów z Niemiec. Sprawdziliśmy więc, jak to jest. Publikujemy najnowsze niemieckie statystyki.

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Nie tylko do Polski. Do których krajów Niemcy zawracają migrantów. Mamy dane

Źródło:
Konkret24

Te historie poruszają. Szczególnie tych rodziców, którzy stracili dzieci, a teraz widzą zdjęcia nastolatków i czytają, że zginęli w wypadkach, lecz ich organy posłużyły do przeszczepów. Autorzy takich wpisów "błagają o udostępnienia" - a my ostrzegamy: to fake newsy.

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

"Odszedł z tego świata". Fałszywe zdjęcia i prawdziwe żerowanie na uczuciach

Źródło:
Konkret24

Poseł PiS postanowił zaalarmować o wzroście bezrobocia wśród młodych ludzi w Polsce. Choć posłużył się wiarygodnymi danymi, to przedstawił je w taki sposób, że czytelnik może wyciągać błędne wnioski. Wyjaśniamy.

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Poseł PiS zrobił wykres wzrostu bezrobocia. Co policzył, a czego nie?

Źródło:
Konkret24

Opozycja krytykuje rząd za wprowadzenie zakazu lotów dronami nad zachodnią granicą. Według niej ten zakaz ułatwi "przerzucanie" migrantów z Niemiec. A ponadto politycy opozycji twierdzą, że nie ma podstawy prawnej tej decyzji. Wyjaśniamy.

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Zakaz dronów na zachodniej granicy. Jest, czy go nie ma

Źródło:
Konkret24

Posłowie Konfederacji grzmią, że prezydent Warszawy Rafał Trzaskowski postanowił przeznaczyć 700 tysięcy złotych na postawienie na Placu Zbawiciela tęczy. Instalacja ma być symbolem społeczności LGBTQ+. Politycy - a za nimi internauci - zarzucają prezydentowi Warszawy marnowanie pieniędzy. Tylko że on nie ma z tym nic wspólnego.

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

"Tęcza Trzaskowskiego za 700 tysięcy"? Kto zadecydował

Źródło:
Konkret24

"Grok zerwał się z łańcucha", "Grok zwariował" – przestrzegają użytkownicy platformy X należącej do Elona Muska. Rzeczywiście, chatbot oparty na sztucznej inteligencji obraża Tuska i Giertycha, a pozytywnie pisze o Braunie czy Hitlerze. O co chodzi z tym Grokiem? 

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Obraża Tuska i Giertycha, chwali Brauna. Co się stało z Grokiem?

Źródło:
TVN24+

"Germanizacja w pełni" - tak internauci i niektóre media komentują rzekomą zmianę nazwy mostu Grunwaldzkiego we Wrocławiu z polskiej na niemiecką. Konserwator zabytków i urząd miasta zaprzeczają, a my tłumaczymy, skąd wziął się ten fałszywy przekaz.

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

"Chcą zmienić nazwę Mostu Grunwaldzkiego na niemiecką"? O co chodzi

Źródło:
Konkret24

Wygląda jak lokalny serwis, ale nim nie jest. Zamiast informować, strona ta szerzy antymigrancki hejt. W rzekomej trosce o bezpieczeństwo mieszkańców karmi ich strachem. Promują ją politycy, a firmuje człowiek z komitetu poparcia Karola Nawrockiego. Portal Gazeta Zielonogórska to modelowe źródło dezinformacji niemedialnej. Na czym polega to zjawisko? 

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Redakcja widmo i niewidzialni migranci. Kto gra strachem w Zielonej Górze

Źródło:
TVN24+

Prawica rozpowszechnia przekaz o tysiącach "nielegalnych imigrantów" z Afryki, czy Bliskiego Wschodu zawróconych z Niemiec do Polski. Dane - także te najnowsze - pokazują coś zupełnie innego.

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Kogo Niemcy zawracają do Polski? Jedna narodowość dominuje

Źródło:
Konkret24

Politycy opozycji grzmią w mediach społecznościowych, że "ludzie Bodnara chcieli zapewnić sobie bezkarność". Jako dowód rozsyłają rzekomy zapis, który miał się znaleźć w ustawie przygotowywanej w Ministerstwie Sprawiedliwości. Resort już się do tego odniósł, a my wyjaśniamy, co dało początek tej narracji.

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

"Ustawa bezkarnościowa". Skąd się wziął wirtualny paragraf 

Źródło:
Konkret24

Zdjęcie wykonane nocą niedaleko granicy z Niemcami przez umieszczoną w lesie fotopułapkę wywołało oburzenie w sieci. Polityczka Konfederacji uznała bowiem, że kamera pokazała niemiecki patrol po polskiej stronie granicy. Wyjaśniamy, kogo naprawdę widać na fotografii.

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Czy to "niemieccy żołnierze po polskiej stronie granicy"? Mamy odpowiedź

Źródło:
Konkret24