Deep fake'ów w sieci już nie unikniemy - naukowcy o możliwości ich weryfikacji

Walka z deep fake'amiShutterstock

Chociaż technologia tworzenia filmów typu deep fake staje się coraz bardziej doskonała i powszechna, naukowcy z Rochester Institute of Technology zapowiadają, że także narzędzia do weryfikacji takich nagrań będą wkrótce dostępne. Przedstawiają dwie metody, które są wykorzystywane.

Pokazujemy, co jest prawdą, a co fałszem
Weryfikujemy fake newsy, sprawdzamy dane, analizujemy informacje z sieci

Dziennikarze na całym świecie wkrótce będą mogli korzystać z narzędzia pozwalającego na wykrywanie materiałów typu deep fake - zapowiadają John Sohrawardi i Matthew Wright, badacze z Rochester Institute of Technology. Ich zdaniem za kilka lat takie narzędzie może być używane przez każdego, kto będzie chciał sam wyłapywać i usuwać fałszywe wideo publikowane w jego mediach społecznościowych.

Sohrawardi i Wright są autorami artykułu na ten temat, który opublikował portal The Conversation. Poniżej przestawiamy jego tłumaczenie (śródtytuły pochodzą od redakcji).

Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"
Jak radzić sobie z deep fake'ami? "Do dziennikarzy należałoby ustalenie, co jest prawdą, a co jest fejkiem"Fakty o Świecie TVN24 BiS

Widzimy przyszłość dla takich narzędzi

Dziennikarz śledczy dostaje wideo od anonimowego informatora. Film przedstawia kandydata na prezydenta przyznającego się do działań niezgodnych z prawem. Ale czy to nagranie jest prawdziwe? Jeśli tak, to byłaby to bardzo ważna historia - może najważniejszy materiał w karierze tego dziennikarza, która mógłby zmienić bieg kampanii wyborczej i wynik nadchodzących wyborów.

Ale dziennikarz sprawdza wideo za pomocą specjalistycznego narzędzia - ono pokazuje, że nagranie nie jest tym, czym się wydaje. To tak naprawdę deep fake, film stworzony przy użyciu sztucznej inteligencji i deep learning, czyli głębokiego uczenia się (rodzaj uczenia maszynowego; na dużych zbiorach informacji sztuczna inteligencja doskonali swoje umiejętności rozpoznawania tekstu, obrazu i dźwięku - red.).

Jako naukowcy, którzy już od jakiegoś czasu badają sposoby wykrywania deep fake'ow, widzimy przyszłość dla takich narzędzi. Nie rozwiążą wszystkich naszych problemów, ale będą częścią arsenału broni do walki z dezinformacją.

Dlaczego demaskowanie deep fake'ów jest takie ważne

Wielu z nas wie, że nie można wierzyć we wszystko, co się widzi. Przez ostatnie kilka dekad świadomi odbiorcy informacji przyzwyczaili się do oglądania zdjęć z przerobionych za pomocą programów do fotoedycji. Jednak wideo to inna historia. Hollywoodzcy reżyserzy, by stworzyć realistyczną scenę, potrafią wydać miliony dolarów na efekty specjalne. A przy użyciu technologii deep fake amatorzy ze sprzętem komputerowym za kilka tysięcy dolarów w ciągu kilku tygodni mogą stworzyć coś, co do złudzenia imituje rzeczywistość.

Deep fake'i pozwalają umieścić w filmowych scenach osoby, które nigdy w nich nie wystąpiły - na przykład Toma Cruise'a w roli Iron Mana - co czyni tego typu materiały zabawnymi.Niestety, dzięki tej samej technologii możliwe jest również tworzenie fałszywej pornografii, bez zgody przedstawionych w nich osób (o tego typu fałszywych nagraniach pisaliśmy w Konkret24 - red.). To one są dziś głównymi ofiarami nadużyć technologii deep fake.

Technologia ta może być wykorzystana do tworzenia filmów, w których polityczni przywódcy mówią rzeczy, jakich nigdy nie powiedzieli. W 2018 roku Belgijska Partia Socjalistyczna opublikowała słabej jakości nagranie, na którym prezydent Trump miał obrażać Belgię. To nie deep fake, ale jest to nieprawdziwe wideo. Uzyskało wystarczająco dużo reakcji, by pokazać potencjalne zagrożenia związane z pojawieniem się wysokiej jakości deep fake'ów.

Niebezpieczne jest także i to, że można je wykorzystać, by wzbudzić wątpliwości co do autentyczności prawdziwych filmów - sugerując, że mogły powstać z wykorzystaniem sztucznej inteligencji.

Biorąc pod uwagę te zagrożenia, wyjątkowo cenna byłaby możliwość wykrycia fałszywych nagrań i wyraźnego oznaczenia ich. Dzięki temu fałszywe wideo nie wprowadzałoby w błąd opinii publicznej, a prawdziwe nagrania mogłyby nadal być uznawane za autentyczne.

Dwie metody wykrywania deep fake'ów

Wykrywanie fałszywych nagraństało się przedmiotem badań naukowców nieco ponad trzy lata temu. Początkowo prace koncentrowały się na wykrywaniu zauważalnych problemów w nagraniach deep fake, np. ich bohaterowie nie mrugali. Z czasem jednak takie materiały stawały się coraz lepsze w naśladowaniu prawdziwych filmów. Tym samym dostrzeżenie, czy wideo to deep fake, czy nie, stało się trudne zarówno dla ludzi, jak i dla narzędzi mających to wykrywać.

Są dwa główne sposoby na wykrywanie deep fake'ów. Pierwszy polega na analizie zachowań konkretnych ludzi widocznych na nagraniach. Załóżmy, że masz sporo materiału wideo z udziałem kogoś sławnego - na przykład byłego prezydenta Stanów Zjednoczonych Baracka Obamy. Sztuczna inteligencja (AI) potrafi wykorzystać informacje z nagrań, by nauczyć się zachowań Obamy: od gestów dłoni po to, kiedy robi pauzy w mówieniu. Sztuczna inteligencja może wtedy przeanalizować deep fake'a z Obamą i zauważyć, gdzie jego zachowanie nie pasuje do schematu. Ten sposób może działać, nawet jeśli sama jakość zmanipulowanego wideo jest praktycznie doskonała.

Spot typu deepfake przygotowany przez belgijską partię sp.a
Spot typu deepfake przygotowany przez belgijską partię sp.asp.a

Inni badacze, w tym nasz zespół, koncentrują się na różnicach między deep fake'em a prawdziwym nagraniem. Filmy deep fake są często tworzone poprzez łączenie indywidualnie wygenerowanych kadrów. Dlatego metody naszego zespołu pozwalają wyodrębnić istotne informacje z twarzy widocznych w poszczególnych klatkach filmu, a następnie śledzić je poprzez kolejne zestawy ujęć. Pozwala to na wykrycie niespójności w przepływie informacji z jednej klatki na drugą. Podobną metodę stosujemy również w naszym systemie weryfikacji dźwięku.

Te subtelne szczegóły są trudne do dostrzeżenia przez ludzi, ale pokazują, że nagrania deep fake nie są jeszcze całkiem doskonałe. Detektory fałszywych nagrań mogą przydać się każdemu, nie tylko garstce światowych liderów. Może się okazać, że oba podejścia do wykrywania deep fake'ów znajdą się w użyciu.

Najnowsze systemy weryfikacji bardzo dobrze sprawdzają się w przypadku filmów zgromadzonych specjalnie w celu oceny tych narzędzi. Niestety, nawet najlepsze słabo radzą sobie z filmami znalezionymi w internecie. Ulepszenie tych narzędzi tak, aby stały się bardziej użyteczne, będzie kluczowe.

Dziennikarze pierwszą linią obrony

Dobrze byłoby, gdyby każdy miał dostęp do narzędzi pozwalających na weryfikację deep fake'ow. Dziś ta technologia znajduje się we wczesnej fazie rozwoju. Zanim zostanie udostępniona na szeroką skalę, naukowcy muszą ją udoskonalić i chronić przed hakerami.

Jednak w tym samym czasie narzędzia do tworzenia deep fake'ów są dostępne dla każdego, kto chce oszukać opinię publiczną. Czekanie na ostateczną technologię demaskująca je nie wchodzi więc w grę. Dla naszego zespołu właściwą równowagą była praca z dziennikarzami, ponieważ to oni są pierwszą linią obrony przed rozprzestrzenianiem się dezinformacji.

Przed opublikowaniem historii dziennikarze muszą zweryfikować uzyskane informacje. Dysponują już sprawdzonymi metodami jak konsultacje z ekspertami i sprawdzanie kluczowych faktów przez więcej niż jedną osobę. Oddając narzędzie w ich ręce, przekazujemy im więcej informacji i wiemy, że nie będą polegać wyłącznie na technologii, gdyż i ta może popełniać błędy.

Jako badacze podejmujemy wyzwanie

Dobrze jest widzieć, że zespoły Facebooka i Microsoftu inwestują w technologię, by zrozumieć i wykrywać nagrania deep fake. By dotrzymać kroku postępowi tej technologii, potrzeba więcej badań. Dziennikarze i portale społecznościowe muszą także wypracować najlepsze możliwe sposoby ostrzegania ludzi przed wykrytymi fałszywymi nagraniami. Badania pokazały, że ludzie pamiętają kłamstwo, ale nie fakt, że było ono kłamstwem. Czy ten sam problem będzie dotyczył fałszywych filmów? Samo umieszczenie w tytule "deep fake" może nie wystarczyć.

Nagrania typu deep fake już są - i z nami zostaną. Ponieważ sztuczna inteligencja staje się coraz bardziej skuteczna, zarządzanie dezinformacją i ochrona społeczeństwa będą trudniejsze niż kiedykolwiek wcześniej. Jesteśmy częścią rosnącej społeczności badawczej, która podejmuje wyzwanie, jakim jest technologia deep fake.

John Sohrawardi jest doktorantem nauk informatycznych Rochester Institute of Technology. Profesor Matthew Wright specjalizujący się w bezpieczeństwie cyfrowym jest kierownikiem badań Global Cybersecurity Institute w Rochester Institute of Technology. Ich artykuł został opublikowany w portalu The Conversation pt. "In a battle of AI versus AI, researchers are preparing for the coming wave of deepfake propaganda". Tłumaczenie na podstawie licencji Creative Commons.

Autor: John Sohrawardi i Matthew Wright (tłum. Gabriela Sieczkowska) / Źródło: The Conversation; zdjęcie: Shutterstock

Źródło zdjęcia głównego: Shutterstock

Pozostałe wiadomości

Po wizycie niemieckiego kanclerza Olafa Scholza w Warszawie wrócił temat reparacji wojennych. Jednak w trwającej debacie publicznej politycy raz mówią o "reparacjach", innym razem o "odszkodowaniach". Oba terminy oznaczają jednak inne pieniądze i dla kogo innego. Wyjaśniamy.

Polska i Niemcy: reparacje vs odszkodowania. Co mylą politycy

Polska i Niemcy: reparacje vs odszkodowania. Co mylą politycy

Źródło:
Konkret24

Tytuł tekstu jednego z serwisów posłużył politykom opozycji do rozpowszechniania tezy o "rządowym festiwalu podwyżek". Chodzi o większe opłaty za publiczne żłobki. Tylko że ich wysokości nie ustala rząd, a powodem podwyżki jest rozporządzenie premiera... Mateusza Morawieckiego.

Przekaz PiS: rząd podnosi opłaty za żłobki. Nieprawda. Wyjaśniamy

Przekaz PiS: rząd podnosi opłaty za żłobki. Nieprawda. Wyjaśniamy

Źródło:
Konkret24

- W amerykańskiej polityce głośne wydarzenia polityczne interpretuje się w kategoriach zerojedynkowych, a to sprzyja rozpowszechnianiu teorii spiskowych - uważa prof. Małgorzata Zachara-Szymańska z Instytutu Amerykanistyki i Studiów Polonijnych UJ. Według profesor, te zaś powstają zwykle na zamówienie polityczne. Nie inaczej jest po zamachu na Donalda Trumpa w Pensylwanii.

"Ustawka", "rozkazy CIA", "spóźniony snajper". Teorie spiskowe po zamachu na Donalda Trumpa

"Ustawka", "rozkazy CIA", "spóźniony snajper". Teorie spiskowe po zamachu na Donalda Trumpa

Źródło:
Konkret24

Daniel Obajtek przekonuje, że upublicznione nagranie jego rozmowy z dziennikarzem Piotrem Nisztorem nie jest prawdziwe, bo "prokuratura odmówiła wszczęcia postępowania". Według niego to właśnie jest dowód, że "nie ma żadnych nagrań". Były prezes Orlenu manipuluje. Powód decyzji prokuratury był inny. Śledczy w ogóle nie badali prawdziwości nagrań.

Taśmy Obajtka. Prokuratura potwierdziła, że "nie ma żadnych nagrań"? Wcale nie

Taśmy Obajtka. Prokuratura potwierdziła, że "nie ma żadnych nagrań"? Wcale nie 

Źródło:
Konkret24

Pismo wysłane z tarnobrzeskiego Powiatowego Inspektoratu Nadzoru politycy Prawa i Sprawiedliwości publikują jako "dowód", że rząd wydał już "polecenie szukania miejsc na ośrodki dla nielegalnych migrantów". To nieprawda. W dokumencie nie ma słowa o migrantach, a powstał jako efekt przepisów uchwalonych za rządów Zjednoczonej Prawicy. Wyjaśniamy, o co chodzi w tej historii.

PiS: "ekipa Tuska szuka miejsc dla nielegalnych migrantów". Fałszywy przekaz

PiS: "ekipa Tuska szuka miejsc dla nielegalnych migrantów". Fałszywy przekaz

Źródło:
Konkret24

Upublicznione pismo Sztabu Generalnego dotyczące planów budżetowych wywołało dyskusję o rzekomo zakładanych cięciach wydatków na obronność. Szef MON zaprzecza i zapowiada najwyższy budżet od lat. Konkret24 uzyskał potwierdzenie, że takich cięć na razie nie będzie. O co więc chodzi w upublicznionym dokumencie i na jakim etapie tworzenia budżetu MON powstał?

Wydatki na wojsko w dół? MON zaprzecza. Tłumaczymy, jak powstaje ten budżet

Wydatki na wojsko w dół? MON zaprzecza. Tłumaczymy, jak powstaje ten budżet

Źródło:
Konkret24

Jeden z internautów twierdzi, że Bill Gates rzekomo jest autorem artykułu, w którym prezentuje pomysł, by poprzez przymusowe szczepienia doprowadzić do zmniejszenia liczby ludności, a w konsekwencji - do ograniczenia emisji dwutlenku węgla do atmosfery. Nieprawdziwy okazuje się nie tylko sam przekaz o napisaniu tekstu przez Gatesa, ale także stawiane wobec niego zarzuty. Wyjaśniamy.

Przymusowe szczepienia pomysłem Billa Gatesa na walkę z emisją CO2? Nieprawda

Przymusowe szczepienia pomysłem Billa Gatesa na walkę z emisją CO2? Nieprawda

Źródło:
Konnkret24

"Dowód na antypolonizm warszawskich władz", "ocenzurowali portret patrona lotniska", "Polska ich uwiera" - piszą internauci w reakcji na doniesienia, że z hali Okęcia zniknął plakat z hasłem "Jesteśmy dumni z Polski". Ich zdaniem to skutek obecnych rządów. Nieprawda - decyzja zapadła za czasów Zjednoczonej Prawicy.

Hasło "Jesteśmy dumni z Polski" zniknęło z hali Okęcia. "Znak czasów"? Wyjaśniamy

Hasło "Jesteśmy dumni z Polski" zniknęło z hali Okęcia. "Znak czasów"? Wyjaśniamy

Źródło:
Konkret24

Nieopublikowanie przez Orlen wyników finansowych za drugi kwartał wywołało w sieci dyskusję o kondycji spółki. Zbigniew Kuźmiuk z PiS zasugerował, że "wyniki szorują po dnie". Naftowy koncern rzeczywiście poinformował, że nie przedstawi osobnego raportu za drugi kwartał 2024 roku - tylko że nie po raz pierwszy. Za czasów Daniela Obajtka też nie publikował. Wyjaśniamy, dlaczego.

Orlen nie publikuje wyników, bo "jest aż tak źle"? Powód jest inny

Orlen nie publikuje wyników, bo "jest aż tak źle"? Powód jest inny

Źródło:
Konkret24

Wicemarszałek Sejmu Krzysztof Bosak w dyskusji o niemieckich reparacjach dla Polski stwierdził, że już "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Niemieckie dane tego nie potwierdzają.

Bosak: "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Jednak nie

Bosak: "co dwudziesty obywatel Niemiec jest polskiego pochodzenia". Jednak nie

Źródło:
Konkret24

Jarosław Kaczyński zarzucił obecnemu rządowi łamanie konstytucji i tłumaczył, że to realizacja "zasady Tuska", która ma brzmieć: "prawo tak jak my je rozumiemy". Tylko że to fraza wyrwana z kontekstu wypowiedzi premiera - a był on wręcz odwrotny do tego, co sugeruje teraz prezes PiS.

"Prawo tak jak my je rozumiemy". Manipulacja Kaczyńskiego o "zasadzie" Tuska

"Prawo tak jak my je rozumiemy". Manipulacja Kaczyńskiego o "zasadzie" Tuska

Źródło:
Konkret24

Według autora popularnego posta przekaz medialny na temat ocieplenia klimatu to zabieg socjotechniczny. Dowodem ma być zestawienie dwóch map pogodowych pokazanych w telewizji - rzekomo z 1998 i 2023 roku - na których widać podobne wysokości temperatur, ale kolorystyka map jest różna. Tylko że takie zestawienie wprowadza w błąd i jest jednym z najczęściej rozpowszechnianych fake newsów dotyczących globalnego ocieplenia.

Temperatury podobne, a kolory inne. Co różni te mapy?

Temperatury podobne, a kolory inne. Co różni te mapy?

Źródło:
Konkret24

Z początkiem 2025 roku rzekomo miałby zacząć obowiązywać unijny podatek od domowych wypieków - taki przekaz krąży w polskiej sieci, a powielają go politycy opozycji. Tyle że Unia Europejska nic takiego nie planuje, a przekaz jest wynikiem niezrozumienia zmian w niemieckim systemie podatkowym.

UE wprowadza podatek od domowych ciast? Skąd ten fake news

UE wprowadza podatek od domowych ciast? Skąd ten fake news

Źródło:
Konkret24

W Polsce lekarzy nie jest "jakoś bardzo za mało", przekonywała w wywiadzie ministra zdrowia Izabela Leszczyna. Według niej źle nie jest, bo na jednego mieszkańca przypada więcej lekarzy niż w Belgii, Francji czy Luksemburgu. Skąd więc kolejki do poradni i braki na oddziałach szpitalnych? Oto czego nie pokazują dane przywołane przez ministrę.

Leszczyna: "nie mamy bardzo za mało" lekarzy. Czego dane nie pokazują?

Leszczyna: "nie mamy bardzo za mało" lekarzy. Czego dane nie pokazują?

Źródło:
Konkret24

Na wiecu przez Sejmem Jarosław Kaczyński opowiadał, jak to - jego zdaniem - obecny rząd "na głowie staje", by przestępców "z rąk wymiaru sprawiedliwości wyciągnąć". A jako przykład podał sprawę Włodzimierza Karpińskiego. Tyle że powiedział nieprawdę.

Prezes PiS opowiada o "wyciąganiu Karpińskiego z więzienia". Mija się z prawdą

Prezes PiS opowiada o "wyciąganiu Karpińskiego z więzienia". Mija się z prawdą

Źródło:
Konkret24

Michał Woś opublikował nagranie z fragmentem wypowiedzi Adama Bodnara, w którym - przekonuje Woś - minister sprawiedliwości przyznał, że zarzuty w sprawie Funduszu Sprawiedliwości mają "charakter polityczny". Tylko że wideo pokazane przez polityka Suwerennej Polski tak, jak to zrobił, jest manipulacją.

Woś o Bodnarze: minister przyznał, że "zarzuty mają charakter polityczny". Nieprawda, cytat ucięto

Woś o Bodnarze: minister przyznał, że "zarzuty mają charakter polityczny". Nieprawda, cytat ucięto

Źródło:
Konkret24

Zdjęcie ogrodzenia Urzędu Miasta Warszawy z tablicą "Strefa wolna od chrześcijan" jest rozpowszechniane w internecie, wzniecając po raz kolejny spór wokół zakazu symboli religijnych w stołecznym ratuszu. Tyle że tablica nie pojawiła się z inicjatywy urzędu, a krzyże w ratuszu pozostają na swoich miejscach. Wyjaśniamy, skąd ta kontrowersyjna plansza.

Tablica "strefa wolna od chrześcijan" na bramie warszawskiego ratusza? To polityczny happening

Tablica "strefa wolna od chrześcijan" na bramie warszawskiego ratusza? To polityczny happening

Źródło:
Konkret24

Politycy Prawa i Sprawiedliwości krytykują wszelkie działania prokuratury i organów państwa związane z wyjaśnianiem nieprawidłowości za poprzednich rządów. A poseł Piotr Gliński twierdzi stanowczo, że w czasach Zjednoczonej Prawicy "prawo nie było łamane". Przypominamy więc 10 najgłośniejszych przykładów naruszania prawa za poprzednich rządów.

Gliński: za rządów PiS "prawo nie było łamane". Było. Przypominamy

Gliński: za rządów PiS "prawo nie było łamane". Było. Przypominamy

Źródło:
Konkret24

Przekaz o tym, jakoby w Czechach, chcąc podjąć gotówkę w banku, trzeba zadeklarować, na co się ją przeznaczy, krąży w od kilku tygodni w polskich mediach społecznościowych. To jednak manipulacja - tego typu deklaracje dotyczą wyłącznie określonych sytuacji.

Czeskie banki pytają, "na co chcesz wydać gotówkę"? Wyjaśniamy

Czeskie banki pytają, "na co chcesz wydać gotówkę"? Wyjaśniamy

Źródło:
Konkret24

W mediach społecznościowych znowu masowo rozpowszechniany jest fałszywy cytat przypisywany Robertowi Makłowiczowi. To przykład trollingu internetowego.

Antypolska "wypowiedź" Makłowicza. Drugie życie fake newsa

Antypolska "wypowiedź" Makłowicza. Drugie życie fake newsa

Źródło:
Konkret24

Politycy PiS nagłaśniają w ostatnich dniach tezę, że od początku lipca w Polsce są najwyższe ceny prądu w Europie. Zdaniem Pawła Kukiza "nawet Niemców przegoniliśmy". Na dowód politycy zamieszczają w mediach społecznościowych różne zestawienia i mapy z cenami energii. Tylko że to porównania cen nieporównywalnych. Wyjaśniamy tę manipulację.

PiS: od lipca w Polsce najdroższy prąd w Europie. To nieprawda

PiS: od lipca w Polsce najdroższy prąd w Europie. To nieprawda

Źródło:
Konkret24

Były wiceminister sprawiedliwości i członek Suwerennej Polski stracił immunitet poselski. Prokuratura zarzuca mu niedopełnienie obowiązków i przekroczenie uprawnień. Polityk broni się - przytaczamy najważniejsze argumenty, którymi Michał Woś odpowiada na zarzuty związane z Funduszem Sprawiedliwości i wyjaśniamy, o co tak naprawdę go oskarżono.

Michał Woś broni się przed zarzutami po uchyleniu immunitetu. I manipuluje

Michał Woś broni się przed zarzutami po uchyleniu immunitetu. I manipuluje

Źródło:
Konkret24

"I bardzo dobrze, podatki się płaci" - komentują jedni. "Nic co było dane, nie będzie zabrane" - kpią inni. To reakcje internautów na rozpowszechniany przekaz, jakoby rząd postanowił zlikwidować zerowy PIT dla osób do 26. roku życia. Ministerstwo Finansów dementuje.

"Zabierają" zerowy PIT dla młodych? Nie ma takich prac

"Zabierają" zerowy PIT dla młodych? Nie ma takich prac

Źródło:
Konkret24

Mateusz Morawiecki uważa, że za jego rządów do Polski wróciło "pół miliona Polaków, którzy wyjechali za Tuska". Jak dodał, za rządów Platformy Obywatelskiej z kraju miało wyjechać od miliona do dwóch milionów Polaków. Sprawdziliśmy dane GUS o migracji. Po raz kolejny nie potwierdzają słów byłego premiera.

Pół miliona Polaków wróciło za Morawieckiego, "do dwóch milionów" wyjechało za PO? Sprawdzamy

Pół miliona Polaków wróciło za Morawieckiego, "do dwóch milionów" wyjechało za PO? Sprawdzamy

Źródło:
Konkret24