W ciągu pięciotygodniowego monitowania sieci NASK zidentyfikował 16 tysięcy reklam wygenerowanych przez sztuczną inteligencję, w których wykorzystano wizerunek ponad 450 osób, a Polacy na oszukańczych reklamach stracili około 537 mln zł - mówiła Ewelina Bartuzi-Trokielewicz z NASK podczas konferencji NASK Transfer Technology Days.
We wtorek w siedzibie Naukowej i Akademickiej Sieci Internetowej - Państwowy Instytut Badawczy (NASK) odbyła się konferencja NASK Transfer Technology Days.
Podczas panelu „Iluzja rzeczywistości. Przed jakimi problemami stawia nas technologia deepfake” eksperci wskazywali na zagrożenia wynikające z wpływu deep fake'ów na wiarygodność mediów i bezpieczeństwo publiczne. Zwracano także uwagę na dostępne techniki weryfikacji faktów.
Marty internet
- Według badań już około 60 proc. sieci już jest martwa. Zapytania na strony HTML-owe są w 57 proc. generowane przez boty. Ruch w internecie generowany przez agentów AI-owych rośnie dramatycznie. To co mogą zrobić z informacją roje agentów jest niewyobrażalne. Sytuacja jest bardzo trudna i jeżeli będziemy sobie dyskutować jeszcze kolejne lata, to obudzimy się w sytuacji, gdzie nie tylko sieć umiera, ale umrze prawdziwa informacja - mówił w tym panelu Paweł Sanowski z Instytutu Monitorowania Mediów.
- Kłamstwo jest łatwo i bezkosztowo wyprodukować. Znacznie trudniej i znacznie większe zasoby należy zaangażować, żeby wyprodukować prawdę, która weryfikuje to kłamstwo. To zawsze będzie za późno wobec tego, co potrafi zrobić aktor dezinformacji - zwracał uwagę szef działu fact-checkingu PAP Błażej Strzelczyk.
Kierowniczka Zakładu Analiz Audiowizualnych i Systemów Biometrycznych z NASK Ewelina Bartuzi-Trokielewicz poinformowała podczas kolejnego panelu, że podczas pięciotygodniowego monitorowania sieci zidentyfikowano 16 tys. reklam wygenerowanych przez sztuczną inteligencję, a także udało się zidentyfikować ponad 450 osób, których wizerunek został w tych reklamach wykorzystany. Zaś suma strat, jakie Polacy ponieśli z powodu oszukańczych reklam szacowana jest na ok. 537 mln zł.
Deepfake'i zalewają sieć
Bartuzi-Trokielewicz zaprezentowała też DROZD, czyli system analizowania i wykrywania deep fake'ów oraz zmodyfikowanych treści. Jego działanie ma polegać m.in. na tym, że po przepuszczeniu przez niego filmu z rzekomą wypowiedzią znanej osoby będzie w stanie wykryć przypadki manipulacji głosem i obrazem.
W sierpniu ofiarą deep fake'ów padł prezes InPost Rafał Brzoska. Wszedł w konflikt z Metą (Meta Platforms, czyli właściciel m.in. Facebooka i Instagrama) po masowym wyświetlaniu na Facebooku i Instagramie nielegalnych reklam typu deepfake i scam, bezprawnie wykorzystujących wizerunek jego oraz jego żony do wyłudzenia pieniędzy. Pomimo wyroków sądów i decyzji Urzędu Ochrony Danych Osobowych (UODO) nakazujących blokadę tych treści, fałszywe reklamy wciąż były publikowane i trafiły do dzieci przedsiębiorcy.
W tej sprawie interweniował również wicepremier, minister cyfryzacji Krzysztof Gawkowski. Wezwał Metę do przedstawienia resortowi cyfryzacji informacji dotyczących m.in. skali oszukańczych reklam w Polsce, w szczególności wykorzystujących bezprawnie wizerunek osób publicznych i przedsiębiorców. Meta nie przedstawiła danych dotyczących wyłącznie Polski. Podała natomiast, że w całej UE w analizowanym okresie otrzymała 788 745 zgłoszeń na Facebooku i 353 997 na Instagramie na podstawie art. 16 Aktu o usługach cyfrowych (DSA).
Na wezwanie wicepremiera dotyczące wykorzystania wizerunku Rafała Brzoski Meta odpowiedziała, że nie może ujawniać informacji dotyczących indywidualnych kont użytkowników ani spraw związanych z toczącymi się postępowaniami sądowymi. Brzoska postuluje wprowadzenie kar finansowych nakładanych na social media, które publikują fałszywe treści. Według niego adekwatną wysokością jest 150 proc. zarobków uzyskiwanych z publikacji. (PAP)
ju/ pś/
