Po strzelaninie w Krakowie w sieci pojawiły się zdjęcia i kadry z nagrań „wyostrzone” przez AI, która zamiast odtwarzać szczegóły, może je wymyślać. NASK w analizie „Wyostrzone nie znaczy prawdziwe” ostrzegł przed tym zjawiskiem i wskazał cztery kroki pomagające rozpoznać takie przeróbki.
Jednym z przykładów są krążące w internecie zdjęcia koszulki sprawcy strzelaniny w Krakowie, na których po „wyostrzeniu” przez AI pojawiały się różne nadruki. Na jednej z przeróbek widniał duży biało-zielony wzór geometryczny, a na innej rozbudowany żółto-zielony nadruk. Poszczególne wersje różniły się również elementami otoczenia.
Jak wyjaśnił NASK, z materiałów o niskiej rozdzielczości, silnej kompresji czy rozmytych fragmentach nie da się odzyskać szczegółów, których nie zarejestrowano na oryginalnym obrazie.
Generatywne systemy AI mogą jedynie oszacować, jakie szczegóły mogły znajdować się w danym miejscu, uzupełniając obraz elementami wyglądającymi wiarygodnie, takimi jak litery, kontury, tekstury czy fragmenty tła – czytamy w analizie.
Milion wyświetleń fałszywki po tragedii w Krakowie. Eksperci ostrzegają przed pułapką
Instytut podkreślił, że w przypadku strzelaniny w Krakowie problem nie ogranicza się do kwestii estetycznych. Wygenerowany przez AI znak na ubraniu sprawcy czy nieistniejący w rzeczywistości emblemat mogą bowiem stać się podstawą kolejnych spekulacji.
NASK zwrócił również uwagę, że efekt wyostrzania zdjęć przez AI może zależeć od sugestii użytkownika. Jeśli osoba analizująca materiał jest przekonana, że widnieje na nim określony symbol lub napis, model może wygenerować szczegóły zgodne z jej oczekiwaniami, nawet jeśli nie ma ich na oryginalnym obrazie.
Na efekt wpływają także dane, na których trenowano dany model AI. Jako przykład NASK wskazał szeroki rzep na rękawie, pojawiający się na wielu przerobionych zdjęciach sprawcy strzelaniny. Choć element ten nie był widoczny w oryginale, model mógł go dodać, ponieważ podczas treningu analizował zdjęcia kurtek wojskowych, na których często występują podobne rzepy.
Podobne rozbieżności dotyczyły naszywek i symboli na mundurze sprawcy. Choć na oryginalnych zdjęciach widoczne były rozmazane emblematy, nie można było jednoznacznie ustalić, co przedstawiały. Jak zauważył NASK, jedna z grafik, na której AI „wyostrzyła” symbole na odzieży napastnika, uzyskała ponad milion wyświetleń w mediach społecznościowych. Wygenerowane naszywki nie odpowiadały jednak rzeczywistym, różniąc się m.in. kształtem. Za pomocą AI przerabiano również zdjęcia broni napastnika.
Przerabiane przez AI miały być także grafiki w całości wygenerowane przez sztuczną inteligencję. Chodzi m.in. o zamaskowanego mężczyznę z flagą Ukrainy na mundurze i godłem Polski w tle. Aktorzy dezinformacji wiązali nieprawdziwą grafikę ze sprawcą strzelaniny, fałszywie przypisując mu ukraińskie obywatelstwo. Mimo że pierwotna grafika była fałszywa, w sieci nadal pojawiały się jej przeróbki.
W analizie zwrócono również uwagę na odpowiedzi chatbotów na pytania dotyczące materiałów ze strzelaniny. Eksperci ustalili, że jeden z modeli błędnie uznał przerobiony kadr ze zdarzenia za scenę z amerykańskiego filmu.
NASK wskazuje cztery kroki, jak rozpoznać zdjęcia zmodyfikowane przez sztuczną inteligencję
NASK podkreślił, że nie każda przeróbka zdjęcia za pomocą AI powstaje w złej wierze. Część użytkowników może kierować się ciekawością lub chęcią lepszego zrozumienia tego, co przedstawia materiał. Jednocześnie niektóre osoby mogą celowo generować obrazy wspierające określoną narrację. W związku z tym instytut wskazał cztery kroki, które mogą pomóc w rozpoznawaniu grafik przerobionych przez AI.
Pierwszy to próba identyfikacji źródła materiału, poprzez szukanie najwcześniejszej dostępnej publikacji, która zawiera zdjęcie lub nagrania. Drugą kwestią jest porównanie dostępnych wersji materiałów. Chodzi o to, czy w kolejnych publikacjach pojawiają się nowe napisy, symbole, twarze, elementy tła lub zmiany oświetlenia. Szczególną ostrożność należy zachować w przypadku szczegółów, które w oryginalnym materiale były niewidoczne lub nieczytelne.
Kolejnymi krokami jest zdolność oddzielania interpretacji od obserwacji, a także niepowielanie publikacji zawierających już przerobione zdjęcia. „W sytuacjach kryzysowych ostrożność i rzetelna weryfikacja informacji są często ważniejsze niż szybkość ich publikowania” - podsumował NASK.
Do ataku doszło w sobotę na Rynku Głównym w Krakowie. 24-latek wjechał samochodem na płytę rynku, a następnie otworzył ogień z broni automatycznej do przypadkowych przechodniów. Zginęło sześć osób, a 15 zostało rannych, w tym dwóch policjantów. Siódmą ofiarą śmiertelną jest sprawca, który został postrzelony podczas wymiany ognia z funkcjonariuszami. W mieszkaniu rodziny napastnika w Ostrowcu Świętokrzyskim policjanci znaleźli ciała trzech osób – rodziców i siostry zamachowca. (PAP)
wm/ bst/
