Coraz doskonalsze metody klonowania głosu, tworzenia deepfake’ów wideo oznaczają jedno – odróżnienie prawdy od oszustwa stanie się wyzwaniem. Chociaż w pierwszej kolejności zaawansowane technologicznie przestępstwa wykorzystano do podszywania się pod celebrytów, to następni w kolejności będziemy my, zwykli konsumenci.
Jeszcze kilka lat temu narzędzia generatywnej sztucznej inteligencji ledwo radziły sobie z tworzeniem niskiej jakości obrazów. Zabawne ilustracje z nieco rozmytym Józefem Piłsudskim robiącym zakupy w supermarkecie to już jednak przeszłość. Podróbki są dziś niemal nie do odróżnienia od oryginałów.
Na łamach Bankier.pl pisaliśmy w tym miesiącu o nielicznych sygnałach ostrzegawczych, które można zidentyfikować w wygenerowanych klipach wideo. Z biegiem czasu będziemy je spotykać coraz rzadziej, narzędzia AI zbliżają się do doskonałości. Ostrzegaliśmy także przed możliwościami klonowania ludzkiego głosu. Takie technologie już trafiły do arsenału przestępców rozwijających stare schematy takie jak vishing czy wyłudzenia „na wnuczka”.
Jest tylko kwestią czasu, kiedy dla oszustów opłacalne będzie tworzenie indywidualnie dopasowanych „przynęt” dla pojedynczych ofiar, niekoniecznie zamożnych i gwarantujących wysoki zwrot z wyłudzenia. Na celownik trafi także przeciętny konsument, z kilkoma tysiącami złotych na koncie. Gdy zadzwoni do nas bliski, opisze dramatyczne okoliczności i poprosi o szybką pożyczkę, nie będzie czasu na szczegółową analizę audio czy branie pod lupę pikseli w klipie wideo. Ważniejsza od zmysłu śledczego okaże się prewencja.
Rafał Oleński, dyrektor Biura Cyberbezpieczeństwa, Obszar Transformacji Cyfrowej i Informatyki ORLEN: O deepfake’ach trzeba porozmawiać przy rodzinnym stole
Tradycyjne przekonanie „przecież rozpoznam głos i twarz bliskiej osoby” przestaje być wystarczającym zabezpieczeniem. Warto przyjąć kilka prostych zasad, które, omówione wcześniej przy rodzinnym stole, pomogą zwiększyć bezpieczeństwo nasze i naszych bliskich wobec nowych zagrożeń w cyberprzestrzeni.
1. Rodzinne hasło bezpieczeństwa (Safe Word)
Ustal z bliskimi jedną krótką frazę znaną tylko Wam. Unikaj łatwych do odgadnięcia lub znalezienia w cyberprzestrzeni wyborów, np. imienia psa, daty urodzenia, ulubionej drużyny czy nazwy rodzinnej miejscowości. Jeśli ktoś dzwoni z informacją typu „miałem wypadek, potrzebuję pieniędzy”, poproś o podanie hasła. Jeżeli rozmówca nie potrafi odpowiedzieć, tłumacząc się np. stresem, należy natychmiast przerwać połączenie.
2. Zasada: rozłącz się i oddzwoń
Złoty standard weryfikacji nawet po podaniu hasła: oszuści wywierają ogromną presję czasu Na przykład: „Musisz wpłacić kaucję już teraz, bo zamkną mnie w areszcie.”. Niezależnie od tego, jak dramatyczna jest sytuacja, możesz powiedzieć: „Dobrze, daj mi chwilę. Odzwonię do Ciebie.”. Następnie należy wybrać numer danej osoby z własnej listy kontaktów – nie oddzwaniaj na numer, z którego przyszło połączenie.
3. Pytania weryfikacyjne (plan awaryjny – tylko w wyjątkowych okolicznościach)
Możecie ustalić 2-3 dodatkowe pytania dotyczące wspólnych doświadczeń, na które odpowiedzi nie są powszechnie dostępne w mediach społecznościowych. To będzie dodatkowa weryfikacja, a nie jedyne zabezpieczenie.
4. Ograniczenie „karmienia” sztucznej inteligencji
Ustaw bardziej restrykcyjne opcje prywatności swoich kont w mediach społecznościowych. Ogranicz dostęp dla „osób z zewnątrz”, obcych, spoza Twojego kręgu znajomych. Pamiętaj, że oszustom wystarczy zaledwie kilka sekund czystego nagrania głosu z filmiku, np. na TikToku, aby stworzyć jego przekonujący klon. Ograniczenie liczby publicznych nagrań audio i wideo zmniejsza ryzyko wykorzystania ich przez cyberprzestępców. Warto również pomóc bliskim, którzy nie czują się pewnie w ustawieniach prywatności i odpowiednio zabezpieczyć ich konta.
– Technologia AI będzie coraz lepsza. Dlatego nie skupiajmy się na rozpoznawaniu deepfake'ów. Znacznie skuteczniejsze jest ustalenie w rodzinie prostych zasad weryfikacji, które działają nawet wtedy, gdy podróbka wygląda perfekcyjnie – podkreśla ekspert.
Paulina Krakowska – ekspertka ds. cyberbezpieczeństwa w PKO Banku Polskim: Znany głos, znajoma twarz i… oszustwo. Zanim uwierzysz, zatrzymaj się, sprawdź, pomoże też rodzinne hasło bezpieczeństwa
Samo zetknięcie się z wygenerowanym przez AI nagraniem wideo lub audio nie oznacza jeszcze zagrożenia. Kluczowe jest to do czego deepfake służy. Mniejszy problem jeśli będą to treści rozrywkowe. Gorzej jeśli będzie to narzędzie cyberprzestępców, którzy chcą namówić do przekazania pieniędzy, danych albo dokonania fałszywej „atrakcyjnej” inwestycji.
Najbardziej widoczne i częste są obecnie właśnie fałszywe reklamy inwestycyjne, wykorzystujące deepfake. Przestępcy bezprawnie używają wizerunki i głosy znanych osób (celebrytów, przedsiębiorców, polityków), aby uwiarygodnić fikcyjną ofertę. Nagranie może przypominać fragment programu informacyjnego, wywiadu czy publikacji w mediach społecznościowych. Jego zadaniem jest wzbudzenie zaufania i zachęcenie odbiorcy do „zainwestowania” pieniędzy.
Narzędzia AI pozwalają teraz tworzyć bardzo realistyczne treści, dlatego nieaktualne są porady sugerujące, że deepfake zawsze można rozpoznać po błędach w mimice, ruchu ust czy brzmieniu głosu. Zamiast skupiać się na technicznych szczegółach, warto zwracać uwagę na źródło i kontekst publikacji. Jeśli widzimy nietypową wypowiedź znanej osoby, dobrze jest sprawdzić profil, który ją opublikował oraz czy tę samą informację można znaleźć w oficjalnych kanałach tej osoby.
Trzeba też krytycznie spojrzeć na treść przekazu. Obietnice szybkich i wysokich zysków, „niezwykłej okazji” czy „ostatniej chwili” na zainwestowanie przy jednoczesnym pomijaniu informacji o ryzyku powinny wzbudzić szczególną ostrożność.
Osobną kategorią są spersonalizowane oszustwa wykorzystujące klonowanie głosu i zmanipulowane nagrania wideo. Przestępcy mogą podszywać się pod członka rodziny i pod pretekstem nagłego wypadku czy problemów finansowych prosić o pilną pomoc. W takich sytuacjach nie należy automatycznie ufać rozmówcy tylko dlatego, że słyszymy znajomy głos – rozłączyć się i skontaktować się z tą bliską osobą.
Sprawdza się tu proste rozwiązanie - rodzinne hasło bezpieczeństwa, czyli wcześniej ustalone słowo lub krótki zwrot znany wyłącznie najbliższym. Taka forma potwierdzenia tożsamości może okazać się szczególnie cenna wtedy, gdy emocje utrudniają spokojną ocenę sytuacji.
O bezpieczeństwie nadal w dużej mierze decydują proste nawyki: krytyczne myślenie, odporność na socjotechniczne manipulacje i spokojna weryfikacja informacji. Jeśli pojawiają się wątpliwości, najlepiej zwolnić, skonsultować je z bliskimi i dopiero wtedy podjąć decyzję.
Bardzo ważne są też kampanie edukacyjne, właśnie takie jak „Scamming Out!” czy przeprowadzona przez PKO Bank Polski „Rekłamy – reklamy, które kłamią”, które pokazują mechanizmy manipulacji, używane przez cyberprzestępców i jak się przed nimi chronić. Im więcej takiej wiedzy dociera do odbiorców, tym większe szanse, że w krytycznym momencie obronią się przez oszustami.
