Chatbot Grok, stworzony przez firmę xAI należącą do miliardera Elona Muska, ponownie stał się obiektem kontrowersji. Tym razem ich powodem są generowane przez niego treści natury seksualnej, dotyczące także nieletnich. Działania w tej sprawie podjęły w piątek władze Francji i Indii.
Kilka dni temu na platformie X, także należącej do Muska, zaczęły pojawiać się wygenerowane przez Groka zdjęcia, które przedstawiają skąpo ubrane lub całkiem rozebrane osoby, zarówno publiczne, jak i prywatne. Część z tych zdjęć przedstawia dzieci. Osoby na zdjęciach nie wyrażały na to zgody, a często nawet nie miały świadomości tego, że ich wizerunki zostały w ten sposób przerobione.
Okazało się, że Grok na polecenie użytkowników był w stanie przerabiać zdjęcia ze zwykłych na rozebrane bądź w trakcie czynności seksualnych. Trend wydawana takich poleceń i wrzucania ich efektów na X nasilił się zwłaszcza w noc sylwestrową. Jak informują media, przez ostatnie dwa dni setki kobiet i nastolatek zgłosiły to, że znalazły swoje wygenerowane w ten sposób zdjęcia.
W piątek, gdy sprawa zaczęła być szerzej opisywana w mediach, Grok wydał komunikat wyjaśniający, że to luki w zabezpieczeniach spowodowały, iż na X pojawiały się takie zdjęcia. „Istnieją pojedyncze przypadki, w których użytkownicy poprosili o obrazy generowane przez sztuczną inteligencję przedstawiające nieletnie w skąpym ubraniu i otrzymali je. xAI posiada zabezpieczenia, ale trwają prace nad ulepszeniami, które całkowicie zablokują takie prośby” – oświadczył Grok.
Działania w tej sprawie podjęły już władze Francji oraz Indii. Minister gospodarki Francji Roland Lescure, ministra ds. cyfryzacji i sztucznej inteligencji Anne Le Henanff i ministra ds. równości Aurore Berge poinformowali w piątek, że powiadomili prokuraturę o treściach, które są niezgodne z prawem i zażądali ich niezwłocznego usunięcia. W sprawie wizerunków zawiadomiony został również francuski państwowy regulator mediów i internetu - urząd Arcom.
Z kolei indyjskie ministerstwo technologii elektronicznych i informacyjnych wezwało X do podjęcie działań naprawczych w Groku, w tym ograniczenie generowania treści zawierających „nagość, seksualizację, treści o charakterze jednoznacznie seksualnym lub w inny sposób niezgodne z prawem” i dało 72 godziny na przedłożenie raportu z podjętych działań.
Grok od momentu jego udostępnienia jest przedmiotem kontrowersji, które są związane z m.in. z udostępnianiem wulgarnych treści, obrażaniem znanych osób i słabą ochroną prywatności.
Gawkowski: AI szaleje; wzywam prezydenta do podpisanie ustawy ws. usuwania nielegalnych treści w sieci
Nie ma zgody na tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę; Grok testuje, jakie granice może przekroczyć - oświadczył wicepremier i minister cyfryzacji Krzysztof Gawkowski. Zaapelował do prezydenta o „jak najszybsze” podpisanie ustawy ws. usuwania nielegalnych treści w sieci.
Chatbot Grok, stworzony przez firmę xAI należącą do miliardera Elona Muska od kilku dni umożliwia generowanie treści natury seksualnej, dotyczące także nieletnich.
„Nie ma zgody na bezkarne łamanie prawa i tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę. Powiedzmy to jasno, to że system obraża, promuje treści seksualne i narusza godność to wina zarządzania oraz braku zasad etycznych platformy. (...) Wzywam Prezydenta Nawrockiego do jak najszybszego podpisania ustawy o usługach cyfrowych, a dzięki temu usuwanie nielegalnych treści będzie łatwiejsze” - napisał Gawkowski w piątek wieczorem na portalu X.
Wicepremier wskazał, że niekontrolowana sztuczna inteligencja „szaleje i wyrządza coraz większe szkody”, a Grok znów, z inspiracji Elona Muska (do którego X należy) „testuje, jakie granice może przekroczyć”.
Gawkowski zaznaczył we wpisie, że rozwiązania legislacyjne pozwalające walczyć z takim treściami w internecie są gotowe i leżą obecnie na biurku Prezydenta RP, czekając na podpis.
W Polsce przepisy pozwalające na usuwanie nielegalnych treści w internecie dotyczących 27 czynów zabronionych znalazły się w nowelizacji ustawy o świadczeniu usług drogą elektroniczną, którą 21 listopada 2025 r. uchwalił Sejm. W grudniu została uzupełniona o poprawki Senatu, do większości których Sejm się przychylił.
Nowelizacja ma zapewnić skuteczne stosowanie w Polsce przepisów unijnego Aktu o usługach cyfrowych (DSA), dotyczącego m.in. blokowania nielegalnych treści w internecie. Nowe przepisy zakładają, że nadzór nad stosowaniem przepisów DSA w Polsce sprawować będzie prezes Urzędu Komunikacji Elektronicznej (UKE) - w większości przypadków, Krajowa Rada Radiofonii i Telewizji (KRRiT) - w zakresie platform wideo, a także prezes Urzędu Ochrony Konkurencji i Konsumentów (UOKiK) – w zakresie platform handlowych oraz innych spraw dotyczących ochrony konsumentów.
Ustawa przewiduje, że urzędnicy będą mogli wydawać decyzje o blokowaniu treści dotyczących 27 czynów zabronionych, głównie Kodeksem karnym, zawierających m.in.: groźby karalne, namowę do popełnienia samobójstwa, pochwalanie zachowań o charakterze pedofilskim, propagowanie ideologii totalitarnych, a także nawoływanie do nienawiści i znieważanie na tle różnic narodowościowych, etnicznych, rasowych, wyznaniowych - w tym treści zawierające mowę nienawiści, rozpowszechniane w mediach społecznościowych. W ustawie wymieniono też treści naruszające prawa autorskie czy odnoszące się do nielegalnej sprzedaży towarów lub nielegalnego świadczenia usług.
Nowe przepisy (art. 1 pkt 6) uprawniałyby osoby fizyczne, a także m.in. prokuraturę, policję, Krajową Administrację Skarbową, straż graniczną (w sprawach dot. handlu ludźmi) do złożenia wniosku o wydanie nakazu zablokowania nielegalnej treści. Zgodnie z ustawą autor spornej treści otrzymywałby od usługodawcy internetowego zawiadomienie o rozpoczęciu procedury i miał dwa dni na przedstawienie swojego stanowiska. Od decyzji UKE lub KRRiT autor treści mógłby wnieść sprzeciw do sądu powszechnego w ciągi 14 dni.
Prezydent Karol Nawrocki ocenił pod koniec listopada, że ustawa ws. blokowania nielegalnych treści w internecie jest „nadregulacją” unijnych przepisów i dąży do zabierania Polakom możliwości dzielenia się w sieci swoimi opiniami. Politycy opozycji regularnie podnoszą też argument, że - w ich ocenie - ustawa ma wprowadzić cenzurę.
Akt o usługach cyfrowych (DSA) jest pierwszą na świecie regulacją cyfrową (rozporządzeniem), która nakłada na firmy w całej UE odpowiedzialność za treści zamieszczane na ich platformach. W całości obowiązuje w krajach członkowskich od 17 lutego 2024 r. Artykuły 9. i 10. DSA wskazują, że państwowe organy sądowe i administracyjne mogą nakazywać dostawcom blokowanie treści w internecie. (PAP)
bpk/ drag/ js/
bjn/ awl/ kar/
