Chatbot Grok poinformował, że ogranicza możliwość edytowania obrazów na platformie X i będzie ona dostępna tylko dla płatnych użytkowników tego serwisu. Wykorzystujący AI chatbot był w ostatnim czasie krytykowany za umożliwianie tworzenia realistycznych, spreparowanych grafik o charakterze seksualnym.
Grok został stworzony przez firmę xAI należącą do miliardera Elona Muska. Chatbot umożliwił użytkownikom należącego również do Muska serwisu X generowanie lub edytowanie zdjęć.
W ostatnich dniach program na polecenie użytkowników tworzył obrazy skąpo ubranych lub nagich osób, zarówno publicznych, jak i prywatnych. Część grafik przedstawiała dzieci.
Luki w zabezpieczeniach
Osoby, których wizerunki znalazły się na takich materiałach nie wyrażały na to zgody. Media informowały o setkach poszkodowanych kobiet i nastolatek.
Grok ogłosił, że przyczyną nieprawidłowości były luki w zabezpieczeniach. W piątek użytkownicy X zaczęli otrzymywać komunikaty, że funkcja generowania zdjęć przez Groka wymaga wykupienia abonamentu w X.
Jednak osoby, które nie posiadają takiej subskrypcji, nadal mogą wykorzystywać Groka do edycji lub generowania zdjęć w oddzielnej aplikacji lub na stronie.
Wykorzystanie Groka do generowania treści o seksualnym charakterze, brak odpowiednich zabezpieczeń i adekwatnej reakcji ze strony xAI spotkały się z oburzeniem i reakcją władz m.in. Wielkiej Brytanii, Francji, Indii czy Unii Europejskiej.
Dostęp za paywallem
Grok nie podjął wystarczających działań, by uniemożliwić to „tsunami nadużyć”, zamiast tego zablokował dostęp do Groka dla zdecydowanej większości użytkowników - skomentowała w piątek w serwisie BBC prof. Clare McGlynn, ekspertka w dziedzinie regulacji prawnych dotyczących pornografii, przemocy seksualnej i nadużyć w internecie.
Hannah Swirsky z Internet Watch Foundation, podkreśliła, że obecne działania xAI „nie naprawią wyrządzonych już szkód”.(PAP)
ek/ adj/
