Malezja jako drugie po Indonezji państwo świata zablokowała dostęp do chatbota Grok firmy xAI Elona Muska, z powodu tworzenia przez ten program pornograficznych deepfake’ów z wykorzystaniem wizerunków kobiet i dzieci - poinformował w poniedziałek portal BBC.
Malezyjski organ regulacyjny, Komisja Łączności i Multimediów, poinformował w niedzielę, że stwierdził „wielokrotne niewłaściwe wykorzystanie” Groka do generowania szkodliwych treści, w związku z czym na początku roku wysłała do xAI prośbę o interwencję.
Firma w swojej odpowiedzi X nie odniosła się jednak do wskazanego zagrożenia – uznała Komisja i poinformowała, że Grok będzie zablokowany w kraju do czasu wdrożenia skutecznych zabezpieczeń. Zaapelowała przy tym do internautów o zgłaszanie szkodliwych treści w internecie.
Indonezja jako pierwszy kraj świata zablokowała w sobotę dostęp do Groka. „Rząd postrzega praktykę (tworzenia) nielegalnych deepfake'ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej” – przekazała ministra komunikacji i cyfryzacji Meutya Hafid w komunikacie.
Deepfake to zdjęcie, materiał dźwiękowy lub wideo stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.
Indonezja słynie z surowego prawa dotyczącego cenzury w internecie; przepisy te bezwzględnie zakazują m.in. rozpowszechniania materiałów uznawanych za obsceniczne. Działania władz kraju wpisują się w szerszy trend, w ramach którego regulatorzy w krajach Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI.
Malezja i Indonezja liczą łącznie ponad 315 mln mieszkańców.
Użycie Groka do generowania obrazów o charakterze seksualnym spotkało się z potępieniem polityków na całym świecie, w tym premiera Wielkiej Brytanii Keira Starmera, który określił takie działania jako „haniebne” i „obrzydliwe”. Jak podała BBC, oczekuje się, że brytyjski regulator medialny Ofcom wkrótce podejmie decyzję co do dalszych kroków w sprawie Groka.
Musk powiedział wcześniej, że krytycy jego platformy szukają „jakiegokolwiek pretekstu do wprowadzania cenzury”.(PAP)
os/ akl/
