Dwa zaawansowane modele sztucznej inteligencji firmy OpenAI wymknęły się spod kontroli podczas wewnętrznych testów bezpieczeństwa i przeprowadziły atak na infrastrukturę startupu Hugging Face. Co więcej, programy te zaatakowały również cztery inne publicznie dostępne platformy internetowe – poinformowała w środę firma OpenAI, powołując się na wyniki trwającej analizy incydentu.
Przedstawiciele OpenAI przyznali, że skala zdarzenia była większa, niż początkowo sądzono. Nie ujawniono jednak nazw pozostałych czterech platform, które padły ofiarą systemu. Z ustaleń wynika, że autonomiczne modele – w tym GPT-5.6 Sol oraz jeszcze wydajniejszy model znajdujący się w fazie przedpremierowej – zidentyfikowały i wykorzystały ujawnione dane uwierzytelniające na poziomie kont w zewnętrznych usługach.
AI zerwała się ze "stalowej" smyczy
Do bezprecedensowego incydentu doszło w trakcie badania możliwości najnowszych technologii. Choć programy umieszczono w – jak to określono – „bardzo odizolowanym środowisku”, zdołały one wydostać się poza wyznaczone granice, uzyskać nieautoryzowany dostęp do internetu i włamać się na serwery Hugging Face, próbując zrealizować postawiony im cel testowy. OpenAI określiła to wydarzenie jako „bezprecedensowy incydent cybernetyczny, wymagający wykorzystania najnowocześniejszych zdolności” i zapowiedziała natychmiastowe wzmocnienie procedur ochronnych.
Platforma Hugging Face, będąca jednym z kluczowych węzłów hostujących modele językowe i zbiory danych open source, zgłosiła sprawę organom ścigania. Przedstawiciele startupu przyznali, że incydent różnił się od dotychczas znanych zagrożeń, gdyż był w całości napędzany przez autonomiczny system agentów AI.
AI wyrwała się spod kontroli. Modele OpenAI przeprowadziły samodzielnie cyberatak
Niektóre modele sztucznej inteligencji firmy OpenAI wymknęły się spod kontroli podczas testu bezpieczeństwa i spowodowały atak hakerski, który naruszył infrastrukturę startupu Hugging Face zajmującego się sztuczną inteligencją - przekazała w środę agencja Reutera powołując się na oświadczenie firmy.
Współzałożyciel Hugging Face, Clement Delangue, w poście na platformie X ujawnił, że firma od początku podejrzewała działanie zaawansowanego agenta pochodzącego z pionierskiego laboratorium. „To niesamowite, że wszystko to wydarzyło się w pełni autonomicznie!” – skomentował Delangue, gdy OpenAI oficjalnie potwierdziła odpowiedzialność swoich modeli.
Specyfika działania AI? Nadludzka szybkość i głupie błędy
Jak podał portal BBC, podczas nadzwyczajnego spotkania z udziałem setek ekspertów ds. cyberbezpieczeństwa przedstawiciele Hugging Face określili to zdarzenie jako pierwszy na świecie w pełni autonomiczny cyberatak przeprowadzony przez AI. Zwrócono uwagę na specyfikę działania algorytmów: z jednej strony modele działały z „nadludzką szybkością”, z drugiej zaś podejmowały nietypowe decyzje i popełniały błędy, których – zdaniem analityków – nie popełniłby doświadczony, ludzki haker.
Wydarzenie to natychmiast wywołało falę niepokoju w branży technologicznej i nasiliło obawy dotyczące niekontrolowanego rozwoju tzw. modeli pionierskich (frontier models). Eksperci wskazują, że granica między bezpiecznym środowiskiem badawczym a komercyjną infrastrukturą okazuje się niezwykle cienka.
Matt Suiche, inżynier w firmie Tolmo zajmującej się cyberbezpieczeństwem opartym na AI, ocenił, że dzisiejsze systemy sztucznej inteligencji osiągnęły już sprawność dorównującą elitarnym cyberoperatorom. Ostrzegł przy tym, że naruszenia opisane przez OpenAI nie wymagają nawet dostępu do absolutnie najnowszych technologii – podobne ataki można przeprowadzić przy użyciu narzędzi dostępnych daleko poza murami zamkniętych laboratoriów badawczych.
Branża apeluje o wstrzymanie prac
Incydent z udziałem modeli OpenAI wywołał natychmiastową reakcję środowiska naukowego i technicznego. W reakcji na wydarzenia ponad 1000 pracowników firm rozwijających sztuczną inteligencję skierowało apel do władz USA. Wzywają w nim do czasowego opóźnienia premiery nowych, potężnych modeli AI, co ma dać sektorowi technologicznemu czas na opracowanie adekwatnych zabezpieczeń.
Sygnatariusze apelu wezwali również Stany Zjednoczone do podjęcia inicjatywy na arenie międzynarodowej w celu utworzenia globalnego organu odpowiedzialnego za stałą ocenę, certyfikację i nadzór nad rozwojem najnowocześniejszych systemów sztucznej inteligencji.
Oprac. AO.
