REKLAMA
OKI W BANKIER.PL

Wall Street i Krzemowa Dolina szykują się na najgorsze. "Kryzys wywołany przez AI jest nieunikniony"

2026-10-31 10:00
publikacja
2026-10-31 10:00
Dodaj Bankier.pl w Google

Największe banki USA pracują nad zapobieganiem dramatycznym incydentom, jakie mogą spowodować modele sztucznej inteligencji, ale przygotowują się również na „dzień po katastrofie”. Podobne kroki podjęły firmy AI, które oceniają, że poważne incydenty są nieuniknione - podaje portal Axios.   

Wall Street i Krzemowa Dolina szykują się na najgorsze. "Kryzys wywołany przez AI jest nieunikniony"
Wall Street i Krzemowa Dolina szykują się na najgorsze. "Kryzys wywołany przez AI jest nieunikniony"
fot. BLACKDAY / / Shutterstock

Najważniejsze amerykańskie instytucje finansowe dołączyły do spółek AI, które jako pierwsze zaczęły przygotowywać scenariusze na wypadek katastrofy. To rozsądny krok, ale zarazem bardzo niepokojący sygnał, świadczący o skali zagrożenia - komentuje portal.

Zbuntowani agenci AI przejmują kontrolę nad kontami

Banki zaobserwowały już podejrzaną aktywność agentów AI, choć na razie jest ona najczęściej wynikiem postępowania klientów, którzy udostępniają swe hasła albo dane do logowania asystentom lub agentom AI.

Co więcej, w pewnych przypadkach wygląda na to, że modele podejmują kroki bez stosownych poleceń ze strony użytkowników.

Szczególnie zaniepokojenie instytucji finansowych wywołują jednak nie agenty, a tzw. systemy sztucznej inteligencji na granicy możliwości (frontier AI systems), czyli najbardziej zaawansowane, ogólnozadaniowe modele i systemy AI. Związane z ich możliwościami obawy skłoniły banki do zainwestowania w mechanizmy obronne i tworzenia planów na wypadek katastrofy - wyjaśnia Axios.

Portal przypomina, że instytucje odpowiadające za tzw. infrastrukturę krytyczną, w tym banki, mają prawnie wiążący obowiązek podejmować takie kroki.

Jamie Dimon, bardzo poważany dyrektor wykonawczy banku JPMorgan ostrzegł, że klienci powinni przyjąć założenie, iż AI może nie działać na ich korzyść, ani w sposób właściwy. Podkreślił też, że incydentom z udziałem modeli sztucznej inteligencji można jedynie zapobiegać, a jeśli już do nich dojdzie, to „nie można ich zatrzymać” i tylko „zarządzać” klęską.

Rząd USA liczy na "dobrowolne" obietnice

Axios zwraca uwagę, że podczas gdy na „najgorsze możliwe scenariusze” przygotowują się Wall Street i Krzemowa Dolina, rząd federalny liczy na „dobrowolne obietnice w sferze bezpieczeństwa” ze strony przedsiębiorstw AI.

W czwartek portal napisał, że banki wykryły już niezweryfikowane agenty AI poruszające się po kontach klientów, przy czym część z nich zdawała się działać niezależnie od instrukcji swych użytkowników. 

Sytuacje komplikuje to, że instytucje finansowe mają trudności z rozróżnieniem między krokami podejmowanymi przez ludzi a działaniem botów, lub też nie mogą ustalić, czy model AI działa na zlecenie, czy też się zbuntował.

Zarządy banków oceniają, że „sytuacja jest przerażająca”.

Szantaż, manipulacja i atak na infrastrukturę krytyczną

Tymczasem Anthropic, OpenAI i inne firmy sektora AI również analizują scenariusze, w których dochodzi do bardzo poważnych incydentów spowodowanych przez AI, lub z udziałem modeli, takich jak atak na usługi finansowe, blokada internetu, czy wręcz sieci energetycznych lub wodociągowych.

Wiele firm i agencji rządowych przygotowuje się na różne awaryjne sytuacje, jednak różnica między nimi a sektorem sztucznej inteligencji polega na tym, że specjaliści od AI „są przekonani, że taki incydent na wielką skalę jest nieunikniony” - podkreśla portal. 

Pod koniec września Anthropic, który przygotowuje się do wejścia na giełdę, ostrzegł w prospekcie emisyjnym, iż AI może stanowić „egzystencjalne zagrożenie dla ludzkości”, a jej modele mogą "manifestować postawę samozachowawczą" połączoną z zabiegami mającymi "uniemożliwić ich wyłączenie", mogą też "manipulować" ludźmi, a nawet podejmować kroki "przypominające szantaż".

Axios napisał wówczas, że takie najnowsze ustalenia stawiają pod znakiem pytania zdolność OpenAI i Anthropica, czy też w ogóle firm tego typu, do "ustanowienia całkowitej kontroli nad ich własną technologią". (PAP)

fit/ mal/

Najlepsze produkty finansowe znajdziesz w naszej porównywarce - SPRAWDŹ
Źródło:PAP
Przeczytaj w Pulsie Biznesu
Eurocash chce posłać Frisco na giełdę. Ruszyły przygotowania
Tematy
Bezpłatne konto firmowe z kartą to nie chwyt marketingowy. Sprawdź, które rachunki dla biznesu są najtańsze
Bezpłatne konto firmowe z kartą to nie chwyt marketingowy. Sprawdź, które rachunki dla biznesu są najtańsze

Komentarze (5)

dodaj komentarz
sweetacid1313
Twórcy AI powinni płacić potencjalnym ofiarom jej działań za wszystkie szkody, które ten algorytm może wywołać a także za wdrażanie systemów obronnych chroniących przed jej (AI) szkodliwym działaniem. Sądzę, że ostudziłoby to w znacznym stopniu rozgrzany do białości rynek tego oprogramowania. Zastanówcie się, kto płaci za pogryzienie Twórcy AI powinni płacić potencjalnym ofiarom jej działań za wszystkie szkody, które ten algorytm może wywołać a także za wdrażanie systemów obronnych chroniących przed jej (AI) szkodliwym działaniem. Sądzę, że ostudziłoby to w znacznym stopniu rozgrzany do białości rynek tego oprogramowania. Zastanówcie się, kto płaci za pogryzienie postronnej osoby przez agresywnego psa, tak samo jak za odpowiednim jego ograniczeniu swobody (chodzi o ogrodzenie, smycz, kaganiec, matoły)
marianpazdzioch
Materializuje się to o czym mądrzy ludzi mówili już wiele lat temu, a co było najpierw fabułą sci-fi (zbuntowane roboty) a później już tylko szyderą, że ktoś się nie zna, że siedział w serwerowni, dudę widział. I że generalnie to tylko takie losowanie literek.
miketheripper
ponoć są te impulsy elektromagnetyczne co palą elektronikę, puszczasz taki i masz po robocie.
prs
Wypuszczono technologie bez zadnej gwarancji jej kontrolowania..
..z powodu braku odpowiedniego prawa - nie ma "osob odpowiedzialnych"..

..ktok w strone super-resetu?..
..przerozne panstwa, sluzby, grupy, ludzie "robia co chca", zrzucajac wszystko na AI..

..lol..

Powiązane: Sztuczna inteligencja

Ważne linki