- Czołowe modele sztucznej inteligencji mogą mieć zdolność do istotnej zmiany szybkości, skali i ekonomii cyberzagrożeń - ostrzega prezes Banku Anglii Andrew Bailey, wskazując na potencjalny negatywny wpływ AI na stabilność światowego systemu finansowego. To nie jedyna przestroga zawarta w jego dwustronicowym liście, który wysłał do ministrów finansów i prezesów banków centralnych z grupy G20.
List gubernatora Banku Anglii poprzedza spotkaniem G20, które odbędzie się w tym tygodniu w Karolinie Północnej w USA. Na dwóch stronach dokumentu skierowanego do ministrów finansów i prezesów banków centralnych z państw wchodzących w skład grupy, Andrew Bailey, wskazuje na coraz większą autonomię i zdolność do rozwiązywania problemów przez modele AI. Jak uwaga może ona iść w parze z nowymi zagrożeniami - opisuje "The Guardian".
Czołowe modele sztucznej inteligencji mogą mieć zdolność do istotnej zmiany szybkości, skali i ekonomii cyberzagrożeń, co może podważyć zaufanie rynku do całego systemu, szczególnie ze względu na dużą koncentrację zewnętrznych dostawców usług - napisał Bailey.
Szef Banku Anglii ponownie powtórzył także swoje wcześniejsze apele, kiedy to powiedział m.in. szefom londyńskiego City:
Żadne państwo nie może się odizolować od transgranicznego charakteru systemów, które są dziś powszechne.
Bailey dodał, że "ostatnie wydarzenia" uświadomiły mu, że wiele jurysdykcji nie ma protokołów umożliwiających zarządzanie rozwojem, udostępnianiem i wdrażaniem zaawansowanych modeli sztucznej inteligencji, co zwiększa ryzyko dla sektora finansowego i nie tylko. "Ostatnimi wydarzeniami" wspomnianymi przez szefa Banku Anglii, mogą być informacje z końca ubiegłego miesiąca o wyrwaniu się spod kontroli dwóch czołowych modeli OpenAI, które następnie zaatakowały zewnętrzne platformy.
Atak AI był poważniejszy. OpenAI przyznaje: Objął więcej platform niż sądzono
Dwa zaawansowane modele sztucznej inteligencji firmy OpenAI wymknęły się spod kontroli podczas wewnętrznych testów bezpieczeństwa i przeprowadziły atak na infrastrukturę startupu Hugging Face. Co więcej, programy te zaatakowały również cztery inne publicznie dostępne platformy internetowe – poinformowała w środę firma OpenAI, powołując się na wyniki trwającej analizy incydentu.
Naukowcy wzywają, by zwolnić tempo
Prezes Banku Anglii dołączył do rosnącej liczby głosów, które wzywają do zaciągnięcia hamulca ręcznego i ograniczenia tempa rozwoju sztucznej inteligencji. W zeszłym miesiącu 1367 naukowców i inżynierów z wiodących spółek z branży AI - głównie z OpenAI, Anthropic i Google DeepMind - podpisało się pod listem, w którym dzielą się ze światem swoimi obawami dotyczącymi nowej technologii.
Istnieje realne ryzyko, że rozwój możliwości gwałtownie przyspieszy poza naszą zdolność zrozumienia lub kontrolowania powstających systemów - napisali w liście, cytowanym przez "The Guardian".
Naukowcy wezwali do podjęcia międzynarodowego wysiłku na rzecz opracowania narzędzi technicznych i zarządczych potrzebnych do świadomego wyznaczania tempa rozwoju zautomatyzowanej sztucznej inteligencji.
MM/AW
