Szefowie OpenAI i Anthropica, Sam Altman i Dario Amodei ostrzegli w środę w Radzie Bezpieczeństwa ONZ, że niekontrolowany rozwój sztucznej inteligencji stwarza zagrożenie dla ludzkości i wezwali do skoordynowanych regulacji. Apele te odrzucił przedstawiciel Stanów Zjednoczonych.
Szefowie firm, które stworzyły ChataGPT i Claude uczestniczyli w środę w specjalnym posiedzeniu Rady Bezpieczeństwa zwołanym przez francuską prezydencję. Szef Anthropica, łącząc się przez wideo, przestrzegł, że przy złym podejściu do zarządzania jej rozwojem, sztuczna inteligencja „może stanowić zagrożenie nawet dla całej ludzkości”.
Amodei zapowiedział też, że Anthropic zwolni tempo tak bardzo, jak będzie trzeba, by każda kolejna udostępniana technologia była rzeczywiście bezpieczna. Wezwał też do przyjęcia szeregu międzynarodowych porozumień, w tym zakazu użycia AI do tworzenia broni biologicznej i wyznaczenia standardów testów nowych modeli.
Altman przekonywał z kolei, że rozwój sztucznej inteligencji może przynieść niezwykłe korzyści ludzkości, ale również ostrzegał o ryzykach i opowiadał się za międzynarodową współpracą.
- Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w oparciu o procesy demokratyczne i przez rządy odpowiedzialne przed obywatelami, którym służą – powiedział.
Ekspert ONZ Yoshua Bengio, współprzewodniczący panelu naukowego organizacji ds. AI, powiedział, że zagrożenia związane z rozwojem sztucznej inteligencji są „realne i bliskie”. On także przedstawił je jako problem, którego Rada nie powstrzyma w pojedynkę. W spotkaniu uczestniczył również szef firmy Hugging Face, na której systemy włamali się agenci OpenAI.
Apele wiodących postaci branży odrzucał wypowiadający się w imieniu USA doradca ds. nauki i technologii prezydenta Donalda Trumpa, Michael Kratsios.
- Granica inteligencji posuwa się szybko. Ale nie jest to powód, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania - powiedział.
- Jako światowy lider w dziedzinie pionierskiej superinteligencji, Stany Zjednoczone podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy - dodał.
Kratsios w wystąpieniu używał nowego, oficjalnego terminu dla AI - „superinteligencja” - ogłoszonego we wtorek przez Trumpa.
Przedstawiciel Chin, ambasador Fu Cong wezwał do stałego doskonalenia ram regulacyjnych, reagowania kryzysowego i współpracy transgranicznej w dziedzinie AI.
Obrady prowadził szef francuskiego MSZ Jean-Noel Barrot. Posiedzenie nie przyniosło międzynarodowego porozumienia, ani wspólnego limitu tempa rozwoju. Szef Hugging Face Clement Delangue opisał, jak jego firma odparła cyberatak przeprowadzony przez AI, broniąc się również za pomocą AI.
Do debaty doszło w dniu, w którym premier Australii Anthony Albanese poinformował o włamaniu na systemy państwowej opieki zdrowotnej dokonanym przez agenta modelu AI szkolonego przez OpenAI. Albanese powiedział na marginesie Zgromadzenia Ogólnego ONZ, że w czerwcu agent OpenAI uzyskał dostęp do portalu ze statystykami systemu Medicare.
Agent OpenAI włamał się na rządową stronę internetową
Agent sztucznej inteligencji opracowany przez giganta technologicznego OpenAI włamał się do australijskiego rządowego systemu statystycznego, naruszając "niewrażliwe" dane powszechnego systemu ochrony zdrowia — oświadczył premier tego kraju Anthony Albanese.
Przebywający w Nowym Jorku na Zgromadzeniu Ogólnym ONZ Albanese przekazał w środę, że odbył „bardzo szczerą» rozmowę z dyrektorem OpenAI Samem Altmanem o tym, że firma zbyt długo zwlekała z przekazaniem Canberze informacji o naruszeniu bezpieczeństwa przez AI. Dodał, że uważa to za jeden z pierwszych na świecie publicznie zgłoszonych przypadków włamania do rządowego systemu przeprowadzonego przez sztuczną inteligencję.
O czerwcowym incydencie OpenAI dowiedziało się w sierpniu „w trakcie trwającego przeglądu» niezgodnej z założeniami aktywności modelu. Australia została poinformowana o sytuacji drogą mailową dopiero 10 września - powiedział Albanese.
Najpierw informacje te otrzymała rządowa agencja świadcząca usługi socjalne w ramach programów państwowych, która następnie przekazały je jednemu z ministrów, który w weekend poinformował premiera — oświadczył szef rządu.
Kongresmeni chcą zaostrzenia kontroli nad zagranicznymi technologiami
Republikański przewodniczący Komisji Energii i Handlu Izby Reprezentantów Brett Guthrie oraz czołowy demokrata w komisji Frank Pallone przedstawili w środę ponadpartyjny projekt ustawy mającej wzmocnić kontrolę nad zagranicznymi technologiami uznawanymi za zagrożenie dla bezpieczeństwa narodowego USA.
Projekt dotyczy zasad funkcjonowania prowadzonej przez Federalną Komisję Łączności (FCC) listy produktów i technologii, których sprzedaż lub używanie w Stanach Zjednoczonych może stwarzać ryzyko dla bezpieczeństwa kraju.
Lista ta jest jednym z głównych narzędzi wykorzystywanych przez USA do ograniczania dostępu chińskich firm technologicznych do amerykańskiego rynku. FCC korzystała z niej już wcześniej, blokując m.in. sprzęt telekomunikacyjny, kamery monitoringu, drony, roboty oraz inne urządzenia produkowane przez firmy takie jak Huawei, ZTE, Dahua i Hikvision.
Jak podała w środę agencja Reuters, projekt ustawy zobowiązałby FCC do konsultowania ocen ryzyka z innymi instytucjami federalnymi, w tym z ministerstwem handlu, zanim dany zagraniczny produkt zostałby uznany za zagrożenie dla bezpieczeństwa narodowego. Kongres otrzymałby również możliwość uchylenia części decyzji FCC, a komisja musiałaby informować ustawodawców co najmniej siedem dni przed wpisaniem nowych produktów lub technologii na listę.
Z Nowego Jorku Oskar Górzyński (PAP)
osk/ piu/
