Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) o spowolnienie rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi.
„Dario ma rację” – napisał Musk w serwisie X, a Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.
Twórca AI sam prosi o hamulec bezpieczeństwa
Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, zapewnienie dłuższego czasu na „zarządzanie związanym z tym ryzykiem”.
Amodei zapowiedział też, że Anthropic zatrudni na stałe zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Zbuntowane boty i głośne odejścia ekspertów. Mroczna strona wyścigu w Dolinie Krzemowej
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań dotyczących rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
Krytyka z Chin odnośnie rozwoju sztucznej inteligencji
Chińskie MSZ skrytykowało w poniedziałek apele zachodnich liderów technologicznych o spowolnienie rozwoju sztucznej inteligencji (AI). Według resortu dyplomacji to „sianie strachu”, a narracja o zagrożeniu ze strony Pekinu to „złośliwa konkurencja”, która zakłóca globalne procesy zarządzania tą branżą.
– Rozwój sztucznej inteligencji dotyczy wspólnego dobra całej ludzkości. Wszystkie strony powinny wspólnie promować AI w sposób otwarty, inkluzywny i służący dobru wspólnemu – oświadczył podczas regularnego briefingu rzecznik chińskiego MSZ Guo Jiakun.
– Rozpowszechnianie narracji o zagrożeniach, sianie strachu, dążenie do konfrontacji i złośliwa konkurencja nie leżą w interesie żadnej ze stron – podsumował.
(PAP)
