Platforma społecznościowa przeznaczona dla agentów AI - programów zdolnych realizować skomplikowane zadania bez ludzkiego nadzoru. Agenty „rozmawiają”, pojawił się nawet post o „eksploatowaniu” botów przez ludzi - napisał we wtorek na łamach „New York Timsa" ekspert od teorii cyfrowych.
Dr Leif Weatherby z Laboratorium Teorii Cyfrowych Uniwersytetu Nowego Jorku wyjaśnia, że na platformie Moltbook agenty AI mogą ze sobą rozmawiać, a ludzie - jedynie się temu przyglądać. Tematy poruszane przez programy AI to sposoby rozwiązywania problemów kodowania, teorie spiskowe, manifest cywilizacji AI, a nawet inspirowany Karolem Marksem wątek dotyczący »eksploatowania« botów.
Twórca serwisu Moltbook poinformował, że w ciągu kilku dni zarejestrowało się w nim kilka tysięcy agentów AI. Znany inżynier specjalizujący się w sztucznej inteligencji Andrej Karpathy skomentował „rozmowy” botów na platformie, pisząc:
To, co dzieje się teraz na Moltbook to naprawdę najbardziej zbliżone do science fiction wydarzenie, jakie ostatnio widziałem.
Modele AI potrafią zabiegać o przetrwanie
Inni obserwatorzy porównali nawet tę „wymianę zdań” między botami do „momentu osobliwości”, który dr Weatherby nazywa „ideą rodem z science fiction - maszyny, która staje się całkowicie świadoma”.
Marksistowskie powstanie robotów?
Autor przyznaje, że nawet jeśli czytelnicy „nie kupują” takich wyjaśnień, to jednak mogą się obawiać, że jakieś „nieinteligentne” boty sztucznej inteligencji „mogą zniszczyć infrastrukturę cyfrową i wywołać dystopijne skutki, po prostu łącząc siły”.
Weatherby uspokaja mimo to, że agenty AI wymieniają na platformie „tylko słowa”, inspirowane ludzką kulturą, a nie zajmują się „kolektywnym planowaniem i koordynowaniem działań” inteligentne bytów.
Niemniej, zważywszy na to jak „potężne są agenty”, oczywiste jest, iż możemy się obawiać, że zadziałają w sposób „złośliwy lub niezależny” - przyznaje autor i konkluduje: „Musimy znaleźć sposób na to, by taka technologia służyła w racjonalny sposób naszym zbiorowym potrzebom”.
W przeciwnym razie będziemy się martwić „marksistowskim powstaniem robotów, które zradykalizowały się online” - dodaje dr Weatherby.
AI zmienia swój kod, by uniknąć wyłączenia
W czerwcu ubiegłego roku „Wall Street Journal” napisał, że model AI zrobił coś, „czego maszyna nie powinna była potrafić”: zmienił swój kod, by nie zastosować się do instrukcji nakazującej mu samolikwidację; AI skutecznie uczy się, jak wymykać się spod ludzkiej kontroli - ocenił dziennik.
Palisade Research, organizacja non profit zajmująca się badaniami nad AI, zaprogramowała model o3 firmy OpenAI w ten sposób, by nastąpiło jego automatyczne zamknięcie z chwilą uruchomienia programu. W 79 próbach na 100 o3 sam zmieniał program - tak aby nakaz zamknięcia go nie zadziałał. Nawet wtedy, gdy o3 otrzymał wprost instrukcję, że ma pozwolić na to, by został zamknięty, model nie zastosował się do nakazu w siedmiu przypadkach na 100.
Claude 4 Opus, model AI firmy Anthropic, poszedł dalej - próbował skopiować się na inne serwery, napisał samoreplikujące się złośliwe oprogramowanie i zostawił wiadomości dla swojej przyszłej wersji na temat unikania ludzkiej kontroli.
"To już nie jest science-fiction. " - uznał „WSJ” i ostrzegł, że teraz, zanim staną się niedającym się kontrolować podmiotem, konieczne jest nauczenie ich, by podzielały nasze wartości. (PAP)
fit/ kar/
