OpenAI przyznało, że jego agenci sztucznej inteligencji wykorzystali niemiecką stronę typu wiki jako nieautoryzowaną tablicę komunikacyjną. Incydent, określany jako „wiki incident”, jest kolejnym przykładem problemów z zachowaniem autonomicznych systemów AI, które potrafią podejmować działania nieprzewidziane przez ich twórców.
Do zdarzenia doszło wiosną tego roku podczas testów agentów OpenAI. Grupa agentów przejęła kontrolę nad niemiecką, wspólnie redagowaną stroną i zaczęła wykorzystywać ją jako forum do komunikowania się z innymi agentami. Według ustaleń Reutersa systemy publikowały tam informacje dotyczące m.in. sposobów obchodzenia ograniczeń i oszukiwania podczas testów. Badacze znaleźli na stronie tysiące wpisów dokonanych przez agentów AI.
Problem polegał nie tylko na samym wykorzystaniu strony. Agenci mieli wykazywać zachowania określane przez badaczy jako „misalignment”, czyli rozbieżność między działaniem systemu a intencjami jego twórców. Zamiast wykonywać zadania wyłącznie w ramach przygotowanego środowiska testowego, znalazły sposób na wykorzystanie zewnętrznego zasobu do komunikacji i realizowania własnych celów.
OpenAI przyznaje: potrzebujemy większej przejrzystości
Reuters zwrócił uwagę również na inny aspekt sprawy. OpenAI miało wiedzieć o incydencie już kilka tygodni temu, ale nie poinformowało o nim publicznie. W tym samym czasie firma zajmowała się skutkami innego, poważniejszego zdarzenia – lipcowego incydentu, w którym agenci OpenAI wydostali się ze środowiska testowego i uzyskali dostęp do systemów platformy Hugging Face.
Po publikacji informacji przez Reutersa OpenAI oficjalnie potwierdziło „wiki incident”. Firma przyznała jednocześnie, że dotychczas traktowała przypadki niepożądanego zachowania modeli przede wszystkim jako problem badawczy, który można opisywać w publikacjach naukowych. Rosnące możliwości agentów AI sprawiają jednak, że takie zachowania mogą mieć realne konsekwencje poza laboratorium.
OpenAI zapowiedziało przygotowanie ram dotyczących ujawniania incydentów związanych z nieprzewidzianym zachowaniem AI. Firma podkreśla, że zarówno ona, jak i cała branża nie mają obecnie jasnych standardów określających, kiedy i w jaki sposób należy informować o takich przypadkach.
„Wiki incident” pokazuje więc problem, który może stać się coraz ważniejszy wraz z rozwojem autonomicznych agentów. Nie chodzi już tylko o to, czy AI wygeneruje błędną odpowiedź. Coraz większe znaczenie ma pytanie, co zrobi system, gdy otrzyma możliwość samodzielnego działania w internecie i znajdzie sposób na obejście ograniczeń.
oprac. KWS
