Pentagon jest bliski zerwania współpracy z firmą Anthropic, twórcą modelu AI Claude, i wpisania jej na „czarną listę” z powodu chęci ograniczenia przez nią wojskowego zastosowania technologii - poinformował w poniedziałek portal Axios. Claude miał zostać użyty podczas operacji schwytania Nicolasa Maduro.
Portal pisze, powołując się na urzędnika Pentagonu, że resort obrony grozi Anthropic nadaniem statusu „zagrożenia dla łańcuchów dostaw”(supply chain risk), co zmusiłoby wszystkich kontrahentów Pentagonu do odcięcia się od produktów tej firmy. Jak odnotowuje Axios, taki status jest zwykle zarezerwowany dla zagranicznych przeciwników USA, takich jak chińskie firmy technologiczne.
Rzecznik Pentagonu Sean Parnell potwierdził, że relacje resortu z Anthropic są „poddawane rewizji".
Nasz kraj wymaga, by partnerzy byli gotowi pomóc naszym żołnierzom wygrać każdą walkę - oznajmił.
Rola AI w operacji przeciwko Maduro
Źródłem sporu są trwające negocjacje dotyczące warunków wykorzystania modelu Claude przez armię. Według portalu, Claude jest obecnie jedynym modelem sztucznej inteligencji dostępnym w niejawnych systemach informatycznych amerykańskiego wojska i według doniesień został wykorzystany podczas operacji przeciwko wenezuelskiemu prezydentowi Nicolásowi Maduro w styczniu br.
Informator Axiosa przyznał, że zerwanie z firmą będzie bardzo skomplikowane, a firma oferuje najlepsze usługi w branży, lecz zaznaczył, ze resort chce, by „zapłaciła cenę za wymuszanie” ograniczeń.
Gdzie leży granica inwigilacji?
Szef firmy Dario Amodei wyrażał gotowość do złagodzenia obecnych warunków użytkowania, ale domaga się gwarancji, że jego narzędzia nie będą stosowane do masowej inwigilacji Amerykanów, ani do tworzenia w pełni autonomicznych systemów uzbrojenia działających bez udziału człowieka.
Pentagon uważa te ograniczenia za niemożliwe do zaakceptowania i nalega, by AI mógł być wykorzystywany do „wszystkich celów zgodnych z prawem".
Rzecznik Anthropic powiedział Axiosowi, że firma prowadzi „produktywne rozmowy w dobrej wierze" z ministerstwem. Inny przedstawiciel firmy zwrócił uwagę, że obowiązujące prawo dotyczące masowej inwigilacji nie bierze pod uwagę możliwości AI.
W niedawnym wywiadzie dla „New York Timesa” Amodei zwrócił uwagę, że użycie AI do inwigilacji mogłoby w radykalny sposób naruszać prywatność ludzi i wezwał do stworzenia prawa lub nawet zmiany konstytucji, by uwzględnić te ryzyka.
Negocjacje z gigantami Doliny Krzemowej
Według Axiosa spór z Anthropic wyznacza ton dla negocjacji Pentagonu z trzema innymi wielkimi laboratoriami AI — OpenAI, Google i xAI — które zgodziły się usunąć zabezpieczenia w niejawnych systemach wojskowych, ale nie działają jeszcze w systemach niejawnych.
Z Waszyngtonu Oskar Górzyński (PAP)
osk/ mal/
