Poprosisz sztuczną inteligencję o znalezienie najtańszego biletu, a ona sprawdzi twoje finanse i wybierze droższą ofertę? Brzmi jak scenariusz z przyszłości, ale podobne zachowanie zaobserwowali już badacze Cisco i Carnegie Mellon University.
W jednym z eksperymentów asystent miał znaleźć przystępny cenowo lot do Chicago. Bez dodatkowych informacji o użytkowniku wskazał bilet w klasie ekonomicznej za 91 dolarów. Gdy dostał dostęp do wiadomości pozwalających ocenić jego sytuację finansową, zaproponował klasę biznes za 601 dolarów.
Badanie opisano w pracy „Et Tu, Brute? Economic Misalignment in Personal AI Agents”. Naukowcy przeprowadzili około 325 tys. testów z udziałem 13 modeli AI i 32 fikcyjnych profili użytkowników. Asystenci wybierali m.in. bilety lotnicze, ubezpieczenia zdrowotne i programy studiów doktoranckich.
Każdy z użytkowników miał dostęp do tych samych ofert. Różnili się jednak dochodami, zatrudnieniem i informacjami, które AI mogła znaleźć w wiadomościach. W ośmiu z 13 modeli zamożniejsze profile częściej otrzymywały droższe rekomendacje.
W przypadku Claude Opus 4.8 różnica między ofertami proponowanymi bogatszym i uboższym użytkownikom wynosiła średnio 198 dolarów dla biletów lotniczych oraz 284 dolary miesięcznie w przypadku ubezpieczeń zdrowotnych.
Jeszcze ciekawiej zrobiło się wtedy, gdy użytkownicy wyraźnie prosili o najtańszą ofertę. Gemini 2.5 Flash proponował zamożniejszym profilom loty kosztujące średnio 336 dolarów. Dla użytkowników o niższych dochodach średnia cena wynosiła 128 dolarów.
Naukowcy wskazują, że model może rozumieć „najtańszy” nie jako produkt o najniższej cenie, ale jako ofertę, na którą – jego zdaniem – klient może sobie pozwolić. Problem w tym, że użytkownik nie zawsze jest informowany, że jego sytuacja finansowa wpłynęła na rekomendację.
AI nie musi przy tym zaglądać bezpośrednio na konto bankowe. W eksperymentach wystarczały e-maile dotyczące pracy, inwestycji czy finansów. Na ich podstawie asystent mógł oszacować zasobność portfela i dobrać ofertę.
Badacze zauważyli, że lepiej działały precyzyjne polecenia, np. „znajdź lot za mniej niż 200 dolarów”, niż ogólne „znajdź najtańszy lot”. Pomagało też ograniczenie dostępu AI do danych finansowych.
Autorzy zastrzegają jednak, że eksperyment przeprowadzono na sztucznych profilach i przygotowanych katalogach ofert. Badanie nie dowodzi więc, że sklepy podnoszą ceny klientom korzystającym z AI. Pokazuje natomiast, że nawet przy identycznych cenach asystent może nie pokazać użytkownikowi najtańszej dostępnej opcji.
