Aktorka jest zszokowana, rozgniewana i nie dowierza, że to się stało. ChatGPT po aktualizacji przemówił jej głosem (co prawda z nutką syntetyczności), ale jednak nie sposób nie rozpoznać charakterystycznego tembru Scarlett Johansson.
W zeszłym tygodniu OpenAI zaktualizował m.in. głos asystenta ChatGPT 4.0 i nazwał go Sky. Okazał się on niezwykle podobny do tego, którego używała Scarlett Johansson grająca właśnie głosem asystentkę Samanthę w filmie "Ona" z 2013 roku. Partneruje jej w tym filmie Joaquinowi Phoenixowi. Jego akcja rozgrywa się w bliskiej przyszłości, a główny bohater - tak w skrócie - zakochuje się w systemie operacyjnym.
Jej czy nie jej?
Całej sprawie pikanterii dodaje fakt, że wcześniej dyrektor generalny Sam Altman chciał ją zatrudnić jako "nauczycielkę wokalną dla AI" we wrześniu 2023 roku, jednak aktorka odmówiła z powodów osobistych. Jak się okazało, dwa dni przed wypuszczeniem aktualizacji ponownie się skontaktował z agentem gwiazdy i zachęcał do podjęcia oferty. System wtedy był już gotowy, więc raczej spodziewali się tych porównań. Scarlett Johansson nie zdążyła odpowiedzieć, kiedy wypuszczono już film pokazowy [zamieszczony poniżej].
Z drugiej jednak strony Sam Altman na X (dawniej Twitter) opublikował krótki, zapowiadający premierę aktualizacji wpis: "her" [czyli "Ona"].
Aktorka zatrudniła prawników. OpenAI niechętnie usunęło głos Sky po otrzymaniu dwóch ponagleń.
We’ve heard questions about how we chose the voices in ChatGPT, especially Sky. We are working to pause the use of Sky while we address them.
— OpenAI (@OpenAI) May 20, 2024
Read more about how we chose these voices: https://t.co/R8wwZjU36L
W oświadczeniu Scarlett Johansson napisała: "w czasach gdy wszyscy zmagamy się z deepfake'ami i ochroną naszego własnego podobieństwa, naszej pracy i naszej tożsamości. [...] Nie mogę się doczekać przepisów, które pomogą zapewnić ochronę praw jednostki" - cytuje CNN.
OpenAI odpiera ataki
W dwóch wydanych oświadczeniach Sam Altman podkreśla, że firma użyła do stworzenia Sky głosu innej zawodowej aktorki, która "posługuje się własnym, naturalnie mówiącym głosem".
"Głos Sky nie należy do Scarlett Johansson i nigdy nie miał przypominać jej głosu" - dodaje.
OpenAI podkreśla, że przy każdym głosie swoich asystentów chce stworzyć "przystępny i budzący zaufanie" tembr. Scarlett Johansson nie jest jedyną, która krytykuje głos Sky. Zdaniem innych przypomina "marzenie napalonego programisty" czy "małego podnieconego robota".
Znacznie poważniejsze oskarżenia wysunął wobec firmy odchodzący z niej Jan Leike, który kierował zespołem zajmującym się długoterminowym bezpieczeństwem. Razem ze współzałożycielem Ilyą Sutskeverem opuścił firmę.
Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.
— Jan Leike (@janleike) May 17, 2024
Jak przyznaje w kolejnych wpisach, odejście z pracy było jedną z najtrudniejszych rzeczy [...], gdyż dziś musimy pilnie wymyślić, jak sterować i kontrolować sztuczną inteligencją, która jest znacznie mądrzejsza od nas". Kiedy dołączył do zespołu OpenAI, uważał, że jest to najlepsze miejsce na świecie do przeprowadzania badań, ale teraz, jak się okazało, dotarł do swojego punktu krytycznego, po tym jak od wielu miesięcy priorytety kierownictwa firmy i jego się rozjeżdżały. Jego zdaniem firma powinna więcej funduszy przeznaczać na monitorowanie, bezpieczeństwo i wpływ społeczny, a nie jak dotychczas - na zwiększanie mocy (i jak to określa: tworzenie błyszczących produktów). To też wskazuje jako zagrożenie, jasno podkreślając: "Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne. Open AI bierze na siebie ogromną odpowiedzialność w imieniu całej ludzkości".
Na odpowiedź Altmana nie trzeba było długo czekać. Zaznaczył, że jego przedmówca ma racje, "że mamy dużo do zrobienia. Jesteśmy zobowiązani to zrobić". Prezes OpenAI Greg Brockman dodał, że "w miarę jak sztuczna inteligencja staje się inteligentniejsza i bardziej zintegrowana z życiem ludzi, firma koncentruje się na stworzeniu ścisłego obrotu informacji zwrotnych, rygorystycznych testów i uważnego ważenia każdego kroku".
Prawa autorskie, czyli jakie?
Afera wybuchła pół roku po tym, jak aktorzy zgodzili się zakończyć strajki, które zamroziły przemysł filmowy na kilkanaście tygodni. Scarlett Johansson popierała akcję protestacyjną. Jednym z powodów było właśnie wykorzystanie ich wizerunków przez AI i późniejsze wkomponowanie ich w produkcje. Umowa zawierała zapewnienia, że nie będą one wykorzystywane bez zgody aktorów.
Ustalenia Gildii Aktorów i Stowarzyszenia Producentów odnośnie do AI:
Jak zdradził Crabtree-Ireland w rozmowie z "Deadline", aktorzy otrzymali ochronę odnośnie do:
- wykorzystywania replik cyfrowych i udzielenia zgody do ich stworzenia (tu doskonale wpisuje się ostatni z odcinków "Black Mirror" z Salmą Hayek pt. "Joan is Awful");
- wynagrodzenie za występy "oryginalnego" aktora i jego repliki cyfrowej (w umowie z producentami określono minimalny poziom stawki. Oczywiście można spróbować wynegocjować wyższą);
- zakaz tworzenia "podróbek" aktorów. Jeśli obraz z AI będzie zawierał choć jeden rozpoznawalny dla aktora element, to będzie podpadał pod właśnie ów przepis, a co za tym idzie, artysta otrzyma prawo do odszkodowania;
- koniec aktorów-zombie. Do tej pory studia mogły za pomocą sztucznej inteligencji "przerabiać" zmarłych aktorów, a więc np. wsadzać Johna Wayne'a ponownie na konia. Teraz będą musiały uzyskać zgodę spadkobierców lub przedstawicieli majątku zmarłego w związku z wykorzystaniem jego wizerunku do celów reklamowych. Wyjątek będzie stanowiła sytuacja, w której aktor jeszcze za życia wyrazi zgodę;
- by nadążyć za rozwijającą się branżą AI, studia i gildia będą spotykać się co pół roku, by omówić nowo pojawiające się kwestie.
- Używanie czyjegoś głosu bez pozwolenia wydaje się szczególnie inwazyjne w czasach, gdy szerzy się brak zaufania do sztucznej inteligencji i obawy związane z jej potencjalnymi szkodami - zaznacza w BBC News Dan Stein, szef firmy Voice-Swap zajmującej się licencjonowaniem głosu AI. - Bez względu na to czy OpenAi trenowało swój nowy głos Sky, korzystając z tego należącego do Scarlett Johanson, czy podobnego, to faktem pozostaje, że nie tylko nie pozwoliła ona, ale jasno odmówiła jego użycia. Jeśli najbardziej znana firma w branży zachowuje się w ten sposób, tworzy to niebezpieczny precedens - dodaje.
Scarlett Johansson w swojej walce przeciwko AI nie jest odosobniona. "New York Times" zapowiedział pozew dotyczący wykorzystania miliona ich opublikowanych artykułów do szkolenia sztucznej inteligencji. Podobny plan mają George RR Martin (autor uniwersum "Gry o tron", a dokładniej "Pieśni Lodu i Ognia") i pisarz thrillerów John Grisham.
Tutaj można wysłuchać głosu ChatGPT:
Tu z kolei słychać Scarlett Johanson partnerującą Joaquinowi Phoenixowi w filmie "Ona":
***
Popkultura i pieniądze w Bankier.pl, czyli seria o finansach "ostatnich stron gazet". Fakty i plotki pod polewą z tajemnic Poliszynela. Zaglądamy do portfeli sławnych i bogatych, za kulisy głośnych tytułów, pod opakowania najgorętszych produktów. Jakie kwoty stoją za hitami HBO i Netfliksa? Jak Windsorowie monetyzują brytyjskość? Ile kosztuje nocleg w najbardziej nawiedzonym zamku? Czy warto inwestować w Lego? By odpowiedzieć na te i inne pytania, nie zawahamy się zajrzeć nawet na Reddita.
