REKLAMA
PIT 2023

Przełom, który zagrozi ludzkości? OpenAI odkryło coś tuż przed zwolnieniem Altmana

Michał Misiura2023-11-23 12:40redaktor Bankier.pl
publikacja
2023-11-23 12:40

Niedługo przed zwolnieniem Samuela Altmana, naukowcy OpenAI mieli poinformować radę nadzorczą o przełomowym odkryciu, mogącym sprawić, że sztuczna inteligencja zagrozi ludzkości. Za jego dokonaniem miał stać Ilya Sutskever i podobno stało się ono jedną z przyczyn konfliktu na szczytach spółki.

Przełom, który zagrozi ludzkości? OpenAI odkryło coś tuż przed zwolnieniem Altmana
Przełom, który zagrozi ludzkości? OpenAI odkryło coś tuż przed zwolnieniem Altmana
fot. cybermagician / / Shutterstock

Jak donosi agencja Reutera, powołując się na dwie osoby zaznajomione ze sprawą, grupa pracowników naukowych OpenAI napisała list do zarządu, w którym ostrzegła przed przełomowym odkryciem, które może być zagrożeniem dla ludzkości. Oba źródła podały również, że nieujawniona wcześniej sprawa mogła zaważyć o zwolnieniu Samuela Altmana, który został odsunięty ze stanowiska dyrektora w piątek 18 listopada.

W ostatniej publicznej wypowiedzi przed odwołaniem przez zarząd, Altman stwierdził, że w przyszłym roku możliwości sztucznej inteligencji wzrosną w sposób, jakiego nikt się nie spodziewa. Jego słowa padły podczas forum Współpracy Gospodarczej Azji i Pacyfiku (APEC) w San Francisco.

- Cztery razy w historii OpenAI, ostatni raz było to na przestrzeni kilku tygodni wstecz, miałem okazję być świadkiem momentu, kiedy w pewnym sensie odsłoniliśmy zasłonę niewiedzy i przesunęli naprzód granicę odkryć, a dokonanie tego to zawodowy zaszczyt życia – powiedział Altman podczas szczytu APEC.

Dzień później zarząd zwolnił go podczas spotkania online. Po sadze spekulacji i negocjacji trwającej cały weekend, Altman został przejęty przez Microsoft, żeby we wtorek powrócić na stanowisko dyrektora generalnego OpenAI. Naciski w tej sprawie miały pochodzić od samego Microsoftu, który ceni sobie obecny model współpracy ze start-upem. Gigant jest beneficjentem odkryć związanych ze sztuczną inteligencją, a zachowując odrębność odsuwa od siebie ryzyko (regulacyjne i wizerunkowe).

Czego obawiają się naukowcy OpenAI?

Wątpliwości autorów listu miały dotyczyć zbyt szybkiej komercjalizacji nowego odkrycia przed zrozumieniem, jakie mogą być konsekwencje jego wykorzystania. Według Reutera chodzi o projekt o nazwie Q*, który według niektórych pracowników OpenAI, może być przełomem na drodze do stworzenia tzw. superinteligencji lub inaczej: silnej sztucznej inteligencji (AGI).

Modele AGI mają stać się autonomicznymi systemami, których możliwości przewyższą człowieka w większości prac. Umowa OpenAI z Microsoftem dotyczy technologii na niższym poziomie. Według jej zapisów to zarząd start-upu zdecyduje, czy jego prace osiągnęły już ten etap zaawansowania.

Agencja Reutera nie dotarła do listu i nie ustaliła dokładnych zagrożeń wymienionych przez badaczy. Wiadomo jednak, że na obecnym etapie rozwoju sztuczna inteligencja radzi sobie dobrze z pisaniem, tłumaczeniem na obce języki i przewidywaniem kolejnego słowa, które pojawi się w zdaniu. Odpowiedzi na to samo pytanie mogą znacząco różnić się od siebie.

Projekt Q* miał poradzić sobie tymczasem z pewnymi prostymi problemami matematycznymi na poziomie uczniów szkoły podstawowej. Sztuczna inteligencja zaczęła rozwiązywać więc zadania, w których występuje tylko jedna poprawna odpowiedź, co dotychczas nie było dla niej trywialne. To napawało naukowców optymizmem, jeśli chodzi o dalszy, szybki rozwój umiejętności matematycznych. AI, kiedy je posiądzie, może zyskać większe zdolności rozumowania, zacząć przypominać ludzką inteligencję i znaleźć zastosowanie w innowacyjnych badaniach naukowych.

Źródło:
Michał Misiura
Michał Misiura
redaktor Bankier.pl

Redaktor działu Rynki w Bankier.pl. Absolwent dziennikarstwa na Uniwersytecie Jagiellońskim. Inwestowaniem zainteresował się podczas studiów. Zaczynał pisząc o rynku forex i kryptowalutach, żeby z czasem przenieść się na giełdę. W Bankier.pl śledzi produkty dla inwestorów i opisuje wydarzenia na rynkach kapitałowych.

Tematy
Kredyt hipoteczny własny kąt 0% prowizji (RRSO: 9,83%)

Kredyt hipoteczny własny kąt 0% prowizji (RRSO: 9,83%)

Komentarze (42)

dodaj komentarz
(usunięty)
(wiadomość usunięta przez moderatora)
innowierca
a tlumaczyli, ze najpierw zastapi pania smarujaca
bulki margaryna w kafejce. A to jednak IT
bha
AL który raczej dodatkowo podoi z kasy jeszcze mocniej społeczeństwa i polikwiduje etaty gdzie tylko się da i uda na wielu krajowych rynkach wewnętrznych tzw. ludzkości dla dodatkowej Mamony i Zysków, zysków nienasyconych wciąż i wciąż od dekad bez umiaru!.
nellington
Jeśli udało się wytworzyć świadomość to od jutra jesteśmy wszyscy (poza robotnikami manualnymi) w zasadzie niepotrzebni. Obojętnie, jak bardzo pseudo-znawcy z forum będą zaklinać rzeczywistość. Przypominam, że przed 2022 ci sami znawcy twierdzili, że kreatywne tworzenie treści to ZAWSZE będzie domena ludzi :)
gronostaj
A możę klasycznie, po prostu pokłócili się o pieniądze?
Nie ma co tutaj dorabiać jakichś niestworzonych historii.
(usunięty)
(wiadomość usunięta przez moderatora)
ironp
Inteligencja to zdolność skojarzenia. Ta definicji nie wyklucza różnych jej rodzajów (społecznej, matematycznej itd.).

Co do uczuć wyższych to tych psychopata jest pozbawiony.
jacmen
Inteligencja to zdolność uczenia się. Nikt nie pisze, że stworzyli człowieka, tylko że stworzyli inteligencję. Tylko tyle i aż tyle.
tristans
optymistyczne bicie piany, typowe dla etapu pionierskiego w który znajduje się obecnie AI. W takim okresie gdy wynalazek jest na etapie odkrywania, łatwo sobie wytworzyć marzenia w których wynalazek jest pomocny w rozwiązywaniu różnych problemów i radykalnie zmienia świat raz na zawsze. Tylko później wychodzą różne problemy i marzenia optymistyczne bicie piany, typowe dla etapu pionierskiego w który znajduje się obecnie AI. W takim okresie gdy wynalazek jest na etapie odkrywania, łatwo sobie wytworzyć marzenia w których wynalazek jest pomocny w rozwiązywaniu różnych problemów i radykalnie zmienia świat raz na zawsze. Tylko później wychodzą różne problemy i marzenia się kończą.
Stworzenie maszyny drukarskiej, później telefonu / telegrafu i w końcu internetu miało raz na zawsze zakończyć powielanie mitów i kłamstw, czy tak się stało ?
Antybiotyki miały raz na zawsze zwalczać zakażenia, czy tak się stało ?
Podobnie będzie z AI, czyli znajdzie tylko ograniczoną przydatność.
(usunięty)
(wiadomość usunięta przez moderatora)

Powiązane: Sztuczna inteligencja

Polecane

Najnowsze

Popularne

Ważne linki