Geniusz boi się inwazji terminatorów

2014-05-05 14:10

publikacja
2014-05-05 14:10

Profesor Stephen Hawking ostrzega, że praca nad sztuczną inteligencją może być ostatnim największym osiągnięciem ludzkości, które paradoksalnie doprowadzi do zagłady całej planety.

Warner Bros/Courtesy Everett Collection/EASTNEWS

Światowej sławy fizyk profesor Stephen Hawking przewiduje scenariusz rodem z serii filmów "Terminator". Dla przypomnienia - w świecie science fiction naukowcy stworzyli sztuczną inteligencję, która początkowo miała zadania obronne, lecz po osiągnięciu niezależności rozpoczęła wojnę przeciwko ludziom.

Reklama

Ubezpieczenie dla posiadaczy pozwolenia na broń palną - taniej z kodem BANKIER >>

Hawking docenia osiągnięcia naukowców na polu tworzenia sztucznej inteligencji, wskazując na przykład samochód Google, który nie potrzebuje kierowcy lub automatycznego asystenta Siri. Fizyk widzi w sztucznej inteligencji wrota do nowych możliwości dla ludzkości – ponieważ to właśnie inteligencja jest motorem rozwoju naszej cywilizacji.

Równocześnie trwają pracę nad robotami, które mają zastąpić ludzi na polu walki. Maszyny wyposażone w sztuczną inteligencję miałyby pozwolić na ograniczenie ofiar po stronie ludzi. Hawking ostrzega jednak, że nie trudno wyobrazić sobie scenariusz, w którym sztuczna inteligencja opracowałaby broń lepszą, niż potrafią to zrobić ludzie, a następnie wyprowadziła w pole rządzących w celu przejęcia władzy.

Zatem kluczem jest kontrolowanie rozwoju sztucznej inteligencji i uniemożliwienie jej osiągnięcia samodzielności. Hawking ostrzega, że jeżeli ryzyko nie będzie pod kontrolą, to scenariusz z filmów o terminatorach, które niszczą ludzkość, może stać się ponurą rzeczywistością.

/sn

Źródło:

Komentarze (31)

dodaj komentarz

~thor2014-05-06 07:56

0 0

Pojawiają się tu głosy uspokajające - inteligencja to nie tylko elektrony, ale też dusza itp. Otóż nawet gdyby "dusza" istniała, na co nie ma dowodów, ani nawet teoretycznych podstaw fizycznych, to ta "dusza" miałaby wpływ na inteligencję.

Inteligencją zbiorową mają mrówki i termity i istnieją już robociki,Pojawiają się tu głosy uspokajające - inteligencja to nie tylko elektrony, ale też dusza itp. Otóż nawet gdyby "dusza" istniała, na co nie ma dowodów, ani nawet teoretycznych podstaw fizycznych, to ta "dusza" miałaby wpływ na inteligencję.

Inteligencją zbiorową mają mrówki i termity i istnieją już robociki, które potrafią odtworzyć w gruopie niektóre zachowania tych owadów. Inteligentne są delfiny, orki, wieloryby, szympansy i kruki. Morskie ssaki mają uczucia, pieśni, przekazują sobie doświadczenia, szympansy posługują się narzędziami przez siebie wykonanymi, kruki i niektóre inne ptaki też nieźle kombinuja.

Pytanie brzmi, na ile te zwierzęta mają samoświadomość, właściwą ludziom (niektózy nazywają to "duszą"). Śmiem twierdzić, że wieloryby, orki i delfiny mają taką samoświadomiość (czyli "dzuszę), lecz środowisko wodne nie sprzyja przetwarzaniu otoczenia, jak na lądzie. Ale ich mózgi są wystarczająco duże i złożone, potwierdza tę tezę również ich zachowanie.

Trwają obecnie badania nad mapą mózgu, co do neuronu. Już za 10 lat procesory laptopa będą miały moc obliczeniową mózgu. Jeśli ktoś przeniesie sieć neuronową jako software - lub gorzej jako hardware - do maszyny, to może powstać wystarczająca inteligencja do uczenia się i w konsekwencji do uzyskania samoświadomości.

Jeśli stworzymu sztuczną inteligencję, zdolną do samoświadomości to jak się zachowa? Jak Golem 16. Stanisława Lema? Czyli filozof? Czy zacznie ewoluować jak w Niezwyciężonym Lema?

Obawiam się, że sztuczna inteligencja potraktuje nas, jak my mrówki, dlatego trzeba będzie zawsze pamiętać o wyłączniku zasilania. Są jednak teorie, że sztuczna inteligencja poczeka z działaniem, do mementu gdy zabezpieczy sobie pewne zasilanie.

~thor2014-05-06 08:03

0 0

"To ta dusza nie miałaby wpływu na iteligencję" - tak chciałem napisać w drugim zdaniu txt powyżej. Dlaczego napisałem inaczej ;)

~praktyk IT odpowiada ~thor2014-05-06 08:54

0 0

istnienie duszy jest udowodnione, chociażby doświadczeniami NDE (near death experience).
Koniec kropka :).

Tak jak powiedziałem, bez tego, a zatem również emocji, samoświadomości, ego, nieważne ile MIPSów i MFLOPS'ow będzie pod maską, to wciąż będzie tylko zaprogramowany złom. To co piszą tu zwolennicy "hołkinga",istnienie duszy jest udowodnione, chociażby doświadczeniami NDE (near death experience).
Koniec kropka :).

Tak jak powiedziałem, bez tego, a zatem również emocji, samoświadomości, ego, nieważne ile MIPSów i MFLOPS'ow będzie pod maską, to wciąż będzie tylko zaprogramowany złom. To co piszą tu zwolennicy "hołkinga", to tak jakby SZI miała wg nich cokolwiek wspólnego z ludzką inteligencją - totalna bzdura.

~szefuf odpowiada ~praktyk IT2014-05-06 08:59

0 0

Inteligencja nie jest potrzebna, żeby zrozumieć, że rasa ludzka nic nie wnosi. Gdyby wnosiła to tylu wielkich filozofów nie myślałoby nad sensem życia i religie nie byłyby tak popularne, bo ludzie mieliby jasno zdefiniowany cel.

Co chcę powiedzieć, to gdybym był maszyną bojową zaprogramowaną by niszczyć zagrożenia dla planety,Inteligencja nie jest potrzebna, żeby zrozumieć, że rasa ludzka nic nie wnosi. Gdyby wnosiła to tylu wielkich filozofów nie myślałoby nad sensem życia i religie nie byłyby tak popularne, bo ludzie mieliby jasno zdefiniowany cel.

Co chcę powiedzieć, to gdybym był maszyną bojową zaprogramowaną by niszczyć zagrożenia dla planety, to najpierw zlikwidowałbym ludzi.

~dex odpowiada ~praktyk IT2014-05-06 09:15

0 0

Inteligencja to potencjał rozumu, umiejętność zdobywania i analizowania
informacji oraz wyciągania wniosków na ich podstawie oraz posiadanej
do tej pory wiedzy.

Mądrość to umiejętne połączenie posiadanej wiedzy z inteligencją,
pozwalająca prawidłowo poruszać się w świecie, rozumieć jego zjawiska
lub co Inteligencja to potencjał rozumu, umiejętność zdobywania i analizowania
informacji oraz wyciągania wniosków na ich podstawie oraz posiadanej
do tej pory wiedzy.

Mądrość to umiejętne połączenie posiadanej wiedzy z inteligencją,
pozwalająca prawidłowo poruszać się w świecie, rozumieć jego zjawiska
lub co najmniej ich przebieg.

czy sztuczna inteligencja kieruje sie sucha analiza i wyciaganiem wnioskow czy samym rozumem? mysle ze tylko stworzenia posiadajace dusze moga miec swiadomosc i rozum - madrosc przychodzi wraz z doswiadczeniem i nie jest zagniezdzona w duszy. po smierci byt astralny jest tylko swiadomoscia, a wiec nie da sie zbudowac maszyny ze swiadomoscia gdyz nie da sie duszy wszczepic w plytki krzemowe ;)

~dex odpowiada ~dex2014-05-06 09:21

0 0

stworca w procesie stworzenia daleko wybiegl w przyszlosc aby zabezpieczyc czlowieka (nawiazujac do poprzedniego mojego postu) przed stworzeniem przez niego inteligencji rownoleglej ktora mogla by unicestwic ludzkosc - nie przewidzial jednak ze po drodze czlowiek wynajdzie proch i rozszczepi atom..

~szefuf odpowiada ~dex2014-05-06 09:51

0 0

Jak wchodzisz na religię to zabijasz jakąkolwiek logiczną rozmowę.
Skup się na tym co jest pewniakiem - jest wielu ludzi którzy pracują nad AI od wielu lat mając - mniej lub bardziej - pozytywne wyniki. Mamy zaimplementowane sieci neuronowe i logikę rozproszoną. Wielu ludzi chciałoby stworzyć oprogramowanie, które samo tworzyłoby Jak wchodzisz na religię to zabijasz jakąkolwiek logiczną rozmowę.
Skup się na tym co jest pewniakiem - jest wielu ludzi którzy pracują nad AI od wielu lat mając - mniej lub bardziej - pozytywne wyniki. Mamy zaimplementowane sieci neuronowe i logikę rozproszoną. Wielu ludzi chciałoby stworzyć oprogramowanie, które samo tworzyłoby oprogramowanie, ale na razie kończy się to na generatorach kodu. Jeśli jednak to powstanie to będzie się trzeba zacząć bać.

~MacGawer odpowiada ~szefuf2014-05-06 10:16

0 0

Spoko, świat został wewnętrznie zabezpieczony przed takim obrotemj sprawy. Owo zebezpieczenie zwie się związkiem przyczynowo-skutkowym. Jeżeli przyjmiemy, że nie ma żadnej duszy, a prawa fizyki bezwzględnie obowiązują, to sztuczna inteligencja na poziomie ludzkim:

a) Nigdy nie powstanie gdyż twór o niższym stopniu organizacji Spoko, świat został wewnętrznie zabezpieczony przed takim obrotemj sprawy. Owo zebezpieczenie zwie się związkiem przyczynowo-skutkowym. Jeżeli przyjmiemy, że nie ma żadnej duszy, a prawa fizyki bezwzględnie obowiązują, to sztuczna inteligencja na poziomie ludzkim:

a) Nigdy nie powstanie gdyż twór o niższym stopniu organizacji nie może "świadomie" powołać do życia takiego o wyższym stopniu (= zmniejszyć entropię "informacyjną" zamkniętego ukladu).
b) Jeżeli powstanie inteligencja oparta na krzemie to nie będzie zasługą czlowieka lecz w/w związku przyczynowo-skutkowego. Na tej samej zasadzie ZAWSZE po wlaniu kwasu do zasady powstanie sól, a nasze komputery realizują dokładnie ten sam algorytm bez względu na napięcie w gniazdku. Jeżeli go nie realizują poprawnie to TEŻ jest konsekwencją w/w związku. Konkretna akcja ZAWSZE wywoła konkretną reakcję. Jeżeli nie ma duszy, a w zamian mamy tylko prawa fizyki ludzie stworzyli komputery nie dlatego, że coś "wymyślili" ale dlatego, że w chwili gdy małpa podniosła (bo musiała!) zaostrzony patyk i upolowała nim gazelę postawiła pierwszy krok. Reszta była zwykłą konsekwencją poprzednich kroków zgodną z zależnością przyczynowo-skutkową.

Inaczej mówiąc w świecie stricte materialnym mamy taki sam wpływ na wywołanie zagorżenia ze strony sztucznej inteligencji jak na asteroide która zniszczy ludzkość. I jedno i drugie może się po prostu pojawić i po ptokach.

~religia odpowiada ~szefuf2014-05-06 11:22

0 0

ślepa uliczka - istnienia duszy nie trzeba (choć to logiczne) łączyć koniecznie z religią.
Patrz choćby doświadczenia bliskie śmierci - NDE. To nie zamyka logicznej dyskusji ale ja otwiera :). Jak "niemożliwe" (np. postrzeganie pozazmysłowe) jest możliwe? Algorytmy kiepsko się tu nadają, a wiem co mówię jako zawodowiec ;)

~szefuf odpowiada ~religia2014-05-06 11:31

0 0

jak przeczytasz wpis który skomentowałem to będziesz wiedział dlaczego piszę o religii. Jak czytasz wybiórczo to ciężko z Tobą dyskutować.
Co do algorytmów to też mam spore doświadczenie. Choć raczej symulowałem proste zwierzęta, człowiek jest zbyt złożony.

Geniusz boi się inwazji terminatorów

Zobacz także

Komentarze (31)

Polecane

Najnowsze

Popularne

Ważne linki