06.05.14, 11:27fot. Flickr

Hawking ostrzega ludzkość przed sztuczną inteligencją

Współczesność chce za wszelką cenę stworzyć tzw. Inteligentne maszyny. Mają one pomóc ludzkości w codziennych sprawach. Wielu z wielkim entuzjazmem wyczekuje chwili, gdy pojawi się pierwsza na świecie w pełni inteligentna maszyna. Ale jest wielu takich, którzy krytycznie i z pesymizmem patrzą na rozwój sztucznej inteligencji.

Na łamach „The Independent” Hawking wraz z innymi wybitnymi naukowcami pisze:

„Spoglądając w przyszłość, nie dostrzegam fundamentalnych ograniczeń tego, co moglibyśmy osiągnąć. Nie ma prawa fizyki ograniczającego zorganizowanie cząstek w sposób, który umożliwiłby wykonywanie obliczeń o wiele bardziej skomplikowanych od tych, które wykonuje ludzki mózg. Wybuchowe przejście jest możliwe, choć ta zmiana może rozegrać się tak jak w filmie. Choćby tak, jak przedstawił to Irving Good w 1965 - maszyny z superludzką inteligencją mogące wciąż ulepszać swoje projekty”.

Hawking zadaje pytanie: Czy sztuczna inteligencja da się kontrolować? „ Można sobie wyobrazić technologię, która przechytrzyłaby rynki finansowe, przerosłaby możliwościami ludzkich wynalazców, wywiodłaby w pole światowych przywódców i stworzyłaby broń, której nie będziemy nawet w stanie zrozumieć. Podczas gdy krótkoterminowy rozwój sztucznej inteligencji zależy od tego, kto ją kontroluje, na dłuższą metę chodzi o to, czy sztuczną inteligencję w ogóle da się kontrolować. Zatem w obliczu ewentualnych, acz nieprzewidywalnych możliwości i zagrożeń eksperci robią, co mogą, by osiągnąć najlepsze rezultaty, prawda? Błąd. Jeśli przeważająca nad nami obca cywilizacja prześle nam wiadomość: "Przybędziemy za kilka dekad", odpowiemy: "Dobrze, dajcie znać, kiedy dotrzecie, zostawimy wam otwarte drzwi"? Prawdopodobnie nie, ale w mniejszym lub większym stopniu właśnie tak postępujemy ze sztuczną inteligencją”.

Na razie nie widać na horyzoncie żadnej sztucznej inteligencji. Czytając książki i wypowiedzi wybitnych naukowców na temat zagrożeń płynących z rozwoju tej dziedziny, może to i lepiej. 

Philo/nauka.wp.pl

Komentarze

anonim2014.05.6 11:55
"Nie ma prawa fizyki ograniczającego zorganizowanie cząstek w sposób, który umożliwiłby wykonywanie obliczeń o wiele bardziej skomplikowanych od tych, które wykonuje ludzki mózg." Jeśli chodzi o obliczenia matematyczne, to zwykły kalkulator wykonuje je o rzędy wielkości sprawniej niż człowiek. Pierwszy lepszy ściągnięty z internetu program szachowy jest w stanie pokonać każdego podwórkowego mistrza szachowego, i nawet się przy tym nie spoci. Zupełnie inną sprawą jest obdarzenie maszyny świadomością i samoświadomością. To, naturalnie, będzie możliwe. Ludzki mózg, będący źródłem tych zjawisk, jest zbudowany ze skończonej liczby komórek nerwowych, pomiędzy którymi istnieje skończona (choć niewiarygodnie olbrzymia) liczba połączeń. A jeśli coś jest możliwe, to z całą pewnością ktoś prędzej czy później to zrobi. Z drugiej strony, może to jest normalna kolej rzeczy? Człowiek ze swoją inteligencją opanował Ziemię, wypierając pozostałe gatunki. Może sam zostanie wyparty przez maszyny inteligentniejsze od niego?
anonim2014.05.6 12:30
Na takie kretyńskie dywagacje mogą sobie pozwolić tylko ateiści. Komu innemu może wylęgnąć się w mózgu myśl, że materia nieożywiona może mieć świadomość?
anonim2014.05.6 12:52
@CzęstochowskiPoeta AI nie istnieje. Postacie w grach komputerowych opierają się na algorytmach, mają z góry zaplanowane działanie w zależności od sytuacji i nie mogą ich modyfikować. Bliżej AI są algorytmy samouczące się. Te aktualizują swój kod na podstawie dostarczanych informacji, przez co może się ciągle poprawiać, lecz wciąż nie jest to równe AI. Brakuje w dwóch przypadkach umiejętności abstrakcyjnego myślenia i dedukcji. Nie ma komputera, który może wyjść poza zakres swoich danych Np. nie ma maszyny, która mogłaby stworzyć nową hipotezę, albo postawić wnioski do problemu. Ale nie martw się, naukowcy badają możliwość stworzenia zaprogramowanej pełnej losowości, co znacznie ma przybliżyć do stworzenia AI @Credo Ludzie mieli podobne podejście do wszelkiej maści maszyn i broni masowego rażenia. Potem na nieszczęście ludzkości okazało się, że się mylili
anonim2014.05.6 12:55
grzecholu, "Zupełnie inną sprawą jest obdarzenie maszyny świadomością i samoświadomością. To, naturalnie, będzie możliwe." widzę, że Ty już rozumiesz czym jest samoświadomość i zapewne potrafisz podać przykład maszyn obdarzonych świadomością, skoro to "naturalnie możliwe". A co powiesz na pomysł, aby w ogóle nie zajmować się pisaniem programów i systemów AI czy AC, skoro nasza świadomość i inteligencja sama się wyewoluowała. Budujmy coraz szybsze i pojemniejsze komputery, a sztuczna inteligencja i świadomość sama się pojawi, bo to w końcu ewolucyjny pewnik.
anonim2014.05.6 13:03
Polecam dyskusję pod artykułem: http://www.chip.pl/news/wydarzenia/trendy/2014/05/stephen-hawking-ostrzega-przed-sztuczna-inteligencja
anonim2014.05.6 13:15
Alucard: Współczesne gry już modyfikują algorytmy działania, ucząc się zarówno na swoich porażkach, jak i zwycięstwach. Co do AI to moją ulubioną jest Jane z Endera. Pozdrawiam
anonim2014.05.6 13:20
Drowsky, widzę, że jesteś bystry, więc pewnie zauważyłeś ironię w moim tekście. :)
anonim2014.05.6 13:21
grzechol: co do obliczeń, to nie jest taka prosta sprawa. Komputery wyprzedzają człowieka, tam, gdzie problem da się zalgorytmizować i sprowadzić do obliczeń szeregowych. Jest całą gama problemów które się temu nie poddają i tu człowiek jest o rzędy wielkości lepszy. Sztuczne sieci neuronowe, to jedynie biedna namiastka działania rzeczywistych sieci neuronowych, a i tak zadziwiająco dobrze radzą sobie z rozwiązywaniem niektórych problemów.
anonim2014.05.6 13:37
AirWolf, dużo gorsze w wypadku takich jak Ty szczeniaków jest to, że nawet im nie zaświta w głowie myśl, że tak głupie i naiwne kłamstwa totalnie kompromitują.
anonim2014.05.6 13:37
Credo: a co to jest materia ożywiona? Czym się różni od nieożywionej? Czy prion jest ożywiony, czy nieożywiony? A wirus? AirWolf: ja też jestem teistą, a mimo to uważam, że w mózgu mej skromnej osoby może wylęgnąć się coś więcej. Nie generalizuj proszę... (tak, tak, wiem, odpłacasz pięknym za nadobne na post Credo, któren zrobił to samo, ino, że w drugą mańkę)
anonim2014.05.6 14:36
AirWolf, to przykre, że nie kontrolujesz co piszesz i nie sprawdzisz zanim napiszesz coś takiego, jak w wypowiedzi nad moją, ale chyba rozumiem: jesteś pewnie kobietą, która w tych konfabulacjach wyraża burzę swoich emocji. :) A nieteiści mają problem z wiarą w materializm i "naukę" ("radziecką"), która wszystko może, a co jest stanowczo nieracjonalne i bezpodstawne dopóki nie wie się, czym jest naprawdę inteligencja, świadomość, czym jest (z czego składa się) człowiek. Wystarczy odrobina spostrzegawczości, aby zauważyć, że AI czy AC to składniki potrzebne do STWORZENIA człowieka (sztucznego), a po coś dobry Bóg dał nam narzędzie do wykonania tego zadania (z jego cichym udziałem) nie wymagające aż tak wielkiego wysiłku (intelektualnego i nie wiadomo jeszcze jakiego ...), przekraczającego w tej chwili nasze możliwości. Apeluję do nieteistów o więcej pokory i trzymania się faktów. :)
anonim2014.05.6 15:07
Nie ma materii "ożywionej" i "nieożywionej". Człowiek od skały różni się wyłącznie stopniem organizacji, stopniem skomplikowania układu. Nasz mózg składa się z takich samych protonów, elektronów i neutronów co kawałek kamienia. Różnicę robi stopień i sposób organizacji atomów. To jest fakt, z którym nie można dyskutować. Tak jak napisałem wcześniej, ludzki mózg składa się ze skończonej liczby komórek nerwowych, pomiędzy którymi istnieje skończona liczba połączeń. W chwili obecnej nie jest możliwe zbudowanie pełnego modelu mózgu w pamięci komputera ze względu na stopień skomplikowania mózgu. Po prostu nie jesteśmy w stanie poznać wszystkich połączeń między komórkami nerwowymi - jest ich zbyt dużo. Jest to jednak wyłącznie przeszkoda natury technicznej, i nie ma żadnych podstaw aby wątpić, że w przyszłości zostanie pokonana. Próby już są podejmowane: http://bluebrain.epfl.ch/ Co więcej, nie oznacza to wcale, że zrozumiemy naturę świadomości i samoświadomości. Zbudowanie działającego mózgu opartego nie na białkach, lecz na układach elektronicznych, wcale nie musi oznaczać, że zrozumiemy procesy obliczeniowe, jakie ten mózg przeprowadza! Nie rozumiem, czemu miałoby to przeszkadzać teistom. Przecież fakt, że ludzki mózg jest zamkniętą i skończoną strukturą, nie ma nic wspólnego z istnieniem bądź nieistnieniem Boga. Może niektórzy gimnazjaliści naczytali się za dużo Dawkinsa i uważają, że nauki przyrodnicze przeczą istnieniu Boga; jednak każdy rozumny człowiek wie, że tak nie jest.
anonim2014.05.6 15:14
Czy jest w ogóle sens dyskutować o sztucznej inteligencji, skoro nikt do tej pory nie potrafił jednoznacznie zdefiniować inteligencji nie-sztucznej?
anonim2014.05.6 15:20
Nie widać żadnej sztucznej inteligencji, nie ma naukowych dowodów na promieniowanie cyfrowe... Co za kpina, łgarstwo, fałsz. Bezsenność do 48h? Twój dotyk wydaje ci się obcy? Szpetota twarzy (zez rozbieżny, "obłąkany wzrok")? Nienaturalne reakcje i ruchy ciała? Natrętna zbieżność myślenia i działania z przekazem radiowo-telewizyjnym? Telepatia wśród otoczenia? Wcale 1/3 społeczeństwa polskiego nie musi cierpieć na zaburzenia psychiczne, ale jest zwyczajnie wykluczana promieniowaniem cyfrowym. Nie pojmuję, że nikt o tym naprawdę nie mówi, o tym, jaki gwałt jest zadawany godności człowieka... Pojmuję za to wyraźnie, że to, co wspólnego ma większość ze św. Janem Pawłem II to obrazek, wspomnienie i interes zarabiania na jego świętości.
anonim2014.05.6 16:28
Akurat mam przyjemność studiować Informatykę ze specjalizacją w sztucznej inteligencji. Rozwija się ona całkiem dobrze. Mamy wiele różnych mechanizmów na rozwiązywanie zadań z rozpoznawania wzorca, uczenia się, klasyfikacji itd, które działają coraz lepiej, choć w znacznej liczbie "inteligentnych" zadań, to ludzie wciąż są górą. Przykładowo: rozpoznawanie wzorca w obrazie, rozumienie języka naturalnego, wszelkie zadania, gdzie domena uczenia jest szeroka i może obejmować uczenie o uczeniu (metanaukę), przykładowo: zagadnienie multi-game-playing. Moglibyśmy też argumentować na temat rozumienia pojęć abstrakcyjnych, empatii, a co odważniejsi - na temat wolnej woli bądź kreatywności. Maszyny, które mogłyby zagrozić ludziom swoją inteligencją to kwestia przynajmniej 30 lat (przez analogię do symulacji działania mózgu - odsyłam do Wikipedii bądź lepszych źródeł). Ale to zagrożenie JEST realne. Kiedyś uważałem takie wizje za domenę mitomanów z kręgów sci-fi. Jednak obok opinii Alana Turinga czy Stephena Hawkinga trudno przejść obojętnie.
anonim2014.05.6 16:29
@J.A. A może jeszcze zapytasz co to są rzeczy widzialnie i niewidzialne, teisto?
anonim2014.05.6 16:32
@AirWolf twoje chamskie wysiłki idą na marne. Zadaję się wyłącznie z ludźmi.
anonim2014.05.6 17:01
wystarczy, że powstaną roboty, które są kontrolowane przez ludzką strukturę zła np. międzynarodówkę banksterską albo reżim Północnej Korei; w momencie, gdy te roboty będą w stanie skutecznie zastąpić aparat represyjny (armię i policję), ludzkość wejdzie w fazę wojny z maszynami, która skończy się konfilktem nuklearnym, czyli mówiąc krótko - masakrą świata jaki znamy
anonim2014.05.6 17:42
Hawking to o ile pamiętam ten, co twierdził, że na początku było nic, potem z którego to nic pojawiła się energia (?), która w ułamku sekundy zamieniła się w materię i energię z której ledwie pięć procent to cały wszechświat. No i bardzo wybitnie ujęte to nic. Prawie jak król Julian.
anonim2014.05.6 21:02
@Inceptive - te 30 lat, to chyba lekka przesada. By powstało realne zagrożenie musi zaistnieć jeszcze możliwość niekontrolowanego przez ludzi wytwarzania i kreowania NOWYCH egzemplarzy. A do tego jeszcze sporo latek minie. I to nawet nie dlatego, że byłoby to technologicznie niewykonalne, ale ekonomicznie i organizacyjnie. To tak w dużym skrócie.
anonim2014.05.6 21:23
@Drowsky Dawaj, jestem ponadnormatywnie chłonny.
anonim2014.06.6 15:23
@Credo A może jeszcze zapytasz co to jest pokora, uczniu Jezusa Chrystusa? Odpowiadaj J.A. merytorycznie albo wcale. Jeżeli nie potrafisz zdefiniować co to materia nieożywiona (a co dopiero świadomość) to nie ma co dyskutować.