“Razvoj potpune umjetne inteligencije mogao bi značiti kraj ljudske rase”, rekao je Hawking za BBC u intervjuu 2014. godine.
Hawking, koji je patio od amiotrofične lateralne skleroze (ALS) više od 55 godina, umro je 2018. u 76. godini. Iako je imao kritičke primjedbe na AI, koristio je i vrlo osnovni oblik tehnologije kako bi komunicirao zbog njegove bolesti, koja slabi mišiće i zahtijeva od Hawkinga da koristi invalidska kolica.
Hawking je ostao nesposoban da govori 1985. i oslanjao se na različite načine komunikacije, uključujući uređaj za generiranje govora koji je vodio Intel, a koji mu je omogućio da koristi pokrete lica za odabir riječi ili slova koja su sintetizirana u govor.
Hawkingov komentar za BBC iz 2014. da bi AI mogla “proizvesti kraj ljudske rase” bio je odgovor na pitanje o potencijalnom preuređenju glasovne tehnologije na koju se oslanjao. On je za BBC rekao da su se vrlo osnovni oblici AI već pokazali kao moćni, ali stvaranje sistema koji su konkurentni ljudskoj inteligenciji ili je nadmašuju moglo bi biti pogubno za ljudsku rasu.
„Pokrenuo bi se sam od sebe i redizajnirao se sve većom brzinom“, rekao je.
“Ljudi, koji su ograničeni sporom biološkom evolucijom, ne mogu se takmičiti i biće zamijenjeni”, dodao je Hawking.
Mjesecima nakon njegove smrti, na tržište je stigla posljednja Hawkingova knjiga. Pod nazivom „Kratki odgovori na velika pitanja“, njegova knjiga pružila je čitaocima odgovore na pitanja koja su mu često postavljana . Naučna knjiga je raspršila Hawkingov argument protiv postojanja Boga, kako će ljudi vjerovatno jednog dana živjeti u svemiru i njegove strahove od genetskog inženjeringa i globalnog zagrijavanja.
Umjetna inteligencija je također zauzela prvo mjesto na njegovoj listi “velikih pitanja”, tvrdeći da će kompjuteri “vjerovatno prestići ljude u inteligenciji” u roku od 100 godina.
“Možda ćemo se suočiti s eksplozijom inteligencije koja na kraju rezultira mašinama čija inteligencija premašuje našu više nego što je naša inteligencija puževa”, napisao je.
Tvrdio je da kompjutere treba osposobiti da se usklade s ljudskim ciljevima, dodajući da bi neshvaćanje rizika povezanih s AI ozbiljno moglo biti “naša najgora greška ikada”.
“Primamljivo je odbaciti pojam visokointeligentnih mašina kao puku naučnu fantastiku, ali to bi bila greška – i potencijalno naša najgora greška ikada.”
Hawkingove primjedbe odražavaju zabrinutost ove godine tehnološkog giganta Elona Muska i suosnivača Applea Stevea Wozniaka u pismu objavljenom u martu. Dvojica tehnoloških lidera, zajedno sa hiljadama drugih stručnjaka, potpisala su pismo u kojem su pozvala na najmanje šestomjesečnu pauzu u izgradnji AI sistema moćnijih od OpenAI-jevog GPT-4 chatbota.
“AI sistemi sa inteligencijom koja se natječe među ljudima mogu predstavljati duboke rizike za društvo i čovječanstvo, što pokazuju opsežna istraživanja i potvrđuju vrhunske AI laboratorije“, stoji u pismu koje je objavila neprofitna organizacija Future of Life.
OpenAI-jev ChatGPT postao je najbrže rastuća korisnička baza sa 100 miliona aktivnih korisnika mjesečno u januaru, jer su ljudi širom svijeta požurili da koriste chatbot, koji simulira razgovore poput ljudi na osnovu upita koje mu se daje. Laboratorija je objavila najnoviju iteraciju platforme, GPT-4, u martu.
Uprkos pozivima da se pauziraju istraživanja u AI laboratorijama koje rade na tehnologiji koja bi nadmašila GPT-4, puštanje sistema poslužilo je kao prekretnica koja je odjeknula u tehnološkoj industriji i katapultirala različite kompanije da se takmiče u izgradnji vlastitih AI sistema.
Hawking je savjetovao u godini prije smrti da svijet treba “naučiti kako da se pripremi i izbjegne potencijalne rizike” povezane s umjetnom inteligencijom, tvrdeći da bi sistemi “mogli biti najgori događaj u historiji naše civilizacije”. Međutim, napomenuo je da je budućnost još uvijek nepoznata i da bi se AI mogla pokazati korisnom za čovječanstvo ako se pravilno obuči.
“Uspjeh u stvaranju efikasne umjetne inteligencije mogao bi biti najveći događaj u historiji naše civilizacije. Ili najgore. Samo ne znamo. Dakle, ne možemo znati da li će nam umjetna inteligencija beskonačno pomoći, ili će nam ona biti ignorirana i sklonjena sa strane, ili je moguće uništiti”, rekao je Hawking tokom govora na tehnološkoj konferenciji Web Summit-a u Portugalu 2017, piše nypost-com.