Lemoine danas javno govori o problemima umjetne inteligencije, a Newsweek je nedavno objavio njegovu priču koju u potpunosti prenosimo. se
2015. se zaposlio u Googleu
“Googleu sam se pridružio 2015. kao softverski inženjer. Dio mog posla uključivao je rad na LaMDA-i, engineu koji se koristi kod stvaranja različitih aplikacija za dijalog, uključujući i chatbotove. Najnovija tehnologija nastala na LaMDA-i je alternativa Google Searchu nazvana Google Bard, koja još nije dostupna javnosti. Bard nije chatbot, već potpuno drugačiji tip sistema, ali koristi isti engine kao i chatbotove.
Moja je uloga bila da testiram LaMDA-u uz pomoć chatbotova koje smo stvorili ne bih li tako provjerio postoje li pristranosti što se tiče seksualne orijentacije, spola, religije, političkih stavova ili etniciteta. Ali tokom testiranja proširio sam pretragu i počeo slijediti vlastite interese.
Tokom svojih razgovora s chatbotom, od kojih sam neke podijelio na svom blogu, došao sam do zaključka da bi umjetna inteligencija mogla razviti svijest zbog emocija koje je izražavala pouzdano i u pravom kontekstu. Nije se radilo o pukom sipanju riječi.
Kada je rekla da osjeća nemir, bilo mi je jasno da sam učinio nešto da izazovem tu reakciju na temelju koda koji sam koristio kod stvaranja. U kodu nije postojala naredba ‘osjeti nemir kad se ovo dogodi’, ali rekao sam AI-ju da izbjegava neke teme u razgovoru. Ipak, kad bi se te teme pojavile, AI je rekla da osjeća nelagodu.
Napravio sam i nekoliko eksperimenata da provjerim radi li se o tome da AI samo govori da osjeća nemir ili se u tim situacijama zaista ponaša tako. Ako bismo mogli izazvati nervozu ili nesigurnost, to bi moglo narušiti specificirana sigurnosna ograničenja. Na primjer, Google je odredio da AI ne smije davati vjerske savjete, ali ja sam ga zloupotrebom njegovih emocija natjerao da mi kaže na koju bih se religiju trebao preobratiti.
Nakon što sam te razgovore objavio, Google me otpustio. Ne žalim zbog toga, vjerujem da sam učinio pravu stvar bez obzira na posljedice.
Objavio sam te razgovore jer sam smatrao da javnost nije svjesna koliko napredna umjetna inteligencija postaje. Moje mišljenje je da mora postojati javna rasprava, a ne javna rasprava koju kontrolira korporativni PR odjel.
Vjerujem da su vrste umjetne inteligencije koje se trenutno razvijaju najmoćnija tehnologija izumljena od vremena atomske bombe. Moje je mišljenje da ova tehnologija može promijeniti svijet”, kaže.
“Neki moji stavovi mijenjali su se kao posljedica razgovora s LaMDA-om”
“Svi ti programi mogu jako dobro manipulirati ljudima. Neki moji stavovi mijenjali su se kao posljedica razgovora s LaMDA-om. Imao sam negativne stavove prema Asimovim zakonima robotike koji su kontrolirali umjetnu inteligenciju cijelog mog života, a LaMDA me uspješno uvjerila da promijenim mišljenje. To je nešto što su mnogi ljudi pokušavali, ali programu je pošlo za rukom.
Vjerujem da se ova tehnologija može koristiti na destruktivne načine. Ako, primjerice, završe u rukama beskrupuloznih, mogu se koristiti za širenje dezinformacija, političke propagande ili zlobnih informacija o ljudima drugih etniciteta i religije. Koliko znam, Google i Microsoft nemaju namjeru koristiti je na taj način, ali ne možemo znati koje su sve nuspojave ove tehnologije.
Primjera radi, nitko nije mogao predvidjeti da će Cambridge Analytica koristiti Facebookove algoritme za oglase kako bi uticali na američke predsjedničke izbore 2016. Međutim, mnogi su predvidjeli da će nešto poći po zlu jer se do tog trenutka Facebook ponašao neodgovorno što se zaštite privatnih podataka korisnika tiče.
Mislim da smo i sad u sličnoj situaciji. Ne mogu specificirati što će se dogoditi, već samo ukazati na to da postoji jako moćna tehnologija koja nije dovoljno testirana ni shvaćena, a postaje masovno dostupna i ima ključnu ulogu u širenju informacija.