IT

"Zaustavite razvoj umjetne inteligencije na 6 mjeseci", poručuje skupina stručnjaka

Otvoreno pismo kojim se upozorava na opasnosti od prebrzog razvoja sistema umjetne inteligencije potpisali su Elon Musk, Steve Wozniak i još više od hiljadu stručnjaka iz tog područja.

FOTO: PIXABAY
FOTO: PIXABAY
Ilustracija

Ove sedmice objavljeno je otvoreno pismo, upućeno kompanijama koje se bave razvojem moćnih sistema umjetne inteligencije, u kojem se od njih traži da na pola godine zaustave daljnji razvoj tih tehnologija. Svi AI laboratoriji morali bi zaustaviti treniranje AI modela na najmanje šest mjeseci, ako su oni moćniji od trenutno najsnažnije jezičnog modela, GPT-4, smatraju potpisnici otvorenog pisma. Među njima su se našli i Elon Musk (spomenimo, suosnivač OpenAI-ja), Steve Wozniak te više od hiljadu stručnjaka za tehnologiju i umjetnu inteligenciju.

U tekstu pisma stoji i obrazloženje za ovaj apel. Sistemi umjetne inteligencije sa sposobnostima sličnima onim ljudskima, mogu predstavljati velik rizik za društvo i čovječanstvo. Ta je teza potkrijepljena i rezultatima studije, koja je zaključila da se razvoj naprednih AI sistem mora biti detaljno isplaniran i organizirano vođen.

To se u ovom trenutku ne događa, konkurenti izbacuju nove modele i međusobno se utrkuju u njihovim mogućnostima, a da pritom nitko – pa čak ni kreatori tih sistema – ne mogu razumjeti, predvidjeti niti pouzdano kontrolirati svoje sistema, navodi se u pismu.

Hoćemo li prepustiti strojevima da nam zatrpavaju komunikacijske kanale neistinama? Hoćemo li automatizirati sve poslove, pa čak i one za ljude ispunjavajuće? Hoćemo li razviti umove koji će nas nadmašiti brojčano i pameću, učiniti nas nepotrebnima? Hoćemo li time riskirati gubitak kontrole nad civilizacijom? – sve se to pitaju autori otvorenog pisma i poručuju da bi se moćni AI sistemi morali dalje razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni, a rizici upravljivi.

Predloženi moratorij na razvoj i treniranje naprednih AI sistema, boljih od GPT-4, morao bi biti javan i provjerljiv, a morali bi ga se pridržavati svi na tom tržištu. Ako oni ne pristanu, morale bi reagirati vlade diljem svijeta, poruka je potpisnika.

Za kraj, šalju i optimističnu poruku – čovječanstvo bi moglo uživati u odličnoj budućnosti uz AI. Sada, kada smo izradili moćne sisteme, možemo uživati u “AI ljetu”, kada ćemo pobrati zasluge i stvoriti sisteme s jasnim prednostima za sve te dati društvu priliku za prilagodbu. Kao što su ljudi već radili slične “pauze” u razvoju drugih tehnologija (kloniranje ljudi, uređivanje gena, eugenika…), tako sada treba učiniti i s umjetnom inteligencijom. “Uživajmo u dugom AI ljetu, nemojmo nepripremljeni srljati u propast”, zaključna je poruka, piše bug.hr.

Prihvati notifikacije