Svijet

UN će raspravljati o ograničavanju autonomnog oružja kojim upravlja umjetna inteligencija

Ujedinjene nacije će naredne sedmice u Genevi razmatrati mogućnosti zabrane i ograničavanja upotrebe autonomnih sistema naoružanja kojima upravlja umjetna inteligencija, dok stručnjaci upozoravaju da razvoj ove tehnologije napreduje brže od uspostavljanja međunarodnih pravila za njeno korištenje.

FOTO: EPA-EFE/SARAH YENESEL
FOTO: EPA-EFE/SARAH YENESEL
ilustracija

Sedma pregledna konferencija Konvencije o određenom konvencionalnom oružju (CCW), koja će biti održana od 16. do 20. novembra, bavit će se pitanjem reguliranja smrtonosnih autonomnih oružanih sistema, poznatih i kao “roboti ubice”, prenosi AFP.

Riječ je o sistemima koji mogu samostalno identificirati, odabrati i napasti metu bez neposredne intervencije čovjeka.

Jean-Marc Rickli, stručnjak za globalne i nove sigurnosne rizike pri Ženevskom centru za sigurnosnu politiku, pojasnio je da razvoj umjetne inteligencije omogućava oružju da se prilagođava okruženju i napada ciljeve koji nisu unaprijed određeni.

Prema njegovim riječima, jedno od ključnih pitanja za međunarodne regulatore jeste koliko ljudske kontrole mora biti zadržano prilikom donošenja odluke o upotrebi smrtonosne sile.

Sjedinjene Američke Države zagovaraju odgovarajući nivo ljudskog prosuđivanja pri upotrebi autonomnog oružja, dok Francuska insistira na tome da čovjek mora ostati uključen u proces donošenja odluka.

Generalni sekretar UN-a António Guterres i predsjednica Međunarodnog komiteta Crvenog križa Mirjana Spoljaric upozorili su u zajedničkoj izjavi u augustu da se svijet približava ozbiljnoj etičkoj granici, kada bi mašine mogle samostalno odlučivati o napadima na ljude.

Pozvali su države da hitno pregovaraju o pravno obavezujućem međunarodnom instrumentu kojim bi se utvrdile jasne zabrane i ograničenja upotrebe autonomnih sistema naoružanja.

Stručnjaci, međutim, upozoravaju da predstojeći razgovori možda neće obuhvatiti sve rizike koje donosi sve veća upotreba umjetne inteligencije u vojnim operacijama.

Stručnjaci navode da su pojedini oblici autonomnog naoružanja već korišteni tokom rata u Ukrajini i vojnih operacija protiv Irana, iako potpuno autonomni sistemi još nisu u širokoj upotrebi.

Predstavnici odbrambene industrije i istraživači ističu da postoje i značajni tehnički izazovi, posebno u pogledu pouzdanosti umjetne inteligencije pri samostalnom donošenju odluka o upotrebi smrtonosne sile.