Podsjećanja radi, gotovo sve velike američke kompanije koje razvijaju sisteme vještačke inteligencije poput “Open AI” ili “Anthropica” su javnost obavijestile o ispitivanjima koja su ovog ljeta sprovodile nad svojim eksperimentalnim modelima i incidentima koji su se desili.
U slučaju “Open AI-ja”, na primjer, u julu su agenti vještačke inteligencije koje su trenirali hakovali jednu od najjačih svjetskih kompanija za razvoj modula za AI sisteme “Hugging Face”, a prije nekoliko dana su javnost obavijestili da su ti agenti provalili u sistem javnog zdravstva Australije i neovlašteno pristupili njihovim podacima. Svi ovi incidenti desili su se dok su inženjeri koji su sprovodili eksperimente aktivno nadzirali rad ovih agenata. Agenti su, po svemu sudeći, uspjeli da hakuju sisteme za koje su vjerovali da im mogu pomoći u izvršenju zadatka iako su im ljudski inženjeri to zabranili, a jedno od hakovanja sproveli su čak i nad sistemima “Open AI” u kojima su kreirani.
Incidente treba uzeti ozbiljno
S obzirom na to da se radi o sistemima koje čak i kompanije koje ih kreiraju teško mogu da kontrolišu, postavlja se pitanje šta bi se desilo s bazama podataka u BiH, od onih u zdravstvenim ustanovama, pa do osjetljivih policijskih dosijea ako bi se našli pod udarom ovakvih AI agenata.
Borislav Vukojević, stručnjak za vještačku inteligenciju, za “Nezavisne” kaže da ove incidente treba uzeti ozbiljno, jer su informacije koje su objavljene o ovim incidentima pokazale da su agenti zaobišli postavljene zaštite s posljedicama po stvarnu infrastrukturu u drugim kompanijama.
“Za zemlje poput BiH najveći problem je što vještačka inteligencija napadačima može skratiti vrijeme, smanjiti troškove i omogućiti da istovremeno napadaju mnogo više meta. Može pomoći u pronalaženju ranjivosti, pisanju uvjerljivih lažnih poruka i automatizovanju dijelova napada. Poruka koja izgleda kao da dolazi od direktora, banke ili kolege sada može biti napisana na našem jeziku, bez očiglednih grešaka i prilagođena konkretnoj osobi. Napadaču je nekada dovoljan pristup jednom nalogu da bi krenuo dalje”, rekao je on.
Vukojević naglašava da to ipak ne znači automatski da ovi sistemi imaju univerzalni ključ za svaku bazu podataka, već da eventualni uspjeh napada zavisi od konkretnih propusta, pristupnih prava i kvaliteta odbrane.
“Za Bosnu i Hercegovinu bih zato postavio nekoliko vrlo jednostavnih pitanja: znamo li gdje čuvamo osjetljive podatke, ko im može pristupiti, ko prati pokušaje upada i ko reaguje kada se incident dogodi? Koliko brzo otklanjamo poznate sigurnosne propuste? Imamo li dovoljno stručnih ljudi i mogu li institucije brzo razmijeniti upozorenja? Strategija na papiru malo znači ako odgovori na ova pitanja nisu jasni”, upozorava on.
BiH nema definisanu zakonsku regulativu
U Agenciji za zaštitu ličnih podataka za “Nezavisne” kažu da u Zakonu o zaštiti ličnih podataka nije posebno regulisana upotreba vještačke inteligencije, ali da se postojeće odredbe mogu primijeniti i na te slučajeve ako se sistemi vještačke inteligencije koriste za pristup ili obradu javnih podataka.
“Kontrolori koji obrađuju osobne podatke treba da sprovedu odgovarajuće tehničke i organizacijske mjere zaštite, te procjenu uticaja obrade na zaštitu osobnih podataka. Navedeno kontrolorima daje obavezu ispitivanja sigurnosti obrade osobnih podataka upotrebom AI alata. Procjena uticaja obrade ima za cilj da se postigne efektivnost obrade kao i nadzor nad rizičnim obradama”, naglašavaju oni.
Ovo praktično znači da je odgovornost za zaštitu ličnih podataka od eventualnih napada na institucijama koje podatke čuvaju.
To, međutim, ne daje odgovor na pitanje koje profesor Vukojević postavlja: ima li BiH stručnjake i sisteme koji bi se efikasno mogli suprotstaviti ovako naprednim napadima.
Mnogo otvorenih pitanja
Ako se vratimo na početak priče i podsjetimo da su se ovog ljeta desili napadi AI agenata koje ni same kompanije koje su ih kreirale nisu mogle da spriječe, iako imaju najstručniji i najsposobniji inženjerski kadar, postavlja se pitanje kako bi to pošlo za rukom malim zemljama poput BiH.
Vukojević upozorava da činjenica da smo mala zemlja ne znači da nismo nikom interesantni.
“Odgovornost imaju i kompanije koje razvijaju modele i institucije koje ih uvode u rad. Građanin ne mora da razumije kako funkcioniše AI agent da bi imao pravo da pita ko štiti njegove podatke i ko odgovara ako zaštita zakaže. Ta odgovornost ostaje ljudska, bez obzira na to koliko je tehnologija napredovala”, smatra on.
Saznajte sve o najvažnijim vijestima i događajima, čitajte na Google News.