Grok, dostupan na Muskovoj platformi X, omogućava korisnicima generisanje slika, ali je u posljednje vrijeme korišten za uređivanje fotografija stvarnih osoba prikazujući ih u provokativnoj odjeći.
Vlasti u jugoistočnoj Aziji upozorile su da bi Grok mogao biti korišten za stvaranje pornografskih i neovlaštenih slika žena i djece, čime su ove dvije zemlje prve na svijetu koje su zabranile korištenje Tog AI alata.
Pritisak za blokadu Groka raste i u Velikoj Britaniji, gdje je sekretar za tehnologiju izjavio da bi podržao takav potez, što je Muska navelo da optuži britansku vladu za pokušaj gušenja slobode govora.
Ministarstva komunikacija Malezije i Indonezije objavila su odluke o blokadi Groka u odvojenim saopćenjima tokom vikenda.
Malaysian Communications and Multimedia Commission je navela da je ranije tokom godine izdala obavijesti platformi X tražeći strože mjere nakon što su utvrdili „ponovljenu zloupotrebu“ Groka za generiranje štetnog sadržaja.
Platforma X, prema regulatoru, nije se bavila inherentnim rizicima dizajna svoje platforme, već se uglavnom fokusirala na proces prijave korisnika.
Indonezijski ministar za komunikacije i digitalna pitanja Meutya Hafid istakla je na Instagramu da korištenje Groka za seksualno eksplicitne sadržaje predstavlja kršenje ljudskih prava, dostojanstva i sigurnosti na internetu. Ministarstvo je također zatražilo od platforme X dodatno pojašnjenje o upotrebi Groka.
Indonezijske vlasti su u prethodnim godinama već pooštrile kontrolu nad online pornografskim sadržajima, uključujući zabranu platformi kao što su OnlyFans i Pornhub.
Korisnici platforme X u Indoneziji, čije su fotografije manipulisane, izrazili su nezadovoljstvo što je ovakvo nešto bilo moguće.
Kirana Ayuningtyas, korisnica u kolicima koja objavljuje o svakodnevnom životu, otkrila je da je nepoznata osoba komentarisala njenu fotografiju tražeći od Groka da je prikaže u bikiniju.
Unatoč promjeni postavki privatnosti i zahtjevima platformi za uklanjanje fotografija, manipulacije nisu u potpunosti spriječene, a objavljivanje lažnih slika izazvalo je dodatnu neprijatnost.
Upotreba Groka za stvaranje seksualiziranih slika osuđena je i od strane svjetskih lidera, uključujući premijera Velike Britanije Keira Starmera, koji je takvu praksu nazvao „sramotnom“ i „odvratnom“.
Ministrica za nauku, tehnologiju i inovacije Velike Britanije, Liz Kendall, također je izjavila da bi podržala regulatora Ofcom u blokadi pristupa X-u u Velikoj Britaniji ako platforma ne bude poštivala zakone o online sigurnosti, naglašavajući da Zakon o online sigurnosti omogućava blokadu usluga koje odbijaju poštovati britanske zakone.
Saznajte sve o najvažnijim vijestima i događajima, čitajte na Google News.