OpenAI to predstavlja kao brigu o mladima u trenutku kada su AI četbotovi pod sve većom lupom zbog uticaja na maloljetnike.
Sistem sam procjenjuje da li je korisnik tinejdžer, na osnovu tema o kojima priča, doba dana kad je aktivan, obrazaca korišćenja naloga, a kad nije siguran, po difoltu ga svrstava u zaštićeniju, tinejdžersku verziju.
Nalog može i da se podesi tako da ima starosnu granicu. Do ovog momenta priča zvuči kao čist bezbjednosni potez. Ali ispod toga postoji drugi sloj, i on ima mnogo više veze s poslovnim modelom nego sa zaštitom djece.
Selfi kao izlaz i kao ulaz
Odrasla osoba koju sistem pogrešno svrsta u tinejdžersku verziju ima samo jedan način da se iz nje izvuče, tako da preko servisa Persona pošalje selfi uživo, a u nekim zemljama i sliku lične karte. Persona briše taj dokument u roku od sedam dana, a OpenAI, prema sopstvenim navodima, nikad ne vidi ni selfi ni ličnu kartu, samo datum rođenja koji iz njih izvuče.
Ono što se rijetko naglašava jeste šta se dešava poslije tog koraka: korisnik koji uspješno dokaže da je punoljetan istog trenutka postaje dio grupe kojoj OpenAI smije da prikazuje reklame (odnedavno dostupno u 31 zemlji, među kojima su Hrvatska i Slovenija).
Kako verifikacija hrani oglasni sistem
To nije nagađanje već direktna posljedica toga kako je sistem postavljen. Reklame u ChatGPT-ju trenutno se puštaju na sve više tržišta, a kompanija izričito navodi da se neće prikazivati nalozima maloljetnih korisnika ili za koje sistem to sam procijeni. Drugim riječima, da bi neko uopšte mogao da vidi reklamu, prvo mora biti potvrđeno punoljetan.
Verifikacija koja se predstavlja kao popravka greške klasifikatora, u praksi funkcioniše i kao dobrovoljna potvrda godina na velikoj skali. Korisnik sam, iz sopstvene frustracije što je pogrešno svrstan, prolazi kroz proces koji ga istovremeno prebacuje iz kategorije „bez reklama“ u kategoriju „podoban za reklame“.
EU regulativa: prednost i mana
Postoji i dodatni detalj koji pokazuje da regulativa još kasni za proizvodom. Automatsko prepoznavanje maloljetnika za sada ne radi jednako svuda.
U Evropskoj uniji ta funkcija se, prema OpenAI-evoj sopstvenoj dokumentaciji, i dalje najavljuje kao nešto što dolazi „u narednim nedjeljama zbog regionalnih zahtjeva“. Ta rečenica stoji u dokumentaciji, bez ispunjenja, još od januara, kada je age prediction prvi put najavljen.
Age verification ovdje radi dva posla istovremeno: štiti djecu, a kao nusprodukt gradi preciznu bazu punoljetnih korisnika spremnih za monetizaciju
Znači da EU korisnik za sada dobija zaštićeno okruženje uglavnom ako se sam izjasni da je maloljetan. Automatski sistem koji bi to prepoznao i bez izjašnjavanja tek treba da stigne.
Šta se zapravo tu krije
Ništa od ovoga ne znači da je zaštita maloljetnika lažna ili da je sistem loše zamišljen. Zaštita sadržaja za tinejdžere je stvarna, i to je dobrodošao potez u industriji koja je dugo ignorisala tu temu. Ali vrijedi primijetiti obrazac koji se ponavlja. Svaki put kad velika tech kompanija najavi mjeru „za bezbjednost korisnika“, ona je rijetko kad izolovana od poslovnog modela koji je okružuje.
Age verification ovdje radi dva posla istovremeno: štiti djecu, a kao nusprodukt gradi preciznu bazu punoljetnih korisnika spremnih za monetizaciju. Jedno ne isključuje drugo. Ali dobro je znati da postoje oba, prije nego što nekome pošaljemo selfi vjerujući da je razlog samo jedan, piše PCPress.
Saznajte sve o najvažnijim vijestima i događajima, čitajte na Google News.