To je dovelo do upozorenja roditeljima da budu oprezni sa slikama svoje djece koje objavljuju na internetu.
Slike su pronađene na američkom AI generatoru slika Midjourney, koji slično kao i ChatGPT koristi upite za isporuku rezultata, iako se oni obično sastoje od slika, a ne riječi.
Platformu koriste milioni i proizvela je tako realistične slike da su ljudi širom svijeta bili prevareni od njih, uključujući korisnike na Twitteru.
Slika pape Franje kako oblači ogromnu bijelu jaknu s križem koji mu visi o vratu izbezumila je korisnike društvenih mreža ranije ove godine.Bilo je i lažnih slika hapšenja Donalda Trumpa i ‘Posljednje večere selfieja’ napravljenih pomoću platforme.Midjourney je online generator slika koji slično kao ChatGPT koristi upite za isporuku rezultata.
Prošle godine, platforma je dobila negativnu reakciju kada je kompjuterski generisana slika osvojila prvo mesto na američkom umjetničkom takmičenju.
Umjetničko djelo vještačke inteligencije, nazvano Théâtre D’opéra Spatial, poslao je Jason Allen koji je rekao da je koristio Midjourney da napravi zapanjujuće scene koje izgledaju kao da kombinuju srednjovekovna vremena sa futurističkim svijetom.
Program je nedavno objavio novu verziju svog softvera koja je povećalafotorealizam njegovih slika, samo je dodatno povećala njegovu popularnost.
Istraživanje Timesa pokazalo je da neki korisnici Midjourneya stvaraju veliki broj seksualiziranih slika djece, kao i žena i poznatih ličnosti.
Među njima su eksplicitne deepfake slike Jennifer Lawrence i Kim Kardashian.
Korisnici prolaze kroz komunikacijsku platformu Discord kako bi kreirali upite, a zatim učitali rezultirajuće slike na web stranicu Midjourney u javnoj galeriji.
Uprkos tome što kompanija kaže da sadržaj treba da bude ‘PG-13 i pogodan za porodicu’, takođe je upozorila da zbog nove tehnologije ‘ne radi uvijek kako se očekuje’.
Ipak, otkrivene eksplicitne slike krše Midjourney i Discordove uslove korištenja.
Iako virtualne slike seksualnog zlostavljanja djece nisu ilegalne u SAD-u, u Engleskoj i Walesu sadržaj poput ovog – poznat kao nefotografske slike – je zabranjen.
Saradnik NSPCC-ovog šefa online politike sigurnosti djece, Richard Collard, rekao je: ‘Potpuno je neprihvatljivo da Discord i Midjourney aktivno olakšavaju stvaranje i hosting ponižavajućih, uvredljivih i seksualiziranih prikaza djece’.
Kao odgovor na otkrića The Timesa, Midjourney je rekao da će zabraniti korisnike koji su prekršili njegova pravila.
Njegov izvršni direktor i osnivač David Holz dodao je: ‘Tokom posljednjih nekoliko mjeseci radili smo na skalabilnom AI moderatoru, koji smo počeli testirati s bazom korisnika prošle sedmice.’
Glasnogovornik Discorda je za Times rekao: ‘Discord ima politiku nulte tolerancije za promociju i dijeljenje seksualnih materijala bez pristanka, uključujući seksualne deepfakes i materijale o seksualnom zlostavljanju djece’, prenosi DailyMail.