Njihova je istraga pokazala da je riječ o grupi od deset kibernetičkih kriminalaca, koji su uspjeli kompromitirati nekoliko korisničkih računa za GenAI alate, osmislili metode zaobilaženja implementiranih sigurnosnih mjera, pa takav “slobodni” pristup alatima preprodavali dalje.
Cilj je bio omogućiti “klijentima” pristup do alata, koji su bez zaštite omogućavali stvaranje ilegalnog, uvredljivog i štetnog sadržaja. Microsoft ne navodi točno o kojim je alatima riječ, no svojom tužbom žele poslati snažnu poruku da se korištenje AI modela i tehnologije u takve svrhe neće tolerirati. U tužbi se navodi da je sve organizirala kriminalna skupina smještena izvan SAD-a. Nakon otkrivanja njihovih metoda zaobilaženja pravila i sigurnosnih mjera, uvedene su nove mjere kako bi se spriječilo ponavljanje sličnih napada.
Tužba navodi da su aktivnosti ove skupine izravno u suprotnosti s američkim zakonima, pravilima prihvatljivog korištenja te primjerenog ponašanja na svim Microsoftovim platformama. Sud je kompaniji omogućio čak i preuzimanje internetske stranice, kojom su se napadači koristili, kako bi se odatle prikupili dodatni dokazi o malicioznim aktivnostima.
“Svakoga dana pojedinci koriste generativne AI alate kako bi unaprijedili svoje kreativno izražavanje i produktivnost. Nažalost, kao što je bio slučaj i s pojavom drugih tehnologija, prednosti tih alata privlače i one koji žele iskoristiti i zlorabiti tehnologiju i inovacije u zlonamjerne svrhe”, pojašnjavaju svoju tužbu, za koju kažu da ima svrhu zaštiti javnost od negativnog utjecaja umjetne inteligencije.
Prema šturim informacijama dostupnima u ovom trenutku, “usluga” koju su hakeri pokrenuli nazivala se de3u, a nudila je pristup njihovom alatu za generiranje ilustracija (Creator, pogonjen sustavom DALL-E OpenAI-ja). Ubacivanjem proxyja između korisnika i tog alata te korištenjem sofisticiranih metoda iskorištavanja tuđih podataka za prijavu, stvorena je usluga koja “otključava” inače zabranjene načine korištenja te usluge, prenosi BUg.hr.