Umjetna inteligencija je nevjerovatna tehnologija koja može biti od velike pomoći čovječanstvu, pri čemu se to ne odnosi samo na povećanu učinkovitost i produktivnost na poslu, već se može iskoristiti i za naučna i medicinska otkrića zahvaljujući kojima se mogu spašavati ljudski životi. No postoji i ona druga, tamna strana korištenja ove tehnologije, a na jednu od njih upozorava se godinama i riječ je o deepfakeu.
Deepfake se koristi u npr. političkim borbama i pornografiji, a kako je pokazao nedavni izvještaj Internet Watch Foundationa (IWF), ovu tehnologiju koriste i pedofili kako bi od djece zatražili slanje njihovih golih fotografija ili ih ucjenjivali za novac. Ono što je posebno zabrinjavajuće jest što su iz IWF-a na dark webu pronašli priručnik namijenjen korištenju umjetne inteligencije i AI alata u svrhu iskorištavanja djece.
Putem takvih AI alata osobe na fotografijama mogu se razgolititi, odnosno na fotografijama na kojima se nalazi dijete u kupaćim gaćicama ili kostimu ili čak ako je potpuno obučeno, tehnologija može ukloniti odjeću i sama stvoriti ostatak slike tako da je na fotografija prikazana gola osoba, odnosno golo dijete. Kako je internet, pogotovo društvene mreže, prepun fotografija djece koje roditelji objavljuju, uključujući i one s plaže, takve se fotografije mogu jednostavno preuzeti i obraditi putem AI alata kako bi se na njima prikazale gole osobe.
Neki takve fotografije dalje dijele putem dark weba ili ih prodaju, no u posljednje vrijeme pedofili i kriminalci imaju drukčiju taktiku - stupaju u kontakt s djecom i ucjenjuju ih. Prijete im da će takve fotografije javno objaviti ili poslati njihovim roditeljima i prijateljima, osim ako im oni ne pošalju svoje prave gole fotografije ili od njih traže novac.
U spomenutim uputstvima koje su objavljene na dark webu, spominju se različiti alati kojima se može stvarati lažan i seksualan sadržaj koji izgleda potpuno realno, a autor tog priručnika čak se pohvalio da je iskoristio te alate za ucjenjivanje 13-godišnjih djevojčica.
Ovaj primjer samo je još jedno u nizu upozorenja o opasnostima koje djeci prijete u virtualnim prostorima, a koja mladima mogu uništiti živote te stručnjaci upozoravaju kako je riječ o globalnom problemu s opasnim posljedicama. Kako bi se borili protiv toga, u nekim zemljama već su doneseni zakoni prema kojima se stvaranje deepfake dječje pornografije smatra zločinom, zbog čega je nedavno u Australiji osuđen jedan 48-godišnjak.
