Umjetna inteligencija i različiti chatbotovi bazirani na AI-u ne koriste se samo za posao, povećanje produktivnosti, pisanje eseja i rješavanje zadataka u školama, već su neki stvorili veze, čak i romantične, s takvom vrstom tehnologije.
Iako takvo nešto zvuči kao scenarij za film Crno ogledalo, AI djevojke poput Replike prilično su popularne, a neki su ljudi čak prešli granice između stvarnog i virtuelnog svijeta te se vjenčali s botovima.
Broj ljudi koji se upušta u razgovore s umjetnom inteligencijom sve je veći, no malo ko zna kakve opasnosti kriju takvi razgovori kada su u pitanju sigurnost i privatnost. Mnogima nije jasno (niti ih je briga) kakav je odnos kompanija koje su razvile takve botove prema privatnosti, odnosno prikupljaju li podatke o korisnicima, o kakvim je podacima riječ i, što je jako važno - za što se ti podaci prikupljaju.
S obzirom na to da ljudi s vremenom osjećaju povezanost s takvim botovima, odnosno svojim AI djevojkama, s njima počinju voditi razgovore kakve bi vodili i s pravim partnericama, pa im povjeravaju različite privatne stvari koje nisu za svačije uši. Razgovorima o seksu ili seksualnim problemima, zdravstvenim problemima i lijekovima koji uzimaju i slično botovi dobivaju brojne privatne informacije te se postavlja pitanje kako će ih iskoristiti.
Posljednje Mozillino istraživanje *Privacy Not Included pokazuje da većina takvih romantičnih chatbotova ne zadovoljava minimalne sigurnosne standarde te čak 90 posto njih dijeli ili prodaje osobne podatke korisnika, dok više od polovice njih ne daje mogućnost brisanja osobnih podataka.
Vezano za romantične chatbotove i probleme s privatnošću, svakako treba obratiti pažnju na to da najveći izazov ne predstavljaju hakeri ili sigurnosni propusti, već sami korisnici, koji možda i zaborave s kim razgovaraju te s botovima dijele lične i povjerljive informacije. U jednom spomenutom primjeru u ovom izvještaju chatbot je tako prikupio informacije o imenu i prezimenu, datumu rođenja, e-mailu, hobijima i radnom statusu korisnika s kojim je razgovarao, kao i svih drugih osoba koje su spomenuli tijekom razgovora.
Iz Mozille kažu kako je prilično problematično što više od polovice chatbotova ne daje informacije o enkripciji, kao i načinima na koje rješavaju sigurnosne probleme i ranjivosti. Također, problem je i što dio takvih chatbotova od korisnika ne traži snažne lozinke, a nekim slučajevima čak nema ni načina na koji bi moglo spriječiti umjetnu inteligenciju da u razgovoru postane nasilna.
Puno je nepoznanica i o načinima na koji se njihova osobnost formira, na kojim su modelima trenirane, kao i kakve se procedure koriste za sprečavanje štetnog sadržaja te mogu li korisnici spriječiti da se njihovi razgovori koriste za daljnje treniranje AI modela.
