Adrian de Wynte, Microsoftov naučnik i istraživač sa Univerziteta York, odlučio je testirati OpenAi-jev generativni model GPT-4, dajući mu da igra Doom bez prethodne obuke.
Mada netrenirani AI model nije bio previše uspješan u igranju, sam je naučio kako može otvarati vrata i pucati po objektima (čudovištima) u obliku ljudi.
Istraživač je otkrio da GPT-4 nema osjećaj postojanosti objekta koji mu predstavlja glavni cilj pa čim se neprijatelj makne izvan ekrana, AI toga više uopće nije svjestan. Mada ima upute o tome šta učiniti ako neprijatelj izvan ekrana uzrokuje štetu, model ne može reagirati ni na što izvan svog uskog opsega.
De Wynter kaže da mu bez obzira na to što nije uspješan u igranju Dooma, djeluje zabrinjavajuće koliko je bilo lako natjerati model da puca po "ljudima", a da zapravo ne slijedi upute. "Dakle, iako je ovo vrlo zanimljivo istraživanje oko planiranja i razmišljanja, i moglo bi imati primjenu u automatiziranom testiranju videoigara, sasvim je očito da ovaj model nije svjestan što radi. Snažno potičem sve da razmisle o tome što primjena ovih modela implicira za društvo i njihovu potencijalnu zloupotrebu", navodi istraživač.
S obzirom na to da se ratne tehnologije i najstrašnija oružja današnjice sve više unapređuju umjetnom inteligencijom, jasno je da ovakvo jednostavno programiranje autonomnog modela u pucačkoj igri od strane samo jednog čovjeka ima znatno veće implikacije, jer se postavlja pitanje što bi bilo kada bi vojska razvijala ratne robote na sličan način.
Kad razmišljamo o scenarijima iz Terminator filmova, obično smatramo da umjetna inteligencija treba postati potpuno samosvjesna i započeti eliminaciju ljudi kada procijeni da joj ljudska rasa više nije potrebna.
Prema ovom istraživanju ispada da budući Terminatori uopće ne bi morali mati takav nivo inteligencije, već bi nas mogli istrebljivati na temelju donošenja odluka do kojih dođu rudimentarnim zaključivanjem.
U svakom slučaju, obzirom da GPT-4 nije oklijevao pucati na objekte u obliku ljudi, ovo je prilično zabrinjavajuća stvar za našu budućnost.
