Jedan od "kumova" umjetne inteligencije (AI) rekao je da bi dao prednost sigurnosti nad korisnošću da je shvatio tempo kojim će se ona razvijati. Profesor Yoshua Bengio rekao je za BBC da se osjeća "izgubljenim" zbog svog životnog djela.
Komentari računarskog naučnika dolaze nakon što su stručnjaci za AI rekli da bi to moglo dovesti do izumiranja čovječanstva.
Profesor Bengio, koji se pridružio pozivima za regulaciju umjetne inteligencije, rekao je da ne misli da bi vojske trebale dobiti ovlasti za umjetnu inteligenciju.
On je drugi od takozvana tri "kuma" umjetne inteligencije, poznatih po svom pionirskom radu na tom području, koji je izrazio zabrinutost oko smjera i brzine kojom se razvija.
U intervjuu za BBC, profesor Bengio rekao je da mu više nije jasno njegovo životno djelo, koje mu je dalo smjer i osjećaj identiteta.
"To je izazovno, emocionalno govoreći, za ljude koji su unutar [sektora umjetne inteligencije]", rekao je.
"Moglo bi se reći da se osjećam izgubljeno. Ali morate nastaviti i morate se angažirati, raspravljati, poticati druge da razmišljaju s vama."
Kanađanin je potpisao dvije nedavne izjave u kojima poziva na oprez u vezi s budućim rizicima umjetne inteligencije. Neki akademici i stručnjaci iz industrije upozorili su da bi tempo razvoja mogao rezultirati zlonamjernom umjetnom inteligencijom koju bi koristili loši akteri kako bi aktivno nanijeli štetu - ili odlučila sama nanijeti štetu.
Vlasnik Twittera i Tesle Elon Musk također je izrazio svoju zabrinutost.
"Ne mislim da će umjetna inteligencija pokušati uništiti čovječanstvo, ali mogla bi nas staviti pod strogu kontrolu", rekao je nedavno na događaju koji je organizirao Wall Street Journal.
"Postoji mala vjerovatnost da će uništiti čovječanstvo. Blizu nule, ali nije nemoguće."
Njegov kolega "kum" dr. Geoffrey Hinton također je potpisao ista upozorenja kao i profesor Bengio, a nedavno se povukao iz Googlea rekavši da žali zbog svog rada.
Profesor Bengio rekao je za BBC da sve firme koje izrađuju moćne AI proizvode moraju biti registrirane.
"Vlade moraju pratiti što rade, moraju ih moći revidirati, a to je samo minimalna stvar koju radimo za bilo koji drugi sektor kao što je izgradnja aviona ili automobila ili farmaceutskih proizvoda", rekao je.
"Također trebamo ljude koji su bliski ovim sustavima da imaju neku vrstu certifikata… ovdje nam treba etička obuka. Usput, računarski naučnici to obično ne dobiju."
Ali ne vjeruju svi u ovoj oblasti da će umjetna inteligencija biti propast ljudi.
Treći "kum", prof. Yann LeCun, koji je zajedno s prof. Bengiom i dr. Hintonom osvojio prestižnu Turingovu nagradu za svoj pionirski rad, rekao je da su apokaliptična upozorenja prenapuhana.
Drugi tvrde da postoje neizbježniji problemi kojima se treba pozabaviti.
Dr. Sasha Luccioni, naučnica u firmi Huggingface koja se bavi umjetnom inteligencijom, rekla je da bi se društvo trebalo usredotočiti na pitanja kao što su pristranost umjetne inteligencije, prediktivni policijski nadzor i širenje dezinformacija putem chatbota za koje je rekla da su "vrlo konkretne štete".
"Trebali bismo se fokusirati na to, a ne na hipotetski rizik da će AI uništiti čovječanstvo", dodala je.
Već postoje mnogi primjeri AI koji donose dobrobiti društvu. Prošle je sedmice AI alat otkrio novi antibiotik, a paralizirani čovjek mogao je ponovno hodati samo razmišljajući o tome, zahvaljujući mikročipu razvijenom pomoću AI.
Ali to je u suprotnosti sa strahovima o dalekosežnom utjecaju umjetne inteligencije na ekonomiju zemalja. Firme već zamjenjuju ljudsko osoblje alatima umjetne inteligencije i to je faktor trenutnog štrajka koji vode scenaristi u Hollywoodu.
"Nikada nije kasno za poboljšanje", kaže profesor Bengio o trenutnom stanju umjetne inteligencije. “To je tačno kao klimatske promjene.
"Stavili smo mnogo ugljika u atmosferu. I bilo bi bolje da nismo, ali da vidimo šta sada možemo učiniti."
