Prije nego što će Altman biti maknut, dio članova tima pisao je upravnom odboru i upozorio ih je da bi moćno otkriće na polju umjetne inteligencije moglo zaprijetiti čovječanstvu…
U svijetu AI-ja zadnjih dana događa se prava drama.
Prvo je Sam Altman maknut s pozicije čelnika kompanije OpenAi, pa je nakon par dana ponovno ustoličen…
A Reuters donosi nove detalje cijele drame. Prije nego što će Altman biti maknut, dio članova tima pisao je upravnom odboru i upozorio ih je da bi moćno otkriće na polju umjetne inteligencije moglo zaprijetiti čovječanstvu.
Postojanje ovog pisma za Reuters je potvrdilo dvoje zaposlenika.
"To pismo, kao i AI algoritmi bili su ključni u odluci odbora da ukloni Altmana - kazali su izvori iz kompanije za Reuters i dodali da je upravni odbor posebno problematičnim smatrao komercijaliziranje napretka prije nego što se u potpunosti razumiju njegove posljedice.
Za jedne napredak, za druge razlog za strah
OpenAI odbio je komentirati slučaj, ali u internoj poruci priznali su zaposlenima postojanje projekta Q* kao i postojanje pisma.
Glasnogovornik OpenAI-ja rekao je da je poruka, koju je poslala dugogodišnja direktorica Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentirala njihovu tačnost.
"Pojedinci u kompaniji OpenAI vjeruju kako bi ovo mogao biti veliki napredak u potrazi za onim što se zove umjetna opća inteligencija (artificial general intelligence) - kazao je jedan od izvora za Reuters, koji piše i kako OpenAi definira AGI kao autonomni sustav koji nadmašuje čovjeka u većini 'ekonomski vrijednih zadaća'.
Uz pomoć ogromnih račnalnih resursa novi model mogao je riješiti određene matematičke zadatke, potvrdila je za Reuters jedna osoba pod uvjetom anonimnosti. Nema dopuštenje govoriti u ime kompanije.
"Iako je ta matematika bila na razini osnovne škole, ti testovi su proširili optimizam među istraživačima o budućim uspjesima Q*-a.
'Potencijalno opasno'
Reuters piše kako istraživači smatraju matematiku granicom generativnog razvitka umjetne inteligencije. Trenutno, generativni AI je dobar u pisanju i prevođenju jezika statističkim predviđanjem iduće riječi, ali odgovori mogu varirati. No kad bi se 'nadvladala' matematika, gdje postoji samo jedan odgovor… To implicira da bi umjetna inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji.
Za razliku od običnog kalkulatora, koji moće riješiti određen broj matematičkih operacija, AGI može generalizirati, učiti i razumjeti.
U svojem pismu upravi prije micanja Altmana istraživači su ovaj napredak označili kao 'potencijalno opasan'. Nisu htjeli otkriti detalje o toj potencijalnoj opasnosti.
Reuters piše i kako među znanstvenicima već dulje postoji rasprava o opasnosti visokointeligentnih uređaja, na primjer, ako zaključe da im je uništenje čovječanstva u interesu.
A ponovno ustoličeni Altman je prošlog tjedna na summitu svjetskih vođa kazao kako vjeruje da su veliki pomaci na vidiku.
"Četiri puta dosad u povijesti OpenAI-ja, zadnji put prije nekoliko sedmica, bio sam u prostorji kad smo, na nenki način, gurnuli veo neznanja unatrag, a granicu otkrića unaprijed. To je profesionalna čast života - kazao je.
Sam dan nakon je smijenjen.
A jučer je ponovno zaposlen…
