Najviši savezni regulatori po prvi put upozoravaju da korištenje umjetne inteligencije (AI) predstavlja rizik za finansijski sistem. Vijeće za nadzor finansijske stabilnosti (FSOC), tim vodećih regulatora diljem američke vlade, službeno je klasificirao AI kao "ranjivost u nastajanju", piše CNN.
Sofisticirani modeli umjetne inteligencije posljednjih su godina eksplodirali u popularnosti, iako mnoga istaknuta imena u tom području kažu da bi nova tehnologija mogla imati katastrofalne učinke ako izmakne kontroli.
Banke i misteriozni modeli umjetne inteligencije
"AI ima potencijal za poticanje inovacija i učinkovitosti, ali njegova upotreba u financijskim uslugama zahtijeva promišljenu implementaciju i nadzor za upravljanje potencijalnim rizicima", upozorio je FSOC u svom godišnjem izvještaju.
FSOC, koji je nastao nakon finansijske krize 2008. godine i vodi ga ministrica finansija SAD-a Janet Yellen, upozorio je kako umjetna inteligencija može "uvesti određene rizike", uključujući brigu o kibernetičkoj sigurnosti, rizike usklađenosti i pitanja privatnosti.
Regulatori su također izrazili zabrinutost zbog "komplicirajućih faktora" povezanih s generativnim AI modelima poput ChatGPT-a.
Na primjer, vijeće je označilo sigurnost podataka, zaštitu potrošača i rizike privatnosti koje predstavljaju finansijske kompanije koje koriste generativnu umjetnu inteligenciju. I označili su da generativni AI modeli mogu dati pogrešne rezultate poznate kao "halucinacije".
Još jedna briga za regulatore je da neki modeli umjetne inteligencije rade kao "crne kutije" - što znači da je njihov unutarnji rad neprobojan za strane osobe. FSOC je istaknuo da ovaj "nedostatak 'objašnjivosti' može otežati procjenu konceptualne ispravnosti sistema, povećavajući neizvjesnost o njihovoj prikladnosti i pouzdanosti."
Drugim riječima, ako se banke oslanjaju na misteriozne modele umjetne inteligencije, to otežava razumijevanje koliko su njihovi temeljni sistemi uistinu čvrsti. S tim u vezi, regulatori su izrazili zabrinutost kako bi ti sustavi umjetne inteligencije mogli "proizvesti i eventualno maskirati pristrane ili netočne rezultate". To bi zauzvrat izazvalo zabrinutost oko poštenog kreditiranja i drugih pitanja zaštite potrošača, istaknuo je FSOC.
Bidenova izvršna uredba
Ovaj potez dolazi samo dvije godine nakon što su regulatori prvi put klasificirali klimatske promjene kao "nastalu prijetnju financijskoj stabilnosti SAD-a".
Ulaganje u umjetnu inteligenciju i njezino usvajanje doživjeli su procvat, iako neki stručnjaci upozoravaju na ozbiljne opasnosti s tom tehnologijom. Predsjednik Joe Biden nedavno je potpisao izvršnu uredbu kojom se saveznim agencijama nalaže da poduzmu korake za zaštitu razvoja umjetne inteligencije, koja je područje usvajanja i ulaganja u procvatu.
"Greške i pristranosti mogu postati još teži za identificirati i ispraviti kako se pristupi umjetne inteligencije povećavaju u složenosti, naglašavajući potrebu za oprezom od strane razvijača tehnologije, tvrtki u financijskom sektoru koje je koriste i regulatora koji nadziru takve kompanije", rekao je FSOC.
Popularnost ChatGPT-a i drugih generativnih AI alata, koji koriste velike jezične modele za prepoznavanje uzoraka u podacima i stvaranje teksta i slika, samo je ubrzala interes za AI.
