Da li smo na pragu eksplozije inteligencije?

Naučna fantastika je često zasnovana na opasnostima superinteligentne veštačke inteligencije (AI) – sistema koji prevazilazi najbolje ljudske sposobnosti u gotovo svim kognitivnim domenima. Iako su današnji vodeći AI modeli, poput onih koji pišu i rafiniraju sopstveni softver, daleko od superinteligencije, postavlja se pitanje da li to samousavršavanje može prerasti u pravu superinteligenciju.

Ideja "ultrainteligentne mašine" i "eksplozije inteligencije" seže u 1965. godinu, kada je statističar Irving John Good predvideo da bi računar, kada postane dovoljno sofisticiran, mogao rapidno da poboljša samog sebe. Primeri uskog samousavršavanja već postoje: AlphaGo Zero je 2017. godine, igrajući sam sa sobom, za samo nekoliko dana postigao poboljšanje koje bi čoveku trajalo ceo život. AI sistemi poput OpenAI-jevog Codexa i Anthropicovog Claude Codea već mogu samostalno da pišu ili ažuriraju postojeći kod.

AI modeli pokazuju nadljudske sposobnosti u apsorpciji i manipulaciji ogromnom količinom informacija, trenirani su na više teksta nego što bi bilo koji čovek mogao pročitati za života. Takođe, u određenim fokusiranim domenima, poput pronalaženja novih i efikasnijih algoritama (poput DeepMindovog AlphaDeva), AI sistemi već otkrivaju rešenja koja ljudi ranije nisu našli.

Međutim, ključni nedostatak je veštačka opšta inteligencija (AGI), dinamično i fleksibilno rasuđivanje koje omogućava primenu veština iz jedne oblasti u drugu. Iako AI može da radi samostalno, trenutni sistemi i dalje zavise od ljudskih kodera da postave ciljeve i odrede šta se smatra stvarnim napretkom. Nisu još uvek sposobni za robusnu nezavisnu evoluciju.

Kada se fleksibilno rasuđivanje (AGI) postavi na temelj ogromne informacione baze i brzine koju AI već poseduje, ideja o Goodovoj rapidnoj samopoboljšanju prestaje da zvuči kao naučna fantastika. Iako trenutno nismo u fazi potpuno samousavršive AI, nalazimo se u fazi "AI-ja koji poboljšava delove sledećeg AI-ja, sa rastućom autonomijom". Zbog rizika od nekontrolisanog samousavršavanja, kompanije za AI redovno sprovode bezbednosne testove.

Izvor: scientificamerican.com