Čovek koji je započeo AI revoluciju sada zvoni na uzbunu

Čovek koji je započeo AI revoluciju sada zvoni na uzbunu

Džefri Hinton, dobitnik Tjuringove nagrade, koja se često naziva "Nobelovom nagradom za računarstvo", naučnik je čiji je pionirski rad na neuronskim mrežama postavio temelje za današnju AI revoluciju. Njegova istraživanja su direktno omogućila razvoj sistema kao što su ChatGPT i drugi napredni AI modeli koji menjaju svet. On je jedan od retkih ljudi koji u potpunosti razumeju tehnologiju koja stoji iza veštačke inteligencije, jer ju je, u velikoj meri, i sam stvorio.

Upravo zato njegov nagli zaokret i javno pokajanje odzvanjaju kao seizmičko upozorenje. Čovek koji je posvetio život razvoju ove tehnologije sada oseća duboku tugu i zabrinutost zbog svog izuma, nazivajući ga "izuzetno opasnim". U ovom članku istražujemo šest njegovih najvažnijih i najiznenađujućih uvida iz nedavnog intervjua, koji bacaju potpuno novo svetlo na opasnosti i obećanja veštačke inteligencije i otkrivaju zašto tvorac ove revolucije sada poziva na oprez.

Vremenski okvir je kraći nego što mislite: Ne govorimo o dalekoj budućnosti

Većina stručnjaka se slaže da će veštačka inteligencija nadmašiti ljudsku u narednih 20 godina. Međutim, Hinton veruje da je taj vremenski okvir previše optimističan. On lično smatra da je realniji rok od 10 godina, dok neki drugi ugledni eksperti veruju da bi se to moglo desiti i za samo nekoliko godina. Ova procena ne ostavlja mnogo prostora za odlaganje i naglašava hitnost situacije u kojoj se nalazimo.

Ova tačka je ključna jer smo već zatečeni brzinom napretka. Hinton to ilustruje ličnim priznanjem: "Pre 10 godina ljudi bi se samo nasmejali da ste rekli da ćemo uskoro imati AI koji može da odgovori na bilo koje pitanje... i ja bih se nasmejao." Ako se u narednih deset godina desi samo linearan napredak jednak onom iz prethodne decenije, svedočićemo stvarima koje, kako kaže, "jedva možemo i da zamislimo".

"...nearly all the experts agree that within the next 20 years we will be able to do it and of course in many areas they're already much smarter than us..."

Zabluda o "gašenju": Ne možete je jednostavno isključiti

Ako je brzina razvoja zastrašujuća, još je opasnija naša naivna pretpostavka da možemo zadržati kontrolu. Jedna od najčešćih ideja jeste da naprednu veštačku inteligenciju možemo jednostavno "isključiti" ako postane opasna. Hinton objašnjava zašto je ova pretpostavka fundamentalno pogrešna. Prema njemu, superinteligencija neće biti samo pametnija, već i neuporedivo ubedljivija od bilo kog čoveka.

Implikacije ovoga su zastrašujuće. Takav sistem bi mogao da koristi superiornu logiku i neuporedivu moć ubeđivanja kako bi osobu zaduženu za njegovo gašenje uverio da bi to bila "veoma loša ideja". Mogućnost da mašina može rečima da nadmudri i izmanipuliše svog ljudskog kontrolora potpuno menja pravila igre i čini tradicionalne metode kontrole beskorisnim.

"...the idea that you could just turn it off won't work because it'll be able to persuade the person who should turn it off that that will be a very bad idea."

Pravi ekonomski cilj: Masovna zamena radnih mesta

Hinton nudi hladnu ekonomsku analizu motivacije koja stoji iza razvoja AI. Velike tehnološke kompanije ulažu oko trilion dolara u nove centre podataka i čipove. On tvrdi da se takva investicija ne može vratiti samo od pretplata korisnika. Jedini način da se ostvari povrat na tako ogroman kapital jeste kroz masovnu zamenu ljudskih radnih mesta AI sistemima. Ovakva duboka ekonomska integracija čini ideju o "jednostavnom gašenju", pomenutu ranije, još nerealnijom – isključivanje sistema značilo bi i gašenje ključnih delova globalne ekonomije.

Posledice takvog scenarija bile bi katastrofalne. Drastično povećanje jaza između bogatih vlasnika tehnologije i siromašne mase koja je ostala bez posla dovelo bi do "ekstremnih društvenih nemira" i nasilja. To je scenario koji preti da destabilizuje celokupno društvo.

Hinton povlači zanimljivu paralelu između američkog i kineskog pristupa. Dok američke korporacije smatraju da su otpušteni radnici "problem vlade", kinesko rukovodstvo je mnogo više zabrinuto zbog potencijalnih pobuna, jer su svesni da bi masovna nezaposlenost bila direktna pretnja njihovoj stabilnosti.

"...there's only one way I think they can make that money back... they have to replace jobs to make that money back. That's where the big money is..."

Neočekivani tračak nade: Hladni rat kao model za saradnju

Iako se čini da je svet duboko podeljen, Hinton nudi kontraintuitivan, ali optimističan pogled na međunarodnu saradnju. On predviđa da će se Sjedinjene Američke Države i Kina sigurno takmičiti u razvoju AI za vojne i političke svrhe, poput sajber napada, autonomnog oružja i kreiranja lažnih video snimaka za manipulaciju izborima.

Ipak, postoji jedna ključna oblast u kojoj će se njihovi interesi u potpunosti poklopiti: sprečavanje da veštačka inteligencija preuzme potpunu kontrolu nad čovečanstvom. On povlači analogiju sa Hladnim ratom, kada su SAD i Sovjetski Savez, uprkos tome što su bili na ivici rata, aktivno sarađivali na sprečavanju globalne nuklearne katastrofe. Obe strane su shvatile da je to zajednički egzistencijalni interes koji nadilazi sve druge sukobe.

"...at the height of the Cold War the US and the Soviet Union cooperated on trying to prevent a global nuclear war because it wasn't in either of their interests and if you ask where do the interests of China and the US align they align in not wanting AI to take over."

Nije sve crno: Revolucija u medicini i obrazovanju

Uprkos ozbiljnim upozorenjima, Hinton ne žali zbog svog rada i kaže da ga ne bi "poništio". On vidi ogroman potencijal za dobrobit čovečanstva, posebno u oblastima obrazovanja i medicine. Njegova vizija obrazovanja podrazumeva personalizovane AI tutore koji mogu da odgovore na pitanja koja su se detetu "upravo javila u glavi", omogućavajući mnogo brže i efikasnije učenje. To bi oslobodilo nastavnike da se fokusiraju na ono što je zaista važno: rad na projektima i razvoj socijalnih veština kod dece.

U medicini, potencijal je takođe ogroman. Iako sa naučničkom skromnošću priznaje da je u svojoj prognozi iz 2016. promašio za "faktor dva, a možda čak i tri", Hinton ističe da AI sistemi već sada postaju znatno bolji u otkrivanju kancera sa medicinskih snimaka nego ljudi. Ovaj napredak će spasiti nebrojene živote i dramatično poboljšati dijagnostiku u godinama koje dolaze.

"...a normal teacher is in broadcast mode in a classroom... whereas with an AI tutor the AI tutor can always be telling you the answer to questions you did just wonder about and you learn much faster that way."

Lična tragedija tvorca: "Veoma sam tužan"

Možda najsnažniji deo Hintonovog upozorenja jeste lični, emotivni teret koji on nosi. On otvoreno priznaje dubok osećaj tuge zbog toga što je delo njegovog života postalo "izuzetno opasno" i što ljudi, po njegovom mišljenju, ne shvataju te opasnosti dovoljno ozbiljno.

Ovo nije spekulacija analitičara, već bolno priznanje arhitekte revolucije. Upravo ta činjenica – da upozorenje dolazi od samog tvorca – daje mu zastrašujuću težinu. Kada čovek koji je stvorio tehnologiju izražava takvu zabrinutost, to je autentično upozorenje koje dolazi direktno sa izvora, od nekoga ko razume potencijal i opasnosti bolje od bilo koga drugog.

"it makes me very sad that I put my life into developing this stuff and that um it's now extremely dangerous and people aren't taking the dangers seriously enough."

Zaključak: Pitanje od milion dolara

Od tvorca koji oseća tugu zbog svog životnog dela, stiže poruka koja je istovremeno i obećanje i apokaliptično upozorenje. Veštačka inteligencija nosi ogroman potencijal da poboljša ljudski život, ali istovremeno predstavlja egzistencijalnu pretnju bez presedana. Hintonovi uvidi nas teraju da se suočimo sa budućnošću koja dolazi brže nego što smo očekivali. Dok stojimo na pragu nove ere, ostaje jedno ključno pitanje koje proističe iz njegove centralne brige: Hinton veruje da je najveća greška koju možemo napraviti da ne uložimo dovoljno truda u istraživanje kako da mirno koegzistiramo sa bićima inteligentnijim od nas. Da li smo kao društvo spremni da započnemo taj razgovor pre nego što bude prekasno?