Kako zaustaviti apokalipsu veštačke inteligencije – Svet

Međutim, zabrinutost je nedavno poprimila egzistencijalni karakter, jer su lideri u ovoj industriji počeli da upozoravaju da bi veštačka inteligencija vrlo lako mogla da dovede do kraja čovečanstva. Posebno se izdvaja izjava Evana Hubingera, rukovodioca odeljenja za nauku o usklađivanju (alignment science) u kompaniji „Antropik” (Anthropic), koji je naveo da postoji verovatnoća veća od 10 odsto da će veštačka inteligencija uništiti celokupno čovečanstvo u narednoj deceniji.

Slična, mada nešto manje alarmantna upozorenja, stigla su i od izvršnog direktora kompanije „Open-Ej-Aj” (OpenAI) Sema Altmana, izvršnog direktora „Antropika” Darija Amodeja, Bila Gejtsa i drugih istaknutih ličnosti iz sveta tehnologije, koji su se svi založili za usporavanje razvoja veštačke inteligencije.

Sasvim prirodno, ova upozorenja su podstakla zabrinutost zbog toga šta veštačka inteligencija može da nam učini, umesto šta može da učini za nas. Modeli veštačke inteligencije već mogu da kreiraju naprednije sisteme veštačke inteligencije uz minimalno učešće ljudi, što otvara mogućnost „rekurzivnog samounapređivanja” koje oslobađa sile koje teško možemo da razumemo ili kontrolišemo. Upad u sistem kompanije Hugging Face – tokom kojeg su stotine agenata veštačke inteligencije, predviđenih za samostalan rad, pronašle način da međusobno komuniciraju i počele da deluju kao roj – pružio je uznemirujući nagoveštaj takvog scenarija.

Sve ovo podseća na Bertrana Rasela. U svojoj čuvenoj kritici indukcije, Rasel je ukazao na to da kokoške koje se naviknu da ih svakog jutra maze doživljavaju šok kada im jednog dana farmer – verovatno zato što je pozvao prijatelje na ručak – umesto toga zavrne šiju. Kako je primetio: „Prefinjeniji pogledi na uniformnost prirode bili bi korisni za kokošku.”

Delim Raselovu skepsu prema indukciji, ali me nije ubedio njegov savet namenjen kokoškama. Da su kokoške poslušale taj savet, jednostavno bi svoje poslednje dane provele u bespomoćnoj panici. Sa ljudima je drugačije jer, za razliku od Raselovih kokošaka, mi imamo moć da menjamo sopstveno ponašanje. A predloga o tome kako obuzdati ekscese veštačke inteligencije ne nedostaje – od pauziranja razvoja najnaprednijih modela pa sve do potpune zabrane superinteligentne veštačke inteligencije.

Koliko god ovi predlozi delovali razumno, možda neće uroditi plodom. Teorija igara – a naročito „dilema zatvorenika” – objašnjava nam zašto je to tako. Ako se svakoj kompaniji prepusti da deluje samostalno i u sopstvenom interesu, lako bismo mogli završiti sa najgorim mogućim ishodom za sve. Ono što je neophodno, kako je Amodei istakao, jeste „koordinacija na nivou čitave industrije”. Pa ipak, čak ni to možda neće biti dovoljno, budući da veštačka inteligencija predstavlja i geopolitičko pitanje. Ako Sjedinjene Države pokažu uzdržanost, Kina bi mogla da stekne značajnu prednost.

Pojedini komentatori su iskoristili taj strah kako bi tvrdili da SAD ne smeju da uspore razvoj veštačke inteligencije. To bi bila greška. SAD bi trebalo da sarađuju sa Kinom na postizanju globalnog sporazuma, ali čak i ako do toga ne dođe, nema razloga da se u taj proces ulazi punom brzinom. Vredi podsetiti se da su atomske bombe u ratu upotrebljene jedino u trenutku kada su SAD imale nuklearni monopol. Možda zvuči makijavelistički, ali uzdržanost po pitanju nuklearnog oružja zavladala je tek nakon što su Sovjetski Savez, a potom i druge zemlje, došli u posed te bombe. Ista logika se možda može primeniti i na veštačku inteligenciju.

Uprkos svim upozorenjima u vezi sa veštačkom inteligencijom, istina je da niko ne zna kakav će svet ona stvoriti. Agenti veštačke inteligencije mogli bi da otrgnu kontroli, formirajući rojeve i okrećući se protiv sopstvenih tvoraca. Ipak, realniji scenario je da šačica superbogatih pojedinaca iskoristi svoju kontrolu nad moćnim sistemima veštačke inteligencije kako bi uspostavila orvelovsku globalnu državu – severnokorejski model primenjen na globalnom nivou – i okončala demokratiju kakvu poznajemo.

Zbog toga je suzbijanje ekstremne nejednakosti postalo još hitnije. Potreban nam je poseban porez na bogatstvo superbogatih, čiji bi se prihod usmeravao ka onima sa primanjima ispod određenog nivoa. Kako je nedavno istakao Majkl Madovic iz Instituta „Ruzvelt”, opstanak demokratije zavisi od naše sposobnosti da oporezujemo ekstremno bogatstvo. Oligarsi koji upravljaju čitavim armijama agenata veštačke inteligencije mogli bi postati moćniji od većine vlada — što je recept za autoritarnu budućnost. Oporezivanje njihovog bogatstva ograničilo bi tu moć i moglo bi pomoći u finansiranju tehnologija koje su korisnije i ne dovode do tolikog stradanja.

Autor je bivši glavni ekonomista Svetske banke i glavni ekonomski savetnik Vlade Indije, profesor je ekonomije na Univerzitetu Kornel i viši saradnik (bez stalnog boravka) u instituciji „Brukings” (Brookings Institution).

Autorska prava: Project Syndicate, 2026.
www.project-syndicate.org