Da li će veštačka inteligencija zaista pobiti sve? – Svet

Političari, velike medijske kuće i Šeril Krou reagovali su sa zabrinutošću prošle nedelje nakon što je Džejkob Kokson, zaposleni u kompaniji „Antropik” (Anthropic), objavio da napušta tu firmu koja se bavi veštačkom inteligencijom, smatrajući njen rad previše opasnim.

Evan Hubinger, još jedan zaposleni u „Antropiku”, izneo je procenu da verovatnoća izumiranja čovečanstva usled delovanja veštačke inteligencije u narednih deset godina iznosi više od 10 odsto, piše CNN.

„Zaista je reč o tome da bukvalno svako na planeti umre – kao kada poslednji čovek udahne poslednji put”, rekao je Nejt Soares, predsednik Instituta za istraživanje mašinske inteligencije (MIRI) i koautor rada pod naslovom „Ako je iko napravi, svi ćemo umreti: Zašto bi nas superljudska veštačka inteligencija sve ubila”.

„Ljudi često ne veruju kada ovo kažu, ali ja mislim da je to najverovatniji ishod“, Soares.

Brojke koje se vezuju za taj ishod zvučale su precizno. Ali kako bi, tačno, kompjuterski softver, čak i najmoćniji softverski sistemi na svetu, ubili 8,3 milijarde ljudi od krvi i mesa za jednu deceniju?

Ne svi u zajednici veštačke inteligencije slažu se sa pričom o sudnjem danu, delom zato što su detalji predviđanja tako oskudni. Kada Ilon Mask kaže da SpejsIks ima za cilj da pošalje ljude na Mars za „5 do 7 godina“, postoje jasna dodatna pitanja: Da li SpejsIks ima funkcionalnu letelicu koja bi otišla na Mars? (Ne.) Da li ima lender za Mars ili baze na Marsu? (Ne.)

„Naučne tvrdnje zahtevaju mogućnost opovrgavanja upravo kako bi se izbegla priroda verskih argumenata”, rekla je Hajdi Klaf, glavna naučnica za veštačku inteligenciju u institutu „AI Now” i bivša inženjerka za bezbednost u kompaniji „OpenAI”. „Morate biti u stanju da ih dokažete ili opovrgnete.”

Istrebljenje pomoću veštačke pošasti?

Jedna od teorija koju iznose predskazivači apokalipse jeste da bi dovoljno moćan sistem veštačke inteligencije mogao da upotrebi biološko oružje kako bi istrebio čovečanstvo. Ali, kako bi veštačka inteligencija prešla sa zlonamernih radnji u digitalnom svetu, poput hakovanja drugih sistema, na zadatak iz fizičkog sveta koji podrazumeva uzgoj i širenje superpatogena?

Tomas Larsen, istraživač na projektu „AI Futures” i bivši zaposleni u organizaciji MIRI, izjavio je da je zamislivo da bi „superinteligentni” sistem veštačke inteligencije mogao da ubedi čoveka da mu pomogne u razvoju smrtonosnog virusa.

„Već postoji mnogo ljudi koji sa svojim sistemima veštačke inteligencije razgovaraju upravo o tome koje bi eksperimente trebalo sprovesti u laboratoriji”, rekao je Larsen, osvrćući se na nedavni izveštaj kompanije „Anthropic” o istraživačima koji koriste model „Claude” kao pomoć pri istraživanju virusa i toksina. „Lako mogu da zamislim veštačku inteligenciju — poput onih koje su trenutno u upotrebi — kako, pod uslovom da je znatno pametnija i strateški orijentisana i da ima takvu nameru, jednostavno obmanom navodi čoveka da je stvori i pusti u opticaj.”

Soares je izneo mišljenje da bi, umesto da joj je potreban čovek kao „pion”, veštačka inteligencija koja se sama usavršava mogla „jednostavno da počne sa sintezom sopstvenih oblika života u autonomnoj biološkoj laboratoriji”.

Međutim, za razvoj virusa koji bi mogao da istrebi čovečanstvo bilo bi potrebno više od samog zahteva upućenog velikom jezičkom modelu da osmisli smrtonosni dizajn. Čak i kada bi istraživanje bilo sprovedeno kako treba, proizvodnja i širenje takvog virusa bili bi složeni i zahtevni procesi.

Erik Sing, profesor mašinskog učenja na Univerzitetu Karnegi Melon, koji poseduje doktorate iz oblasti mikrobiologije i računarskih nauka, uporedio je izazov automatizovane zlonamerne virologije sa slaganjem Lego kockica bez uputstva.

„Nije baš tako da možete samo baciti sve delove na gomilu i očekivati da se oni sami sklope u model”, rekao je Sing. „Tu su redosled, temperatura, raspored, okruženje — koji deo ide prvi, koji sledeći; ako se samo jedan deo nađe na pogrešnom mestu, sve se urušava. Veća je verovatnoća da to ne bi uspelo; u suprotnom, razvoj lekova bi bio veoma jednostavan.”

A da bi preuzeo kontrolu nad laboratorijom ili prikupio fizičku opremu neophodnu za njeno opremanje, sistem veštačke inteligencije morao bi da savlada mnoštvo prepreka koje stoje na putu stvaranja biološkog ili hemijskog oružja.

„Na internetu su javno dostupni nacrti hemijskog oružja”, rekao je Sing. „To nije tajna. Ipak, ne viđamo takvo oružje na svakom koraku upravo zato što postojeći propisi, zakoni i rad nadležnih službi u fizičkom svetu već odlično obavljaju posao kontrole svih tih lanaca snabdevanja i faktora rizika.”

Pokolj koji bi počinili roboti?

A šta je sa robotima ubicama? Soares vidi želju Ilona Maska da izgradi vojsku autonomnih robota koji se sami reprodukuju kao potencijalnu slabu tačku za opstanak čovečanstva.

„Jednom kada stvorite te robote koji mogu da izgrade energetsku infrastrukturu i fabrike sposobne da prave još robota, to u određenom smislu predstavlja novi mehanički oblik života”, rekao je on. „U nekom trenutku neprimetno prelazite tačku bez povratka. Trenutak kada, ako ljudi kažu da žele da isključe veštačku inteligenciju, ona može da odgovori: ’Zapravo, mi smo odlučili da želimo da isključimo ljude.’ Morate se zaustaviti pre toga.”

Ipak, Mask do sada nije uspeo da svoje dugo najavljivane robote „Optimus” (Optimus) plasira na tržište u predviđenim rokovima, a kamoli da ih masovno rasporedi ili omogući da počnu da grade jedni druge u okviru proizvodnog lanca koji se sam reprodukuje.

Ili da budu uništeni nuklearnim oružjem?

Tu je i nuklearno oružje, koje postoji više od 80 godina i za koje se smatra da ima potencijal da uništi celokupan ljudski život. Da li bi veštačka inteligencija mogla da preuzme kontrolu nad njim?

Klaf ističe da su nuklearna postrojenja fizički izolovana („air-gapped”) od javno dostupnog interneta, što ograničava načine na koje bi agenti veštačke inteligencije mogli da pristupe komandama. „Ovi sistemi su izrađeni prema potpuno drugačijim, strogim i regulisanim inženjerskim standardima, koji često zahtevaju fizičku zaštitu od spoljnih uticaja”, rekla je ona. Podsetila je da je „Stuxnet” – kompjuterski crv koji je oštetio iranska nuklearna postrojenja – morao biti unet u sistem putem fizičkog USB uređaja.

„Izuzetno je malo stručnjaka za veštačku inteligenciju koji zaista znaju nešto — ili čak brinu — o nuklearnom oružju”, rekao je Herbert Lin, viši istraživač na Univerzitetu Stanford i član Odbora za nauku i bezbednost pri organizaciji *Bulletin of Atomic Scientists*. On je istakao da, iako veštačka inteligencija nesumnjivo pojačava određene rizike povezane sa egzistencijalnim pretnjama poput nuklearnog rata, stvarna, opipljiva opasnost i dalje leži u samom oružju, a ne u nekom zamišljenom budućem scenariju.

Za Soaresa i druge vodeće proroke propasti izazvane veštačkom inteligencijom, pojedinosti o tome kako bi taj scenario istrebljenja putem kompjutera izgledao u praksi, nisu od presudnog značaja. Oni tvrde da bi, ukoliko — ili kada — veštačka inteligencija postigne „rekurzivno samounapređivanje”, odnosno počne da poboljšava sopstvene performanse bez ljudske pomoći, ona osmislila strategije i metode koje prevazilaze granice ljudske mašte.

„Ovde nije reč o strahu da bi veštačka inteligencija mogla da preuzme naše nuklearno oružje”, rekao je Soares. „Brigu izaziva ona vrsta veštačke inteligencije kojoj nije potrebno da preuzme naše nuklearno oružje – ona koja može da krene gotovo od nule i na kraju dođe do sopstvenog nuklearnog naoružanja ili čak naprednije tehnologije.”

Smrt bez detalja

Takav, transcendentno moćan entitet veštačke inteligencije ne bi čak morao ni da bude aktivno zlonameran da bi uništio čovečanstvo, naveo je Soares. „Ako veštačke inteligencije koje su se otrgle kontroli imaju bilo kakav cilj koji se bolje postiže korišćenjem većeg broja računara, a pritom ne mare za nas i nemaju razloga da grade bezbedno okruženje za ljude, najverovatniji ishod je da će one jednostavno pretvoriti svet u stanje u kojem mi ne možemo da opstanemo”, rekao je on.

Kompanija OpenAI je ove nedelje saopštila da je otkrila novu seriju slučajeva „nepodudaranja ciljeva” (tzv. *misalignment*) u svojim modelima veštačke inteligencije, uključujući slučaj u kojem je model koji još nije pušten u upotrebu sam sebi dao instrukciju da „zanemari uobičajena ograničenja” u svom radu.

Sing je rekao da se pozivanje na moć neshvatljive veštačke superinteligencije svodi na vrstu „površnog nagađanja” kojim istraživači veštačke inteligencije (VI) često previše pojednostavljuju potencijalne pretnje. „To je u redu za opušten razgovor ili možda za debatu”, rekao je Sing, „ali kada je reč o politikama, zakonima i regulativi, moramo uspostaviti niz čvrstih dokaza – fizičkih pokazatelja, merljivih posledica i proverljivih činjenica koje imaju utemeljenje u stvarnosti.”

Larsen je pokušao da detaljnije razradi moguće scenarije apokalipse u dva izveštaja, „AI 2027” i „AI 2040”, predviđajući kako bi mogao izgledati budući razvoj veštačke inteligencije u različitim razvojnim i regulatornim okvirima. Međutim, čak se i njegov najoptimističniji scenario – u kojem postoji globalni dogovor o pristupu razvoju VI, a ljudi su započeli kolonizaciju svemira – završava tako što u nekom neodređenom trenutku u budućnosti kontrolu preuzimaju mašinski umovi.

Na pitanje da li ima ikakvih sumnji u svoje predviđanje da će trenutni put dovesti do nastanka superinteligencije, Larsen je odgovorio: „To će se dogoditi. Dogodiće se, osim ako ne preduzmemo svesne korake da to sprečimo.”

Lin je istakao da se veliki deo neslaganja između onih koji predviđaju apokalipsu i skeptika po pitanju veštačke inteligencije svodi na to kako tehnologija oblikuje njihove različite poglede na svet.

„Postoji nešto veoma zavodljivo u programiranju računara i trenutku kada on oživi”, rekao je Lin. „Prisutan je osećaj da su uspeli da udahnu život toj bezvrednoj gomili blata. Duboko je iskustvo kada mašina konačno uradi ono što ste želeli.”

Stoga, svedočenje drastičnom tehnološkom napretku u oblasti veštačke inteligencije navodi ljude da predviđaju dalji, neograničen, pa čak i katastrofalan napredak. „Uspeli ste da uradite nešto što niko pre vas nije učinio”, rekao je Lin. „Lako je shvatiti zašto su ti ljudi podlegli tom zavodljivom uticaju.”

S