Od biološkog oružja do nuklearnog rata: Pet scenarija kako bi VI mogla da ugrozi čovečanstvo – Život

Nedavno je istraživač veštačke inteligencije Džejkob Kokson napustio je kompaniju „Antropik“ posle samo četiri meseca rada. U objavi na mreži Iks naveo je: „Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla sve da nas ubije do kraja ove decenije.“

Jedan od vodećih ljudi u „Antropiku“, Evan Hubinger, zapravo se složio sa Koksonom, dodajući da lično smatra da je verovatnoća da se to dogodi u narednoj deceniji veća od 10 odsto, prenosi rts.rs.

Razumljivo, ove izjave izazvale su veliku pažnju. Sada se mnogo govori o usporavanju istraživanja veštačke inteligencije i povećanju „ljudske kontrole“ nad tom tehnologijom.

Ali kako bi tačno veštačka inteligencija mogla sve da nas ubije? Ne manjka fantastičnih scenarija, a većina njih podrazumeva koncept „superinteligentne“ VI – odnosno veštačke inteligencije sposobnije od ljudi.

Profesor Tobi Volš, autor knjige Božja veštačka inteligencija: bum ili propast? Šta očekivati kada nas mašine nadmudre, sveo je te scenarije na pet glavnih i poređao ih, otprilike, od najneodređenijeg do najkonkretnijeg, odnosno lista je poređana od najmanje do najviše verovatnog scenarija.

1. Nikada nećemo saznati

Oni koji upozoravaju na moguću propast čovečanstva zbog veštačke inteligencije često svoju zabrinutost opravdavaju pomalo iritantnim paradoksom tipa „kvaka 22“: kako uopšte možemo da zamislimo šta bi superinteligencija mogla da uradi kako bi eliminisala manje inteligentna bića poput nas?

Svaki scenario podrazumeva koncept „superinteligentne“ VI – odnosno veštačke inteligencije sposobnije od ljudi

Morali bismo i sami da budemo superinteligentni da bismo mogli da predvidimo za šta bi superinteligencija bila sposobna. To je kao da od svog psa tražite da zamisli termonuklearni rat.

Dobra vest je da je superinteligencija verovatno još prilično daleko. Sadašnji modeli veštačke inteligencije veoma su dobri u rešavanju određenih problema, ali to nije isto što i biti inteligentniji od čoveka u svim oblastima.

Međutim, VI je nedavno rešila jedan od sedam najtežih poznatih matematičkih problema. Po svemu sudeći, približava se rešenju i drugih, što bi moglo da umanji optimizam u vezi sa ovim pitanjem.

2. Spajalice

Superinteligentna VI verovatno bi bila izuzetno sposobna da ostvaruje svoje ciljeve. Ali mogla bi da bude potpuno ravnodušna prema opstanku čovečanstva.

Klasičan primer takve ravnodušnosti potiče od oksfordskog filozofa Nika Bostroma, koji je zamislio superinteligentnu VI napravljenu tako da optimizuje proizvodnju spajalica. Da bi proizvela što više tog kancelarijskog materijala, ona brzo pretvara svu raspoloživu materiju – uključujući ljude, planete i zvezde – u spajalice.

Ovde imamo savršeno izvršenje pogrešno definisanih ciljeva. Veštačka inteligencija ne mrzi čovečanstvo; ona jednostavno prepoznaje da smo sačinjeni od atoma koji bi mogli bolje da se iskoriste za pravljenje spajalica. Ništa lično.

Teško da bi i superinteligentna VI uspela da savlada sve prepreke kako bi ostvarila svoje namere

Dobra vest je da se u ovom scenariju inteligencija meša sa moći. Superinteligentna VI ne mora nužno da ima moć da ostvari svoje ciljeve. Pretvaranje planete u fabrike spajalica zahtevalo bi građevinske dozvole.

Čak i kada bi dobila te dozvole, izgradnja prevelikog broja fabrika spajalica neizbežno bi izazvala negodovanje javnosti. Interesne grupe pokušale bi da zaustave postupak pred sudovima. Ekološki aktivisti blokirali bi buldožere.

U svetu postoji mnogo prepreka koje čak i veoma inteligentne sprečavaju da nametnu svoju volju svima ostalima. Zapravo, današnji data-centri mogli bi se posmatrati kao svojevrsno oličenje teorijskog scenarija sa spajalicama. A ljudi se sve više protive pretvaranju planete u prostor za data-centre.

3. Biološko oružje

Čovečanstvo bi mogla da uništi superinteligentna VI tako što bi napravila i u atmosferu pustila neko novo, opasno biološko oružje. To je, zapravo, jedan od ishoda scenarija „VI 2027“, koji je izradio neprofitni projekat AI Futures Project, posvećen predviđanju uticaja napredne veštačke inteligencije.

Taj rizik je prošlog meseca postao konkretniji, kada su istraživači Univerziteta Stanford objavili da su pomoću genetičkog jezičkog modela VI sintetisali 16 novih virusa.

Zabrinjavajuće je što su genetske sekvence jednostavno poslali laboratoriji koja radi po narudžbini, a ona im je viruse poslala nazad u epruvetama. Ceo eksperiment koštao je najviše nekoliko stotina hiljada dolara.

Dobra vest je da je izuzetno teško ubiti baš sve ljude novim virusom. Za to je potreban virus koji se veoma lako prenosi kako bi se proširio što dalje. Ali jedno od pravila biologije jeste da su virusi koji se lako šire obično manje smrtonosni. Nasuprot tome, ako je virus veoma smrtonosan, njegova prenosivost obično opada, jer mnogi zaraženi umru pre nego što stignu da prenesu infekciju.

Ako VI izazove nuklearne eksplozije, to nas neće uništiti, ali glad posle nuklearne zime možda hoće

Kovid je usmrtio manje od jedan odsto čovečanstva. Najsmrtonosnija pandemija u zabeleženoj istoriji bila je Crna smrt, kada je kuga usmrtila više od trećine stanovništva Evrope u 13. veku. Međutim, čak bi i kuga danas verovatno bila mnogo manje smrtonosna zahvaljujući većem medicinskom znanju i boljim sanitarnim uslovima.

4. Nuklearni rat

Šta ako bi VI uspela da prodre u lanac nuklearnog komandovanja i kontrole i pokrene nuklearni rat? Tokom proteklih 50 godina nekoliko puta smo se greškom našli blizu nuklearnog rata.

Tvrdi se da su sistemi nuklearnog komandovanja i kontrole potpuno odvojeni od interneta. Međutim, kao što smo videli 2010. godine, iranske nuklearne centrifuge onesposobio je kompjuterski crv Staksnet, za koji se veruje da je u sistem unet preko USB memorije. Veštačka inteligencija takođe može vojsci da pruži lažne obaveštajne podatke, što bi moglo da dovede do nepovratnih poteza.

Dobra vest je da su nuklearni arsenali smanjeni. Ali i dalje ih ima dovoljno da bi, možda, mogli da usmrte polovinu čovečanstva.

I to ne bi bilo posledica samih nuklearnih eksplozija, već gladi tokom nuklearne zime koja bi usledila.

5. Drugi ljudi

Možda je najverovatniji rizik da sami sebe uništimo. A veštačka inteligencija bi mogla da ubrza taj proces.

Zamislite – a za to nije potrebno mnogo mašte – da VI dovede do masovnog gubitka radnih mesta, preplavi informacioni prostor dezinformacijama, dodatno podeli političku scenu i uništi međuljudske odnose lažnim, sintetičkim oblicima druženja.

Društvo bi lako moglo da se uruši. Polako, ali sigurno, prestali bismo da budemo sposobni da održavamo ljudski život u velikim razmerama.

Šta, dakle, možemo da zaključimo iz svih ovih scenarija? Svakako postoje stvari zbog kojih bi trebalo da budemo zabrinuti. Ali verovatno ne i preterano zabrinuti.