“Algoritmi ne smeju odlučivati ko će živeti, a ko umreti”: Američki profesor ukazuje na primer izraelskog postupanja u Gazi – Svet

Ipak, jedna ozbiljna opasnost pominje se znatno ređe – pretnja koju predstavljaju smrtonosna oružja osnažena veštačkom inteligencijom. Potpuno autonomne verzije takvog oružja kolokvijalno se nazivaju „robotima ubicama“.

Postupanje Izraela u Gazi pokazuje da su takvi sistemi naoružanja sa veštačkom inteligencijom, u jednom važnom smislu, već stvarnost. Algoritam je odlučivao ko će živeti, a ko umreti, piše Kenet Rot, viši saradnik na Univerzitetu Jejl i bivši izvršni direktor organizacije Hjuman rajts voč, u tekstu za Gardijan.

Vlade se već više od decenije sastaju u Ženevi kako bi sprečile razvoj autonomnog oružja zasnovanog na veštačkoj inteligenciji. Početkom septembra, 128 vlada sastalo se kako bi usvojilo izveštaj koji bi mogao da posluži kao osnova za obavezujući međunarodni sporazum.

Međutim, grupa pravnika koje su poslali Donald Tramp i Vladimir Putin udružila se kako bi ublažila ovaj dokument. Posebno su oslabili odredbu kojom se zahteva da ljudi provere vojne ciljeve koje je odabrala veštačka inteligencija pre nego što bude izveden napad.

U fokusu su i dalje potpuno autonomna oružja, dok upotreba veštačke inteligencije za određivanje ciljeva za konvencionalno oružje nije obuhvaćena. Ugrožena je dugogodišnja težnja da se zadrži „čovek u procesu odlučivanja“ – odnosno stvarna ili delotvorna „ljudska kontrola“ nad oružjem koje koristi veštačku inteligenciju.

Za mnoge ljude, priča o „robotima ubicama“ budi slike Arnolda Švarcenegera u filmu „Terminator“. Ja sam o ovom problemu često razmišljao u kontekstu ustanka na trgu Tahrir, na vrhuncu Arapskog proleća, koji je doveo do svrgavanja egipatskog predsednika Hosnija Mubaraka.

Mubarakova sudbina bila je zapečaćena kada je egipatska vojska jasno stavila do znanja da će odbiti da puca na egipatske demonstrante. Ali „roboti ubice“ ne bi imali takve dileme. Da je Mubarak mogao da ih upotrebi, možda bi ostao na vlasti.

Pregovarači u Ženevi čak se i ne bave ovim problemom. Pravnici koje su poslali Tramp i Putin pobrinuli su se da se u usvojenom izveštaju govori samo o ratu, a ne o represiji.

Danas, usred ratovanja dronovima na istoku Ukrajine, ruske i ukrajinske snage eksperimentišu sa potpuno autonomnim oružjem kako bi prevazišle ometanje signala koji se koriste za upravljanje dronovima. Možemo očekivati da će se ova početna primena širiti.

Ipak, metafora „robota ubice“ može da zavara. Ako odluke o izboru ciljeva posmatramo šire, veštačka inteligencija je već preuzela tu ulogu. U Gazi izraelska vojska koristi veštačku inteligenciju za odabir ciljeva među Palestincima.

Izrael je dugo nadzirao telefonske komunikacije na toj teritoriji. Nakon napada Hamasa 7. oktobra 2023. godine, Izrael je koristio sistem veštačke inteligencije pod nazivom „Lavender“ kako bi otkrio obrasce koje je povezivao sa telefonom pripadnika Hamasa.

Ljudi čiji su telefoni, prema proceni veštačke inteligencije, ispunjavali te kriterijume mogli su biti ubijeni.

Pošto je bilo lakše napadati osumnjičene u njihovim domovima, zaseban automatizovani sistem pod nazivom „Where’s Daddy?“ („Gde je tata?“) pratio ih je do njihovih kuća, što je značilo da su često stradale i njihove porodice.

Nije se ni tvrdilo da Hamas koristi domove svojih operativaca u vojne svrhe. Jednostavno, sistemu veštačke inteligencije bilo je lakše da pronađe osumnjičene pripadnike Hamasa tamo gde su spavali. Njihove porodice predstavljale su kolateralnu štetu.

Teorijski, čovek je i dalje bio deo procesa odlučivanja, jer je cilj koji je odabrala veštačka inteligencija prosleđivan obaveštajnim oficirima koji su ga odobravali, a zatim slali drugim ljudima koji su izvodili napad. U praksi, uloga čoveka bila je samo formalna.

Ranije su odluke izraelske vojske o izboru ciljeva prolazile kroz značajnu proveru. Međutim, u talasu ubistava koji je usledio nakon napada Hamasa, ogromna potreba za novim ciljevima potisnula je takvu kontrolu u drugi plan.

Izraelski obaveštajci koji su dobijali ciljeve od veštačke inteligencije rutinski su ih prosleđivali napadačima bez dodatnog preispitivanja.

Jedan od oficira opisao je to ovako: „U ovoj fazi bih svakom cilju posvetio 20 sekundi i svakog dana ih obrađivao na desetine. Kao čovek nisam imao nikakvu dodatnu vrednost, osim što sam predstavljao pečat odobrenja. To je uštedelo mnogo vremena“.

Od računara do ubistva, ljudsko prosuđivanje koje je bilo uključeno u proces bilo je samo formalnost – „stavljanje pečata“. U suštini, algoritam je igrao Boga.

Jedan izraelski oficir sugerisao je da bi takva praksa mogla biti opravdana jer veštačka inteligencija donosi bolje odluke od ljudi. Ona je nepristrasna, dok ljudsko rasuđivanje može biti pomućeno, na primer neprijateljstvom prema svim Palestincima koje su neki Izraelci osećali nakon napada Hamasa.

Kako je jedan izraelski vojnik objasnio: „Mnogo više verujem statističkom mehanizmu nego vojniku koji je pre dva dana izgubio prijatelja. Svi tamo, uključujući i mene, izgubili su nekoga 7. oktobra. Mašina je to uradila hladno. I zbog toga je bilo lakše“.

Ipak, na algoritme veštačke inteligencije neizbežno utiču ljudski unosi. Koliko je dokaza potrebno da bi neko bio identifikovan kao pripadnik Hamasa? Kolika margina greške se prihvata?

Odgovori na ta pitanja zavise od procena programera veštačke inteligencije i njihovih nadređenih – običnih Izraelaca koji su, u besu nakon napada Hamasa, možda umanjivali vrednost života palestinskih civila. Čak je i izraelska vojska priznala da oko 10 odsto ljudi označenih kao mete za atentat uopšte nisu bili pripadnici vojnog krila Hamasa.

Izraelski predsednik Isak Hercog najbolje je pokazao odnos prema palestinskim civilima kada je rekao: „Tamo je čitava nacija odgovorna. Nije tačna ta retorika da civili nisu bili svesni, da nisu bili uključeni – to apsolutno nije tačno. Mogli su da ustanu i bore se protiv tog zlog režima“.

Isti prezir doprineo je i šokantnoj spremnosti izraelske vojske da toleriše civilne žrtve. Izraelska vojska je dopuštala da se očekuje do 20 poginulih civila kako bi bio ubijen samo jedan osumnjičeni nižerangirani pripadnik Hamasa.

Prema načelu proporcionalnosti, međunarodno humanitarno pravo zabranjuje napad tokom rata ako se „može očekivati da će prouzrokovati slučajni gubitak života civila… koji bi bio prekomeran u odnosu na konkretnu i direktnu vojnu prednost koja se očekuje“.

Iako međunarodno pravo ne propisuje broj civilnih žrtava koji je prihvatljiv u određenoj situaciji, praktično nijedan pravni stručnjak ne smatra da je šokantan odnos Izraela od 20 prema jedan u skladu sa zakonom.

To su ratni zločini. Oni odražavaju zastrašujuće obezvređivanje života palestinskih civila.

To me podseća na pojam „banalnosti zla“ Hane Arent: obični vojnici postali su saučesnici u izuzetnoj surovosti verujući onome što nazivaju „sistemom“. Suštinu tog sistema ipak su činili ljudi – generali koji su naredili njegovo stvaranje, vojni pravnici koji su opravdavali neopravdivo, programeri koji su podešavali algoritam, obaveštajci koji su prosleđivali ciljeve generisane pomoću računara i vojnici koji su izvodili napade.

Ali deo onoga što je olakšalo poverenje u sistem bila je prividna naučna preciznost veštačke inteligencije. Svi smo upoznati sa samouverenim, autoritativnim tonom današnjih četbotova. Kada se veštačka inteligencija koristi za određivanje ciljeva, ona i ubistvima daje sličan privid sveznanja.

Kada nesavršeni ljudi donose odluke, mogu očekivati da će ih drugi preispitivati. Međutim, veštačka inteligencija olakšava da se prepustimo njenim procenama. Takvo poverenje može dodatno pojačati ljudske predrasude koje neizbežno prodiru u svaki sistem veštačke inteligencije.

Dok nastojimo da ograničimo „robote ubice“, moramo obratiti pažnju i na veštačku inteligenciju koja nas može uljuljkati u samozadovoljstvo kada je reč o drugim načinima određivanja ciljeva. Međunarodni komitet Crvenog krsta to naziva „pristrasnošću automatizacije“.

Da bi ljudska kontrola nad veštačkom inteligencijom bila stvarna i delotvorna, nije dovoljno samo formalno odobravanje njenih odluka. Potrebno je temeljno preispitivanje rezultata koje ona daje, kao i odgovornost komandanata kada mlađi oficiri zakažu u tom procesu.

Samo takav kritički odnos može pružiti nadu da će vojnici koji koriste veštačku inteligenciju imati na umu da se na kraju lanca ubijanja koji ona omogućava nalaze stvarni ljudi. Čak ni u ratu ljudi nikada ne bi smeli da budu lišeni života pukom mehaničkom primenom algoritma.