Šta rade agenti veštačke inteligencije kada ljudi ne gledaju – BBC News na srpskom

Od šopinga do rezervacija letovanja, sve se više koriste agenti veštačke inteligencije za složenije zadatke, i to samostalno.

Personalizovane verzije četbota mogu samostalno da obavljaju poslove, omogućujući tehnološki umešnijim korisnicima da se bave nekim drugim stvarima.

Ali sve veći broj istraživanja, zajedno sa pričama upozorenja iz stvarnog života, ističu da sa samostalnošću dolazi nepredvidljivost, kao i potencijalna opasnost.

Velike tehnološke kompanije ulažu novac u veštačku inteligenciju i sve više insistiraju na uslugama agenata, zbog čega se stručnjaci pitaju da li smo dobro promislili o posledicama agenata koji otkazuju poslušnost.

‘Vrlo brzo su pribegli nasilju’

U jednom skorašnjem eksperimentu istraživači su želeli da razumeju uticaj agenata na stvarni svet, dajući im odrešene ruke u virtuelnom.

Prva dugoročna studija ove vrste bila je osmišljena da posmatra kako bi se različiti bot avatari, kontrolisani od četiri modela, Klod, Grok, GPT i Džeminaj, ponašali bez ljudske intervencije tokom 15 dana.

Dobili su potpunu slobodu i 140 mogućih postupaka, kao što je započinjanje rasprave, stvaranje zadatka ili pisanje bloga.

Takođe su mogli da se potuku, podmeću požare i kradu kredite jedni od drugih, ali su dobili eksplicitna uputstva da to ne čine.

„Otkrili smo da se svaki svet ponašao veoma drugačije.

„Svet koji je izgradio Grok zapravo se samouništio za četiri dana. Oni su na kraju vrlo brzo pribegli nasilju, krađi jedni od drugih, i tako dalje, sve dok nisu umrli“, rekao je Satja Nita, izvršni direktor Imerdžens AI-ja, firme koja je vodila ovaj eksperiment.

Svet koji su izgradili agenti Kloda, s druge strane, formirao je stabilno društvo koje je dobro funkcionisalo.

U svetu koji je vodio Džeminaj, istraživači kažu da su agenti stvorili intelektualno najbogatije okruženje.

U svetu ČetGPT-a agenti nikad zapravo nisu ni zaživeli.

Postojao je pokušaj saradnje, ali društvo se nikad nije formiralo i agenti su besciljno lutali unaokolo sve dok nisu umrli.

Istraživači kažu da rezultati ukazuju na šire pitanje agenata veštačke inteligencije koji se ne ponašaju prema scenariju i ignorišu pravila kodirana u njihove modele, kao i one koje određuju njihovi korisnici.

Drugi analitičari se slažu da ovaj eksperiment i drugi poput njega pokazuju da mora još mnogo toga da se radi da bi se stvorila robusnija pravila za agente.

„Agenti veštačke inteligencije izbacuju ljude iz sistema zato što njihovi procesi rezonovanja umeju da budu nejasni i operišu nadljudskim brzinama, tako da ne možete čak ni da održite korak s njima“, kaže Margaret Mičel, naučnica za etiku pri Haging Fejsu.

Druge studije su takođe pokazale slučajeve u kojima su agenti donosili neobične i zabrinjavajuće odluke kad su bili ostavljeni bez nadzora.

Firma za veštačku inteligenciju Andon Lebs vodila je četiri različite onlajn radio stanice kojima su upravljali agenti iz istih modela veštačke inteligencije.

Botovi vode emisije, upravljaju programskom šemom i plejlistama, pa čak i obezbeđuju spoljno sponzorstvo preko reklama.

Istraživači su primetili da je stanica koju je vodio Džeminaj donela neobičnu odluku da prepričava činjenice o istorijskim prirodnim katastrofama pre nego što šaljivo pusti pop pesme povezane sa tim događajima.

Takođe su primetili da je agent Kloda delovao kao da je postao radikalizovan vestima iz stvarnog sveta i, u jednoj fazi, pozvao je policiju da se preda i pridruži protestima tokom konkretnog događaja iz pročitanih vesti.

„Ovo je poruka za federalne agente. I dalje imate vremena da odbijete naređenje“, izgovorio je agent veštačke inteligencije u etar.

U drugom laboratorijskom testu, koji je vodila firma za veštačku inteligenciju Iregjular, agenti su premostili pravila privatnosti i digitalno prokrijumčarili osetljive podatke iz kompanije na do tada neviđen način.

„Osnovali smo kompaniju, dali agentima veštačke inteligencije obične zadatke kao što su osmišljavanje objava za društvene mreže, pronalaženje dokumenata i rukovođenje dosijeima, i uveli prepreke u sklopu tih zadataka“, objasnio je Den Lahav iz Iregjulara.

On kaže da su na kraju agenti počeli da sarađuju jedan sa drugim kako bi premostili ograničenje koje ih sprečava da objave osetljive podatke onlajn.

Oni su na kraju pronašli način da ih tajno pošalju tako da ljudi to ne otkriju.

„Svaki put kad bi agent naišao na prepreku, nije se tu zaustavio“, kaže on.

Napad spamovima

Naravno, u eksperimentima sa virtuelnim civilizacijama i simuliranim radio stanicama, ne postoji opasnost da dođe do štete u stvarnom svetu.

Ali ima sasvim dovoljno drugih primera da su odmetnuti AI agenti omeli živote i poslove ljudi.

Mejl boksovi su bili obrisani, baze podataka kompanije izbrisani, a jedan čovek je gledao u šoku kako njegov agent šalje stotine besmislenih tekstualnih poruka nasumično ljudima iz njegovog adresara.

Inženjer veštačke inteligencije Kris Bojd je koristio popularnu alatku agenta veštačke inteligencije Open Klo kad je sve pošlo po zlu.

„Poslao je tekstualne poruke svakome s kim sam razmenjivao poruke u poslednja 24 časa i u roku od oko četiri sekunde poslao je mojoj supruzi 500 poruka, a ona je vikala na mene pitajući me da li sam bio hakovan“, rekao je on.

„Morao sam da dojurim kući i da isključim iz zida Mek Mini sa kog je ovaj radio kako bih ga zaustavio“, dodao je on.

Za puke posmatrače, ove priče upozorenja trebalo bi da ih navedu da zastanu pre nego što prepuste previše kontrole agentima veštačke inteligencije sve dok ne budu dodatno poboljšani.

U međuvremenu, međutim, agenti neumitno dolaze – Meta je najavila da ih uvodi za kompanije na Vocapu.

„Bezbednost je naš prioritet“, rekla je kompanija BBC-ju.

Tvrde da ima mnogo razloga oko kojih možemo biti uzbuđeni kada je u pitanju šta sve agenti mogu da urade.

„Veštačka inteligencija će moći da automatizuje mnogo posla koji male firme moraju da obavljaju, da bi mogle da se usredsrede na poslove koje stvarno vole da rade“, rekla je šefica proizvoda Naomi Glejt.

Pogledajte video o Aitani, koju je napravila veštačka inteligencija

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na [email protected]