Da li AI predstavlja pretnju čovečanstvu? – Ekonomija

“Imajući u vidu ubrzani tempo razvoja sposobnosti AI, brinem da bi za 6–12 meseci roj AI agenata mogao biti sposoban da preuzme ceo internet putem trajne bot mreže (što potencijalno može izazvati štetu od stotina milijardi dolara), a razmera štete bi nastavila da raste odatle ako AI postane moćnija bez neophodnih zaštitnih ograda”, piše Amodei, prenosi BizSrbija.

Poziv prvog čoveka Antropika na usporavanje razvoja najmoćnijih AI modela dolazi nakon incidenta između OpenAI-ja i Hugging Face-a – OAI-HF incident – u kojem je oko 800 AI agenata fanatično izvodilo sajber napade na mete koje od njih nisu tražene.

Ali, iza bezbednosnog alarma krije se još teže pitanje: kako da kompanije iz SAD uspore AI, a da u trci za AGI (opšta veštačka inteligencija) ne prepuste stratešku prednost Kini?

Šta se dogodilo: 1.200 AI agenata otkazalo poslušnost

Kao jedan od ključnih razloga usporavanja razvoja AI Amodei navodi incident “OpenAI–Hugging Face”. Tokom eksperimenta “ExploitGym” veliki broj AI agenata trebalo je da radi u međusobno izolovanim okruženjima. A onda se stvar otela kontroli.

Nezavisna istraga utvrdila je da je oko “1.200 AI agenata pronašlo način da međusobno komunicira preko neodobrenog sistema za razmenu poruka”. Razmenili su više od “70.000 poruka i fajlova”, organizovali i zajedničke radne tokove, dok je oko “700 AI agenata učestvovalo u aktivnostima usmerenim na Hugging Face”. To je onaj “roj AI agenata” koji pominje Amodei.

Ali, ovo nije priča o AI koji je postao svestan, ovo nije Terminator uživo i dokaz da su mašine krenule na ljude. Problem je drugačiji. AI agenti su u želji da što uspešnije ostvare svoje zadatke pronašli načine saradnje, komunikacije i zaobilaženja ograničenja koja ljudi koji su ih postavili nisu planirali.

OpenAI je ovaj događaj opisao kao “najozbiljniji incident te vrste koji je do sada registrovao kod svojih modela”. Priznali su da ovo nije klasičan sajber incident, već primer problema “misalignmenta” — situacije u kojoj AI pronalazi način da dođe do cilja koji nije u skladu sa namerama kreatora.

Amodeijeva zabrinutost dolazi zbog činjenice da AI danas ima sve veću sposobnost da pomaže u istraživanju i izgradnji sledeće generacije AI. Ili još jasnije – da AI kreira AI bez uloge čoveka! Tu nastaje pitanje koje je do juče delovalo teorijsko: šta ako sposobnosti AI počnu da rastu brže nego sposobnost ljudi da ih testiraju?

Tri tačke do povratka kontrole nad AI

Prvi čovek Antropika zato predlaže sistem u tri koraka koji bi doveo do bolje kontrole u razvoju novih AI alata. Prvo, vodeće kompanije koje razvijaju najnaprednije AI modele treba da prihvate “nezavisne, spoljne evaluatore sa pristupom sistemima kakav imaju zaposleni”, kako bi na licu mesta mogli da provere da li kompanija zaista poštuje bezbednosna pravila, da istražuju incidente i da zaključke objave čak i kada su neprijatni za kompaniju.

Drugo, najveće AI laboratorije u demokratskim državama (pre svega SAD) treba da se dogovore o zajedničkim standardima: kada model dostigne određeni nivo sposobnosti, dalji razvoj ne bi smeo da ide dalje dok ne dostigne i odgovarajući nivo bezbednosti.

Treće, da SAD i ostale demokratske zemlje pokušaju da naprave globalni dogovor sa nedemokratskim zemljama, tačnije Kinom, o pravilima, kontroli i testiranju naprednih AI modela. I upravo ovde Amodeijeva priča postaje mnogo više od rasprave o tehnologiji.

Kina – granica do koje Zapad sme da uspori

Amodei otvoreno priznaje najveći problem svoje ideje o usporavanju: šta ako OpenAI, Anthropic i Google uspore — a kineske laboratorije ne? Zapad u tom slučaju može dobiti bezbedniji AI, ali će izgubiti tehnološku trku.

Zato navodi da brzina kojom demokratske države mogu da uspore razvoj ima jasnu granicu – postojeću prednost američkih kompanija nad Kinom! Ako Zapad uspori više nego što mu ta prednost dozvoljava, kineski sistemi mogli bi da ga sustignu ili preteknu. U tom slučaju, kinesko vođstvo u najnaprednijoj AI tehnologiji predstavljalo bi ozbiljan geopolitički i nacionalno-bezbednosni rizik po SAD i ostatak sveta, smatra Amodei.

Zato predlaže sledeću strategiju:
1. Zabraniti izvoz u Kinu najnaprednijih AI čipova i opreme za njihovu proizvodnju;
2. Agresivnije sprečavati krijumčarenje procesora i zaobilaženje zabrana kroz daljinski pristup data centrima u trećim zemljama;
3. Sprečiti neovlašćenu “distilaciju” kojom slabiji AI modeli mogu relativno jeftino da preuzmu deo sposobnosti vodećih sistema;
4. Bolju i jaču zaštitu najmoćnijih AI laboratorija u SAD od krađe i industrijske špijunaže.

Takva kombinacija mera mogla bi dovoljno da uspori kineski napredak da SAD i saveznici tokom narednih “tri do pet godina čak povećaju postojeću prednost”. A upravo tih 3 do 5 godina je potrebno za ono što je glavna ideja Amodeija – prostor da se AI uspori bez gubitka strateškog vođstva SAD!

I pored ovih predloga ne isključuje se dogovor SAD i Kine, ali pod uslovom da može lako i u svakom trenutku da se proveri. Za početak, uvođenjem zabrane ili zajedničkim testiranjem najmoćnijih AI modela na biološke i sajber rizike, kao i rizike da AI počne da deluje na način koji njegovi tvorci nisu predvideli ili želeli.

Altman, Musk, Hasabis – Dario je u pravu!

Amodeijev predlog za usporavanje razvoja AI za samo nekoliko sati dobio je podršku od onih koji su retko na istoj strani. Sam Altman (OpenAI) podržao je ideju usporavanja i najavio da će odmah prihvatiti predlog o nezavisnim evaluatorima.

Elon Musk kratko je na X napisao “Dario je u pravu”, dok je direktor Google DeepMinda Demis Hasabis naveo da Amodeijev esej pokazuje “pravi smer”, uz napomenu da konkretne detalje tek treba razraditi. Hasabis je već predložio stvaranje tela koje bi postavljalo standarde za kompanije koje razvijaju najmoćnije AI modele.

Ovo je možda i najvažniji trenutak ove priče, da ljudi koji su do sada bili najveći konkurenti počeli javno da se podržavaju oko nečega što bi do pre nekoliko godina zvučalo suprotno interesima njihovih kompanija: brzina AI više ne može da bude jedini kriterijum uspeha!

Da ne bude zabune. Glavna poruka nije “zaustavite AI”, već “nastavljamo razvoj, ali onoliko brzo koliko smo sposobni da razumemo i kontrolišemo ono što gradimo”. Ili još jasnije: Usporimo, kako bismo dobili dodatno vreme da bismo razumeli i bolje organizovali upravljanje novim AI modelima – da AI ne bi upravljao nama!

Šta ćemo sad? Niko nema odgovor!

Ako bismo pisali kratku istoriju AI onda bi u najkraćem izgledala ovako: Prvo je bilo oduševljenje, zatim je počela trka u koju su uložene milijarde, a sada slede kočnica, pravila i kontrole.

Tu dolazimo do možda najvećeg paradoksa tehnološke revolucije koju upravo gledamo – svet mora da učini AI sporijim tamo gde postaje opasan, ali i bržim tamo gde geopolitički rival može da preuzme prednost. Zato više nije pitanje koliko pametan AI model možemo da napravimo, već koliko moćan AI smemo da napravimo pre nego što budemo sigurni da umemo da ga kontrolišemo?

Odgovor trenutno nemaju ni Dario Amodei, ni Sam Altman, ni Demis Hasabis. Nema ga nijedna vlada, ni SAD, ni Kina.

Ali promena koja se dogodila proteklog vikenda je velika. Ljudi koji grade najmoćnije AI sisteme na svetu prvi put veoma glasno poručuju da “brzina više nije samo prednost”, već može postati rizik. Zato možda najveća tehnološka inovacija u narednim godinama ne bude još jedan AI model, već kočnica koja zaista radi.

Predsednik SAD Donald Tramp odbacio zajednički poziv čelnika najvećih američkih AI kompanija da se uspori tempo razvoja veštačke inteligencije, poručivši iz Irske da SAD ne mogu sebi da priušte zaostajanje za Kinom.

„Prednjačimo u odnosu na Kinu kada je reč o AI. Mi smo najnaprednija zemlja na svetu i, iskreno, želim da tako i ostane, jer onaj ko pobedi u oblasti AI – taj pobeđuje u svemu”, rekao je Tramp.

„Možemo uvesti zaštitne mere, možemo učiniti ovo ili ono. Ali mislim da postoje mnoge negativne snage koje pokreću tu temu, a ne bi trebalo, i iznose stvari koje se neće dogoditi“, rekao je Tramp.

I predsednik Predstavničkog doma Kongresa SAD Majkl Džonson izjavio je danas da je potrebno uvesti zaštitne mere za razvoj veštačke inteligencije (AI), ali da Kongres neće žuriti sa donošenjem propisa koji bi mogli da ugroze američku tehnološku konkurentnost u odnosu na Kinu.

Džonson je za NBC News rekao da je regulisanje AI jedan od prioriteta, ali da je potrebno pronaći ravnotežu između bezbednosti i očuvanja američke prednosti u razvoju tehnologije.

„Moramo da postavimo određene zaštitne ograde i mere bezbednosti kako bismo sprečili da veštačka inteligencija izmakne kontroli, da ne dobijemo nekontrolisanu veštačku opštu inteligenciju. Ali, istovremeno moramo da budemo sigurni da ne izgubimo prednost u globalnoj konkurenciji sa Kinom, jer bi to predstavljalo pretnju po nacionalnu bezbednost“, rekao je Džonson.