“Stvarnost 2030. će biti neprepoznatljiva”: Slavoj Žižek o posledicama veštačke inteligencije u “liberalnom fašizmu” – Svet

On pruža prilično detaljnu viziju našeg sveta 2030. godine, koju opisuje kao „neprepoznatljivu“ za one od nas koji su još uvek ukorenjeni u tradicionalnom shvatanju čoveka — međutim, da bih svoju poentu izneo krajnje direktno, smatram da će stvarnost 2030. godine biti neprepoznatljiva čak i onima koji prihvataju Hararijevu viziju 2030. godine.

Hararijeva polazna pretpostavka (sa kojom se slažem) jeste da se danas događa nešto čega većina nas nije u potpunosti svesna – kraj čovečanstva kakvo poznajemo, koje je postojalo otprilike 10.000 godina, od trenutka kada su plemena kamenog doba počela da koriste jezik.

Sa naglim usponom veštačke inteligencije, jezik više nije samo sredstvo koje ljudi koriste za međusobnu komunikaciju i interakciju; on stiče potpunu samostalnost i počinje da funkcioniše kao zaseban akter, prekidajući pupčanu vrpcu koja ga je povezivala sa ranjivim majmunolikim bićima koje nazivamo ljudima.

(Ovde nailazim na prvi problem – da li jezik bez subjekta/subjekata, jezik koji deluje kao samostalan akter, još uvek funkcioniše kao jezik? Nadalje, može li se jezik zaista svesti na njegove dve funkcije — intelektualnu kalkulaciju i izražavanje emocija? Ali time sam se već bavio na drugom mestu.)

Harari razrađuje tri velika prekida koji označavaju kraj čovečanstva kakvo smo poznavali:

Prvo, postoji ogroman sistem veštačke inteligencije – on sadrži znanje koje daleko nadmašuje ljudsko pamćenje i koje je trenutno dostupno.

To znanje obuhvata i informacije o pojedincima koji borave unutar sistema veštačke inteligencije — u tom smislu, kako se često kaže, AI nas poznaje bolje nego što poznajemo sami sebe.

Pored toga, AI ne samo da prikuplja znanje i obavlja kognitivne operacije (zaključivanje) nad njim – ona više nije samo alat, mašina koja prati naređenja i radi ono što joj se kaže; ona je već akter spreman da donosi autonomne odluke, odluke za koje nije bila programirana.

Ona ne samo da uči i menja samu sebe kako bi izvršavala svoje zadatke, nego je već sposobna da iznova definiše same te zadatke…

Moja reakcija je ovde dvostruka. Kao prvo, naravno da sebe ne poznajemo dobro zato što imamo Nesvesno, odnosno zato što sama naša subjektivnost podrazumeva da sebi nismo u potpunosti spoznatljivi.

Kada je reč o odlučivanju, ljudsko odlučivanje je slobodno upravo u tom smislu što je njegova najosnovnija dimenzija ono što je Frojd nazivao nagonom smrti, izborom ničega.

U oba slučaja ostaje otvoreno pitanje u kojoj meri AI pokazuje ove dimenzije – subjektivnost, nagon smrti i nesvesno.

Drugo, AI, zajedno sa tehnološkom primenom uvida do kojih su došle nauke o mozgu, briše granicu između stvarnosti i fikcije. Naše opažanje spoljašnje stvarnosti i naša interakcija sa njom oduvek su bili posredovani socioistorijskim simboličkim kontekstom, tako da je ono što vidimo zapravo „kontrolisana halucinacija“ (Anil Set) – naša percepcija stvarnosti nije neposredan prozor u svet, već najbolja moguća interna simulacija koju mozak aktivno stvara i koju neprestano koriguju čulni podaci.

Danas „interna simulacija“ više nije samo spontani proces koji regulišu naš mozak i zajednička ideologija; ona se sve više generiše svesno planiranom tehnološkom manipulacijom.

Nije reč samo o tome da je ono što izvan sebe vidimo kao stvarnost lažno poput pozadine naslikane na velikom zidu u filmskoj sceni, kako ne bi bilo potrebno izgraditi stvarne kuće ili u pozadinu scene postaviti pravo drveće.

Naš perceptivni aparat se neposredno manipuliše, tako da ono što mislimo da tamo spolja vidimo zapravo nije tamo — čak ni kao naslikana lažna pozadina ili simulirani zvuk – direktno se deluje na naše nerve.

Kao što većina nas zna, ne samo bol ili zadovoljstvo već čak i orgazam već mogu biti izazvani bez vizuelnih predstava u našem umu, jednostavnom direktnom stimulacijom naših nerava.

Kada neposredne intervencije u naš mozak postanu stvarnost, postaće moguće da se u naš mozak ubace lažna sećanja, pa čak i traume koje nikada nismo doživeli u stvarnosti…

Moj odgovor na ovo jeste insistiranje na ključnoj lakanovskoj razlici između Realnog i stvarnosti, koja se ni na koji način ne poklapa sa razlikom između stvarnosti-po-sebi i načina na koji nam se stvarnost pojavljuje, prožeta fikcijama i fantazijama.

Nije dovoljno žaliti se na to što razvoj veštačke inteligencije podriva razdvajanje činjenica i fikcija, ali nije dovoljno ni slaviti našu sposobnost da se bez poteškoća krećemo između činjenica i fikcija kao neku novu vrstu slobode — katastrofu takve „slobode“ jasno vidimo u velikom delu današnje politike (Tramp, Putin, Izrael), gde se pojavljuje novi diskurs koji čak ni ne teži tome da bude istinit u tradicionalnom smislu.

Na ontičkom nivou stvarnosti, trebalo bi više nego ikada da insistiramo na činjeničnoj istini, ali istovremeno moramo biti svesni da se na fundamentalnijem, ontološkom nivou, razlika između istine i fikcije zamagljuje.

I na kraju, ali ne najmanje važno, Sveti gral čitavog ovog razvoja jeste mogućnost Neuralinka, odnosno „umreženog mozga“ – kombinacija AI-ja, neurohirurgije i tehnologije zasnovane na naukama o mozgu otvara put ka neposrednoj komunikaciji između toka naših misli i digitalnog aktera.

Više nam nije potreban ekran da bismo komunicirali sa veštačkom inteligencijom; AI agent može direktno da čita ono što se odvija u našem umu i da na osnovu toga deluje.

Kada kompanije predstavljaju prve, još uvek skromne implante koji omogućavaju digitalnoj mašini da čita naše misli, gotovo uvek navode dobronamerni scenario – na primer, kako takav implant omogućava potpuno paralizovanoj osobi da saopštava svoje misli (ona misli, a AI mašina ih izgovara) ili da deluje bez fizičkog pokreta (AI agent pročita njenu misao i pomeri joj stolicu, uključi televizor i slično).

Mnogo se ređe pominje da komunikacija može da ide i u suprotnom smeru – naše misli mogu biti kontrolisane od strane AI agenta, a, naravno, i od strane drugog čoveka koji kontroliše tog AI agenta. Mogućnost koja se ovde otvara jeste potpuna transparentnost unutrašnjeg toka mojih misli za spoljašnju AI mašinu — i za one koji tom mašinom upravljaju.

Iako je Harari poznat po svojim stalnim upozorenjima da je era čoveka završena, on je ovde previše optimističan jer slika blisku budućnost (2030. godinu) u kojoj će pojedinci moći da stupaju u emocionalne odnose sa stvarnim i digitalnim osobama.

To se već sada događa, kada ljudi provode sate razgovarajući sa ChatGPT-om — ali zamislimo mnogo razvijeniji sistem u kojem stavim digitalne naočare i započnem razgovor sa svojim preminulim ocem, čija je virtuelna ličnost rekonstruisana na osnovu mojih i tuđih sećanja, kao i drugih tragova iz prošlosti (snimaka i slično).

Ali ko kontroliše tu igru? Šta ako je moguće da budemo kontrolisani iznutra, tako što nam se u um usađuju misli i lažna sećanja, a da toga uopšte nismo svesni? Zamislimo da mi se u um usadi sećanje da me je otac silovao, koje doživljavam kao autentično sećanje.

I šta ako se pojavi nova klasa gospodara koji mogu da čitaju naše misli i intervenišu u njih, ali sami nisu podvrgnuti Neuralinku? Šta ako oni isključeni ne budu samo marginalizovani inferiorni slojevi, već elita gospodara koja kontroliše i manipuliše stanovnicima singularnosti?

Što se tiče Neuralinka, Harari zamišlja da će pojedinac moći slobodno da bira kojoj će se kolektivnoj svesti pridružiti (naučnicima? pesnicima?) — zaista?

Hoće li moja individualnost preživeti uranjanje u ono što se naziva „singularnošću“? Pošto je implant koji reguliše moj kontakt sa Neuralinkom mehanički uređaj, očigledno je da kontrolu vrši onaj ko te implante povezuje ili isključuje.

Nisam naivni levičar koji smatra da je AI neutralna mašina čije društvene posledice zavise isključivo od društvenih okolnosti u kojima funkcioniše – u samoj formalnoj strukturi AI-ja upisana je tendencija ka tehnološkoj kontroli i dominaciji.

Zato je teško zamisliti srećnu, emancipovanu zajednicu ljudskih pojedinaca koji zajedno obitavaju u singularnosti – u singularnosti nema seksa, nema šala, nema komunikacije u kojoj drugi ostaje nedefinisan.

Zaključak koji se nameće jeste da svaki veliki tehnološki proboj otvara put ka novom varvarstvu – njegov kvazi-oslobađajući efekat na kraju se pretvara u ono što je Herbert Markuze nazvao „represivnom desublimacijom“ — termin koji je uveo u svojoj knjizi Čovek jedne dimenzije iz 1964. godine.

Može se tvrditi da je Teodor Adorno prvi ukazao na ovaj pravac u svojoj analizi Stravinskog i njegovog Posvećenja proleća („Stravinski i reakcija“), drugom delu knjige Filozofija nove muzike (1949). Adorno je pronicljivo primetio kako Stravinskijev modernizam, njegovo muzičko oponašanje ritma brutalne industrijske proizvodnje, za svoj sadržaj uzima stare ruske varvarske i nasilne žrtvene mitove.

Prema Markuzeu, „represija“ u poznom kapitalizmu ne funkcioniše putem kontrole i uskraćivanja, već putem dopuštanja i izražavanja – sva zadovoljstva su dozvoljena — u komodifikovanom obliku — što dovodi do kontrolisanog izražavanja svih želja i potreba.

Drugim rečima, danas represija funkcioniše kroz desublimaciju želje, pri čemu se nijedna želja ne potiskuje u podzemlje – pornografija, seksualni rad, kultura droga, BDSM, furi kultura, gej kultura, raskošan način života, transkultura i slično više se ne posmatraju kao negativni ili štetni životni stilovi.

Njihovo praktikovanje sada je društveno odobreno i čak slavljeno – pripadnost ovakvim oblicima života više nije subverzivni čin ili stil života — ona sada, putem forme vrednosti, reprodukuje kapitalizam.

Današnji eksplozivni razvoj AI agenata doveo je represivnu desublimaciju na novi nivo, do sada nezamisliv u svim njenim dimenzijama — od univerzuma postistine do zamagljivanja razlike između javnog prostora kao takvog i privatnog prostora, a da ne govorimo o digitalnoj kontroli onoga što radimo i mislimo.

AI mediji takođe igraju ključnu ulogu u tome što su tokom poslednje decenije brutalnost i bestidna opscenost prodrle u javni politički diskurs – ne samo kroz svoje reči već i kroz svoje postupke (javne izjave o tome kako se zatvorenici muče), SAD i Izrael sada praktikuju represivnu desublimaciju.

Tramp i Netanjahu (a da ne pominjemo Hegseta i Bena Gvira) često se u javnosti izražavaju na način koji je donedavno bio zamisliv samo u privatnim razgovorima ili privatnoj razmeni imejlova.

Njihov govor je doslovno govor represivne desublimacije – on je istovremeno definitivno desublimisan (brutalno otvoren, bez ograničenja koja štite ljudsko dostojanstvo) i represivan (najavljuje ništa manje brutalno postupanje prema onima koji su označeni kao neprijatelji, uključujući i uništenje čitave civilizacije).

Ovde se ne bavimo samo posledicom AI-ja, već vrlo specifičnim sklopom društvenih okolnosti u kojima AI funkcioniše. Još uvek tragamo za pravim nazivom tog novog sklopa okolnosti – digitalni neofeudalizam, liberalni fašizam, novi oblik bonapartizma…

Svesni smo da se ovi nazivi vrte oko fenomena koji je nesumnjivo stvaran i čiju težinu svi osećamo.

Funkcionisanje AI-ja ne može se odvojiti od neofeudalne klasne borbe, koju na poguban način simbolizuje petorka Gejts–Mask–Til–Bezos–Zakerberg.