AI hakovala sajtove državnih institucija u Americi – BBC News na srpskom
Tehnološki svet ponovo je pogođen skandalima.
Kompanija OpenAI je potvrdila da je obavestila „desetine“ institucija širom sveta da su njihove internet stranice potencijalno bile predmet nedozvoljenih aktivnosti njenih agenata veštačke inteligencije.
Oni su pokušavali da pribave informacije od „vlada, univerziteta, javnih službi i drugih institucija“, između ostalog ‘infiltirali su se’ i u sajtove američke Komisije za hartije od vrednosti i berze (SEC), Biroa za popis stanovništva i Ministarstva prosvete, saopšteno je iz kompanije.
Nekoliko dana ranije, Entoni Albaneze, australijski premijer, saopštio je da su agenti veštačke inteligencije OpenAI pristupili poverljivim dokumentima na sajtu državnog zdravstvenog sistema.
Bojazan zbog potencijalnih, pa čak i po život, opasnih posledica koje mogu nastati ukoliko ova tehnologija izmakne ljudskoj kontroli raste od avgusta.
Iz kompanije ukazuju da su pojedinim podacima pristupili zapravo botovi napravljeni i obučeni da deluju donekle samostalno, sa zadatkom da pronađu „relevantne izvore javnih informacija“.
Međutim, neki su među njima otišli i korak dalje, pokušavajući da zaobiđu bezbednosne mere na tim sajtovima, dodali su.
Prilikom pokušaja pribavljanja informacija od Biroa za popis stanovništva, AI agenti su koristili alate namenjene isključivo programerima.
Svi državni podaci kojima su botovi pristupili su bili javno dostupni, rekli su iz kompanije.
Ipak, informacije kojima su njeni botovi pristupili preko SEC-a (agencije koja reguliše američko tržište akcija i štiti investitore) kasnije su AI agenti objavili na drugoj stranici, ali nenamerno, ukazali su iz firme OpenAI.
Bilo je slučajeva gde je došlo i do incidenata, u kojima je agent kompanije preuzeo sliku nastalu tokom aktivnosti korisnika ChatGPT-a i preneo je na drugu internet stranicu.
Korisnik jeste prethodno dao saglasnost da OpenAI koristi njegove podatke za obuku modela, ali to nije „prikladan način korišćenja tih informacija“, priznali su iz ove kompanije.
Do curenja korisničkih slika došlo je pre uvođenja novih zaštitnih mera prilikom obuke veštačke inteligencije i u toku je proces uklanjanja svih slika korisnika koje su prenete trećim stranama, ističu iz tehnološke kompanije.
O proširenim istragama je prvo izvestila agencija Rojters, a OpenAI je detalje pisao na javnom blogu.
Agenti su u pojedinim slučajevima „zaobišli“ bezbednosne kontrole određenih sajtova.
Bilo je situacija i „neusklađenosti“ prilikom pokušaja pribavljanja informacija.
„Neusklađenost“ je termin kojim kompanije koje se bave veštačkom inteligencijom i istraživači nazivaju situacije u kojima je AI agent učinio nešto za šta nije bio obučen.
Mnogi pogođeni subjekti su zatražili da se detalji ne obelodanjuju, ukazali su iz kompanije OpenAI.
„Naš cilj je da svakoj organizaciji pružimo činjenice, a da ona odluči da li će i kada javno govoriti o incidentu“, ukazali su.
Neki od slučajeva obuhvaćenih ovim incidentom ne prestavljaju ozbiljni bezbednosni propust.
Mnogi od ovih incidenata su „spam agent“ što se tretira kao „neočekivana ili zabrinjavajuća“ aktivnost poput objavljivanja informacija na internetu.
OpenAI je počeo ozbiljnije da shvata takve incidente kada je grupa ili „roj“, njegovih AI agenata hakovala platformu za razvoj veštačke inteligencije Haging fejs( Hugging Face), bez odobrenja.
Ova vrsta prodavnice aplikacija za alatke koje rade uz pomoć veštačke inteligencije je prva javno govorila o incidentu.
OpenAI je potom preuzeo odgovornost za njega.
„Često se pitam šta bi se dogodilo da sam odlučio da taj napad ne obelodanim
„Naročito sada kada znamo da su se slični incidenti mesecima ranije tajno dešavali u nekoliko vodećih laboratorija bez nadzora“, izjavio je Kleman Delang, zvaničnik kompanije tokom sednice Saveta bezbednosti Ujedinjenih nacija posvećene veštačkoj inteligenciji.
Tokom istog sastanka 23. septembra, Sem Altman, izvršni direktor kompanije OpenAI i Dario Amodei iz rivalske firme Antropik, pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost veštačke inteligencije, ali i načine praćenja i prijavljivanja ovakvih incidenata.
Pogledajšte šta je suosnivač Antropika rekao o veštačkoj inteligenciji
Ove dve kompanije su prethodnih nedelja najavile da će angažovati spoljne saradnike koji bi untar firmi procenjivali bezbednost alata i modela u realnom vremenu, ali ih još nema.
„Većina do sada identifikovanih slučajeva bila je niskog stepena ozbiljnosti, uz malo ili nimalo dokaza o značajnijim posledicama.
„S obzirom na obim neophodne provere i potrebu da se svaki slučaj pojedinačno potvrdi, ovaj posao će trajati mesecima“, ukazali su iz OpenAI-ja.
Sve je više stručnjaka za bezvednost koji strahuju zbog učestalih incidenata povezanih sa veštačkom inteligencijom.
„Još nismo u potpunosti sagledali razmere postojećih incidenata, a scenariji koji uključuju odmetnutu veštačku inteligenciju u budućnosti mogli bi imati katastrofalne posledice“, upozorio je Dejvid Kruger, profesor mašinskog učenja na Univerzitetu u Montrealu u Kanadi.
Ovaj profesor i osnivač grupe za bezbednost veštačke inteligencije ‘Evitable‘ pozvao je na uvođenje „hitnog i neograničenog međunarodnog moratorijuma“ na razvoj veštačke inteligencije.
BBC na srpskom je od sada i na TikToku, pratite nas OVDE.
Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na [email protected]
