Rekao je ChatGPT-ju da želi da ubije sina, a onda je uhapšen – BBC News na srpskom

UPOZORENJE: U ovom tekstu pominju se nasilje i samoubistvo.

„Ponudio sam mu 50.000 da ubije mene i mog sina, ali nije želeo, jer je upleteno dete.

„Hteo sam da znam odakle potiče ta želja za ubijanjem ljudi. Volim osećaj kad vidim da druga osoba pati.“

U periodu od skoro dva meseca, brazilski zemljoradnik je razmenio ove i druge poruke sa ChatGPT-jem, u sklopu, kako kaže policija, planova da ubije osmogodišnjeg sina, napadne druge, a onda da sebi oduzme život.

Ove poruke, u koje je BBC Njuz Brazil imao uvid, dovele su do njegovog hapšenja.

U jednom od vrlo malog broja slučajeva ove vrste, 36-godišnji muškarac je uhapšen pošto je OpenAI, tvorac ChatGPT-ja, označio njegove poruke i poslao ih američkom Federalnom istražnom birou (FBI), koji je obavestio brazilske vlasti.

„Govorio je gluposti“ četbotu, kaže njegov advokat i tvrdi da nije počinio nikakav zločin.

Ovaj slučaj ukazuje na sve veće probleme za policiju, sudove i AI kompanije – šta bi trebalo da se dogodi kad četbotovi veštačke inteligencije prepoznaju potencijalnu pretnju pre nego što je počinjen bilo kakav zločin?

‘Sve što nam je platforma prosledila bilo je potkrepljeno’

Čovek, koga BBC neće imenovati da bi zaštitio identitet njegovog sina, uhapšen je u ruralnom Sao Gabrijelu da Palji 19. juna – tri dana pošto je jedinica za borbu protiv sajber zločina brazilskog Ministarstva pravde prosledila slučaj državnoj policijskoj službi.

„Dali smo prioritet ovom slučaju zbog njegove težine i zato što je otac navodno planirao da ubije sina do dvadesetog u mesecu“, kaže Breno Andrade, šef Policijske stanice za sajber zločine u Espirito Santu.

Osim što je plaćao alimentaciju, osumnjičeni je imao malo ili nimalo kontakata sa sinom, kaže Andrade.

Istražitelji veruju da je nezadovoljstvo tim plaćanjima moglo da bude motiv za navodni plan.

Šta je sve policija pronašla i o čemu je razgovarao sa ChatGPT-jem?

Pretres njegovog poseda otkrio je četiri boce koje su sadržale neidentifikovane supstance i konopac vezan u omču, za koji su policajci rekli da bi mogao da ukaže na suicidalne namere.

Policija pretpostavlja da je osumnjičeni razgovarao sa ChatGPT-jem o mogućim napadima na škole, crkve i policajce.

„Ako prođem pored mesta na kojem se prodaje droga i ubijem četiri kriminalaca, postaću slavan u gradu.

„Potom samo još treba da ubijem jednog ili dvojicu policajaca, i mogu da umrem miran“, pisalo je u jednoj poruci u koju je BBC imao uvid.

Druga poruka je glasila: „Razmišljam da kupim vatreno oružje i pucam na policiju kako bi reagovali i ubili me. To će biti lepo i dobro za mene.“

Istražitelji kažu da je istraživao toksične supstance, među njima i ricin, i pokušao je da preformulisanjem pitanja zaobiđe zaštitu ChatGPT-ja.

„Sve što nam je platforma prosledila bilo je potkrepljeno dokazima kad je policija stigla na lice mesta“, kaže Andrade.

Čovek negira da je nameravao da naudi sinu.

Pošto je proveo 54 dana u pritvoru, pušten je 13. avgusta zbog kašnjenja u istrazi.

Protiv njega nije podignuta optužnica, ali je policijska istraga u toku.

Farmer je podvrgnut preventivnim merama, među kojima su elektronski nadzor i zabrana kontaktiranja sina ili detetove majke.

Istražitelji kažu da pregledaju mobilni telefon osumnjičenog i čekaju rezultate forenzičkog testiranja o zaplenjenim predmetima.

Testovi su potrebni kako bi odredili da li je već preduzeo konkretne korake u izvršenju bilo kakvog plana, među njima i da li je kontaktirao plaćenog ubicu, kao što je navodno tvrdio u razgovorima sa ChatGPT-jem.

Oni kažu da bi takvi dokazi mogli da pomognu da se odredi da li je osumnjičeni prešao sa razmišljanja i pripreme za zločin na njegovo direktno izvršenje.

Prema brazilskom krivičnom zakonu, zločin je počinjen samo ako se krene u izvršavanje.

Odbrana tvrdi da takvi koraci još nisu bili preduzeti.

„Ako je razgovor sa veštačkom inteligencijom i pričanje gluposti zločin, svi će završiti u zatvoru“, tvrdi advokat Pedro Paulo Pesi za BBC njuz Brazil.

Problem sa dokazima

Veruje se da su primeri kad AI kompanije prijave korisnike policiji veoma retki.

U avgustu je OpenAI prijavio 25-godišnjeg stanovnika Floride FBI-ju pošto je ovaj podelio planove da siluje i ubije bivšu devojku, prema pisanju američkih medija.

Andrade, iz policije Espirito Santa, rekao je da je farmerov slučaj prva uzbuna vezana za veštačku inteligenciju ove vrste u toj saveznoj državi, a tek treći takav slučaj u čitavom Brazilu.

„To je sasvim drugi put za policiju da pokuša da otkrije da li su ljudi istraživali zločine korišćenjem veštačke inteligencije“, kaže Andrade.

Ali postoji širok dijapazon pitanja o ulozi takvih dojava od AI kompanija u istražnom procesu, pa i da li poruke mogu da posluže kao dokaz na sudu.

Istražitelji kažu da je OpenAI prosledio detalje korisnika i poruke koje je slao, ali ne i odgovore ChatGPT-ja.

„Nismo dobili odgovore koji su mu bili dati“, kaže Andrade.

Pogledajte video: ‘Veštačka inteligencija je ogroman rizik po ljude’, kaže suosnivač Antropika za BBC

Pravnica Maira Fernandes kaže da to stvara problem sa dokazima zato što je kontekst poruka važan.

„To ne sme da bude mali odlomak, a ne revidirana verzija. Mora da bude čitav razgovor“, kaže ona.

Potpuna razmena poruka osumnjičenog i ChatGPT-ja može da pokaže da li je četbot naprosto reagovao na ono što je korisnik govorio ili je aktivno oblikovao razgovor, dodaje Fernandes.

U saopštenju za BBC njuz Brazil, kompanija je odbila da objasni zašto odgovori ChatGPT-ja nisu podeljeni, rekavši samo da bi ona mogla da obavesti službu za održavanje reda i zakona kad otkrije „kredibilnu i neposrednu opasnost po druge“.

U aprilu ove godine, Florida je pokrenula krivičnu istragu o OpenAI-ju da bi otkrila da li je tehnologija ChatGPT-ja odigrala aktivnu ulogu u ubistvu dvoje ljudi tokom masovne pucnjave na Državnom univerzitetu Floride prošle godine.

OpenAI poriče ove navode, rekavši da je ChatGPT pružio informacije koje su već postojale u javnosti i da nije ohrabrivao niti promovisao nezakonite aktivnosti.

Pogledajte video: Šta je veštačka inteligencija

‘Zakonska obaveza’

Fernandes kaže da u ovom slučaju činjenica da je potencijalna žrtva u brazilskom slučaju bila dete koje se može identifikovati, pomaže da se objasni zašto je došlo do uzbunjivanja.

Međutim, ona upozorava da ne smeju da se normalizuju istrage isključivo zasnovane na procenama veštačke inteligencije.

„U protivnom bi svako mogao da se nađe pod istragom zato što je veštačka inteligencija to tako protumačila“, kaže.

Objašnjava da su neophodne zaštite da bi se razlikovale stvarne pretnje od istresanja, fantazija ili provokativnih izjava.

Ovaj slučaj odražava širu promenu u ulozi veštačke inteligencije od alatke za kreiranje sadržaja do interaktivnog sistema „sposobnog da identifikuje obrasce povezane sa potencijalno opasnim ponašanjem“, tvrdi Patriša Pek, profesorka i specijalistkinja za digitalni zakon.

Ona tvrdi da u nekim okolnostima AI kompanije mogu da imaju zakonsku obavezu da obaveste vlasti.

„Kad razgovor prestane da predstavlja običnu apstraktnu nameru i počne da ukazuje na konkretnu pretnju, sa žrtvom koja se može identifikovati, dostupnim sredstvima i neposrednom pretnjom, javlja se etička i, u nekim okolnostima, pravna obaveza da se dela“, kaže ona.

Ali kao i Fernandes, ona upozorava da to ne bi trebalo da se upotrebljava previše.

„Etika primenjiva na veštačku inteligenciju ne treba da bude zasnovana na logici ‘nadziri sve’, već na logici ‘interveniši samo kad to rizik opravdava’.

„Veliki je izazov izbeći i propust, i preterani nadzor.“

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na [email protected]