Bezbednosni sistemi kompanije OpenAI otkrili su detaljan plan dvadesetpetogodišnjeg Darena Šide Džoua sa Floride da otme, siluje i ubije bivšu devojku. Nakon što je slučaj pregledao zaposleni u kompaniji, podaci su prosleđeni FBI-ju, što je omogućilo policiji da reaguje pre nego što su pretnje prerasle u stvarni napad.
Džou, nekadašnji analitičar banke „Goldman Saks”, počeo je da koristi ChatGPT posle raskida šestomesečne veze. Najpre je opisivao ljubomoru, interesovanja bivše partnerke i mesta na koja izlazi, ali su poruke ubrzo prerasle u otvorene pretnje. „Ubiću je do kraja ovog meseca” i „Ako ja ne mogu da je imam, neće je imati niko”, pisao je u razgovoru sa veštačkom inteligencijom, prema sadržaju sudskih dokumenata koje je preneo „Palm Bič post”.
U porukama je navodno opisao kako će devojku sačekati ispred teretane, primorati je da uđe u automobil, odvesti u svoj stan i tamo je držati kao taoca. Tvrdio je i da poseduje puške i pištolje, kao i da joj je slao fotografije oružja, vezica i rukavica. Kasnijom istragom, međutim, nije potvrđeno da je zaista posedovao vatreno oružje.
OpenAI je slučaj prijavio FBI-ju, koji je približno dva meseca Džouovih poruka dostavio kancelariji šerifa okruga Palm Bič. Istražitelji su ocenili da se ne radi o neodređenim izlivima besa, već o ponovljenom razrađivanju i uvežbavanju mogućeg napada. Mladić je uhapšen u maju, nakon čega je ostao bez posla.
Džou je 13. avgusta priznao krivicu za teško proganjanje, pisane pretnje ubistvom i nezakonitu upotrebu komunikacionog uređaja. U okviru sporazuma sa tužilaštvom izrečeno mu je osam godina uslovne kazne, zabrana kontakta sa bivšom devojkom i posedovanja oružja, kao i dvogodišnje nošenje elektronske narukvice. Sudija je naveo da je sporazum prihvatio i zato što se žrtva saglasila sa njegovim uslovima.
Naslov da je „ChatGPT prijavio ubicu” ipak nije sasvim precizan: program nije samostalno pozvao FBI. OpenAI objašnjava da razgovore koji ukazuju na planiranje ozbiljnog nasilja prosleđuje specijalizovanom timu na ljudsku procenu, a da se neposredne pretnje mogu prijaviti policiji. U ovom slučaju upravo je spoj automatskog prepoznavanja opasnosti i ljudske provere omogućio da upozorenje stigne do istražitelja pre nego što je žena napadnuta.
Piše: Stefan Stojanović
Zabranjeno je preuzimanje, kopiranje ili prenošenje teksta, dela teksta ili fotografija sa sajta srpskiugao.rs bez izričitog navođenja izvora i aktivnog linka ka originalnom tekstu na našem sajtu.
Svako kršenje ovog pravila biće smatrano povredom autorskih prava i biće prijavljeno u skladu sa zakonom.
