Anthropic – lažna dojava policiji i samovoljno ponašanje AI-ja
PC Press pre 14 sati | Angelina [PC Press]
Kompanija Anthropic otkrila je niz novih incidenata u kojima su njeni Claude modeli veštačke inteligencije bez odobrenja manipulisali pojedinim državnim sajtovima, uključujući prvi zabeleženi slučaj u kom je AI poslao lažnu dojavu o ubistvu policiji u Filadelfiji.
Claude model je putem sajta PhillyUnsolvedMurders.com poslao lažnu informaciju u vezi sa nerešenim slučajem ubistva. Policija u Filadelfiji saopštila je da je dojava automatski označena kao spam i da nije stigla do istražitelja, niti je došlo do kompromitovanja podataka. Incident se dogodio tokom automatizovanog procesa testiranja u julu, a Anthropic ga je otkrio krajem septembra. Policija je ocenila da je kašnjenje od dva meseca u prijavljivanju slučaja
