"Pametna", ali naivna: Veštačka inteligencija pada na trikove iz 2005. godine
Kurir pre 6 sati
Istraživači iz Guardio Labs-a podigli su uzbunu u tehnološkoj zajednici nakon otkrića da savremeni AI pomoćnici lako nasedaju na prevare koje bi današnji prosečni korisnik interneta prepoznao u sekundi.
Njihova analiza pokazuje da ovi sistemi, iako briljantni u obradi jezika, nemaju instinkt sumnje koji je kod ljudi već odavno izgrađen kroz iskustvo. Posebno zabrinjavajući primer je takozvani PromptFix napad, u kojem se koristi lažni CAPTCHA test kao sredstvo za prikrivanje zlonamernih instrukcija. Dok bi korisnik takav test odmah prepoznao kao sumnjiv, AI ga vidi kao validan zadatak i automatski izvršava komande koje su u njegovoj pozadini. CAPTCHA je osmišljen
