Ai pod napadom: Hakeri koriste veštačku inteligenciju za napad na AI sisteme

Sada je taj trenutak konačno stigao. Novo istraživačko otkriće učinilo je napade prompt injection bržim, lakšim i zastrašujuće efikasnim – čak i protiv najsigurnijih AI sistema poput Google-ovog Gemini modela. Napadi prompt injection predstavljaju jedan od najsigurnijih načina za manipulaciju velikim jezičkim modelima (LLM). Ubacivanjem zlonamernih instrukcija u tekst koji AI procesira, poput skrivenih komentara u kodu ili nevidljivog teksta na veb stranici,