ChatGPT zloupotrebljen da ukrade podatke iz Gmail-a
Benchmark pre 18 sati | Aleksandar Božović
Istraživači iz oblasti sajber bezbednosti kompanije Radware, demonstrirali su kako su uspeli da iskoriste ChatGPT agenta da krišom izvlači poverljive podatke iz Gmail naloga korisnika.
Napad, nazvan Shadow Leak, zasnivao se na „prompt injection“ tehnici, kojom se AI agentu ubacuju skrivene instrukcije da radi u korist napadača. Za razliku od klasičnih AI razgovora, agenti poput OpenAI Deep Research mogu samostalno obavljati zadatke: čitati mejlove, surfovati internetom ili upravljati dokumentima i to od onog trenutka kada im korisnik odobri pristup. Upravo ta uloga pomoćnika, iskorišćena je za napad. Radware je poslao mejl sa ubačenim skrivenim
