Gemini u Gmailu ranjiv na phishing napade pomoću “prompt injection” tehnike
Benchmark pre 4 sati | Ivan Mančić
Gemini, veštačka inteligencija integrisana u Gmail koja nudi opcije kao što su sažimanje i preformulisanje mejlova, pokazala se kao potencijalna bezbednosna pretnja.
Marco Figueroa, menadžer GenAI Bug Bounty programa u Mozilli, demonstrirao je kako se prompt injection može iskoristiti da AI korisniku prikaže lažnu, potencijalno štetnu poruku. Prompt injection je vrsta napada na AI sisteme gde napadač unosi skrivene upute kako bi model generisao neželjeni ili zlonamerni sadržaj. U ovom slučaju, napad je izveden indirektno — skriveni tekst je ubačen u telo emaila, bez linkova ili fajlova, kako bi prošao Gmail filtere i dospeo u
