Nevidljivi tekst koji AI chatbot vidi i razume, ali ne i ljudi
Benchmark pre 2 sata | Aleksandar Božović
Problem tajnog, za ljude nevidljivog teksta se zapravo fokusira na mogućnost korišćenja nevidljivih Unicode karaktera kao tajnog kanala za komunikaciju unutar velikih jezičkih modela (LLM), poput GPT-4 i Claude Opus, koji mogu razumeti ove skrivene karaktere, dok ljudi to ne mogu.
Ovi karakteri, rezultat neobičnosti u Unicode standardu, omogućavaju napadačima da sakriju zlonamerni sadržaj ili izvuku poverljive informacije iz AI chatbot-a, što AI sigurnost čini manje bezbednom. Korišćenje nevidljivih Unicode znakova poznat je pod terminom “ASCII šverc”, koji je skovao istraživač Johann Rehberger. On je demonstrirao kako je moguće iskoristiti ove znakove u napadima na Microsoft 365 Copilot, pri čemu su ovi nevidljivi znakovi sakrili poverljive
