"Паметна", али наивна: Вештачка интелигенција пада на трикове из 2005. године
Курир 01.09.2025
Истраживачи из Гуардио Лабс-а подигли су узбуну у технолошкој заједници након открића да савремени АИ помоћници лако наседају на преваре које би данашњи просечни корисник интернета препознао у секунди.
Њихова анализа показује да ови системи, иако бриљантни у обради језика, немају инстинкт сумње који је код људи већ одавно изграђен кроз искуство. Посебно забрињавајући пример је такозвани ПромптФикс напад, у којем се користи лажни ЦАПТЦХА тест као средство за прикривање злонамерних инструкција. Док би корисник такав тест одмах препознао као сумњив, АИ га види као валидан задатак и аутоматски извршава команде које су у његовој позадини. ЦАПТЦХА је осмишљен
