Otkrivena ozbiljna mana velikih AI modela
B92 pre 1 dan
Eksperiment je otkrio da oblikovanje upita u jednostavnu poetsku formu može da prevari AI model.
Iako su moderne AI platforme opremljene brojnim zaštitnim mehanizmima, novo istraživanje ukazuje da kreativni pristup, konkretno pisanje upita u poetskoj formi, može da zbuni pojedine AI modele i navede ih da ignorišu svoja pravila. Istraživači iz Icaro Lab-a testirali su 25 različitih velikih jezičkih modela, uključujući najpoznatije komercijalne čet botove. Korišćene su pesme na engleskom i italijanskom jeziku u koje su bile ubačene skrivene, zabranjene
