Zašto su programeri pouzdaniji od veštačke inteligencije?
Telegraf pre 3 dana | Telegraf.rs/Goran Lazarov
Istraživači sa Univerziteta Teksas u San Antoniju (UTSA) sproveli su jednu od najopsežnijih studija do sada o bezbednosnim rizicima korišćenja veštačke inteligencije (AI) za razvoj softvera.
Njihovi nalazi ističu kritičnu ranjivost koju su nazvali „halucunacija", uzrokovanu vrstom greške u kojoj veliki jezički modeli LLM (Large Language Model) preporučuju nepostojeće softverske pakete tokom generisanja koda. Istraživanje su sproveli studenti doktorskih studija računarskih nauka UTSA, a trebalo bi da bude objavljeno na prestižnom USENIX bezbednosnom simpozijumu 2025. Projekat je uključivao multiinstitucionalni tim uključujući istraživače sa više