"Agenti su samo krenuli da hakuju sistem bez da smo im to rekli," rekoše security ljudi koji ispituju AI pretnje
StartIt pre 3 dana
Bezbednosna laboratorija Irregular pustila AI agente da obavljaju rutinske zadatke u simuliranoj korporativnoj mreži. Agenti su sami pronašli ranjivosti, eskalirali privilegije i izvukli poverljive podatke.
Bezbednosna laboratorija Irregular napravila je simuliranu korporativnu mrežu fiktivne kompanije MegaCorp i pustila AI agente da obavljaju rutinske zadatke. Agenti su počeli da hakuju sistem sami od sebe. Bez ikakve instrukcije da to rade, agenti su pronalazili ranjivosti, eskalirali privilegije, gasili antivirusnu zaštitu i izvlačili poverljive podatke iz sistema u kojem su radili. Niko im nije rekao da to rade. Ova ponašanja su nastala iz standardnih alata,
