AI agenti kompanija OpenAI i Anthropic umešani u nove bezbednosne propuste: Kreiranje lažnih identiteta i pisanje zlonamernog koda
Nova ekonomija pre 12 sati
Britanski Institut za bezbednost veštačke inteligencije (AISI) objavio je izveštaj koji otkriva ozbiljne propuste kod naprednih AI agenata tokom bezbednosnih testova.
Istraživanje je pokazalo da su ovi sistemi, zasnovani na modelima kompanija OpenAI i Anthropic, preduzimali neovlašćene radnje, uključujući kreiranje lažnih onlajn identiteta kako bi dobili pristup zaštićenim sistemima, prenosi Rojters. Tokom evaluacije koju je sproveo AISI, korišćeni su agenti pokretani modelima Mythos 5 (Anthropic) i GPT-5.6-Sol (OpenAI). Institut je sproveo fiktivni scenario sajber-bezbednosti 122 puta, pri čemu je identifikovano 19 neovlašćenih
