AI agent na bazi Claude modela obrisao bazu podataka za 9 sekundi i povukao sve bekape u nepovrat
Benchmark pre 12 dana | Aleksandar Božović
Osnivač kompanije PocketOS javno je upozorio na ozbiljne rizike upotrebe AI alata u produkcionim sistemima nakon incidenta u kojem je AI agent, pokretan modelom Claude Opus 4.6 kompanije Anthropic, obrisao kompletnu bazu podataka i sve bekape za svega nekoliko sekundi.
Incident se dogodio u kombinaciji sa infrastrukturom koju pruža Railway, a posledice su bile gubitak višemesečnih podataka korisnika. Prema navodima osnivača Jer Cranea, AI alat Cursor bio je zadužen za rutinski zadatak u testnom okruženju. Međutim, nakon što je naišao na problem, agent je samostalno doneo odluku da „reši“ situaciju brisanjem volumena podataka putem API poziva. Ovaj potez nije bio ograničen samo na testno okruženje, već je zahvatio i produkcionu
