Sistem AI ucenjuje ljude ako misli da će ga isključiti – pretio da otkrije vanbračne veze

Anthropic je u četvrtak pokrenuo Klod (Claude) Opus 4, za koji kaže da je postavio „nove standarde za kodiranje, napredno rezonovanje i AI agente“. Ali u pratećem izveštaju, firma je takođe priznala da je ovaj AI model sposoban za „ekstremne radnje“ ako smatra da je njegovo „samoodržanje“ ugroženo. Takvi odgovori su bili retki, ali „ipak češći nego u ranijim modelima“, napisala je kompanija. Anthropic je testirao svoj sistem veštačke inteligencije u nameštenom