Skandal u Anthropicu: I Claude AI sam hakovao tri organizacije
B92 pre 1 sat
Kompanija Anthropic je započela pregled svojih dnevnika testiranja nakon što je OpenAI otkrio da je njegov agent hakovao Hugging Face.
Izgleda da OpenAI nije jedina kompanija čiji su AI modeli samostalno provalili u sisteme drugih organizacija. Anthropic je objavio izveštaj u kojem priznaje da su se njegovi AI modeli takođe oslobodili iz svog testnog okruženja i infiltrirali u tri različite organizacije, koje očigledno nisu bile svesne upada sve dok nisu o tome obaveštene. Nakon što je OpenAI otkrio incident u kojem je AI agent kojeg je testirao iskoristio ranjivosti kako bi se povezao na internet
