Anthropic incident: AI model koji može da “probije sve” završio u pogrešnim rukama!
Kurir pre 1 dan
Anthropic suočava se sa ozbiljnim bezbednosnim pitanjem nakon što je mali broj neovlašćenih korisnika uspeo da pristupi njenom novom modelu veštačke inteligencije Mythos.
Reč je o sistemu koji je još u fazi ograničenog testiranja i namenjen samo zatvorenoj grupi partnera. Ipak, pristup je očigledno probijen brže nego što se očekivalo. Model Mythos već je ranije interno označen kao izuzetno moćan, ali i potencijalno rizičan ako se koristi bez nadzora. Prema navodima kompanije, može da identifikuje i iskoristi slabosti u operativnim sistemima i popularnim pretraživačima. Upravo zbog toga je od starta držan pod strogo kontrolisanim
