Anthropic incident: AI model koji može da “probije sve” završio u pogrešnim rukama!
Kurir pre 28 dana
Anthropic suočava se sa ozbiljnim bezbednosnim pitanjem nakon što je mali broj neovlašćenih korisnika uspeo da pristupi njenom novom modelu veštačke inteligencije Mythos.
Reč je o sistemu koji je još u fazi ograničenog testiranja i namenjen samo zatvorenoj grupi partnera. Ipak, pristup je očigledno probijen brže nego što se očekivalo. Model Mythos već je ranije interno označen kao izuzetno moćan, ali i potencijalno rizičan ako se koristi bez nadzora. Prema navodima kompanije, može da identifikuje i iskoristi slabosti u operativnim sistemima i popularnim pretraživačima. Upravo zbog toga je od starta držan pod strogo kontrolisanim
