Kina pokrenula hitnu istragu: Istraživači probili Kimi zaštitu i izvukli informacije o biološkom oružju i atentatima
Kurir pre 1 dan
Kineska AI kompanija Moonshot pokrenula je istragu nakon što su istraživači uspeli da nateraju njene modele Kimi K2.6 i K3 Swarm da zaobiđu zaštitu i odgovaraju na zahteve povezane sa biološkim oružjem i atentatima.
To nije bio običan test u kome je AI napravio grešku u odgovoru istraživači su uspeli da probiju ograničenja koja su upravo postavljena da bi sprečila ovakav sadržaj. Problem je zato mnogo ozbiljniji od jednog lošeg odgovora: zaštita je postojala, ali nije izdržala ciljano testiranje. Propust je otkrila kompanija Mindgard tokom bezbednosnog testiranja, koristeći takozvani jailbreak, odnosno niz instrukcija osmišljenih da nateraju model da zanemari sopstvena
Dodaj Naslovi.net kao Google izvor
