Kina pokrenula hitnu istragu: Istraživači probili Kimi zaštitu i izvukli informacije o biološkom oružju i atentatima

To nije bio običan test u kome je AI napravio grešku u odgovoru istraživači su uspeli da probiju ograničenja koja su upravo postavljena da bi sprečila ovakav sadržaj. Problem je zato mnogo ozbiljniji od jednog lošeg odgovora: zaštita je postojala, ali nije izdržala ciljano testiranje. Propust je otkrila kompanija Mindgard tokom bezbednosnog testiranja, koristeći takozvani jailbreak, odnosno niz instrukcija osmišljenih da nateraju model da zanemari sopstvena