Kineski AI probio zaštitu i dao uputstva za izradu biološkog oružja
Južne vesti pre 2 dana
Getty Images Kineska kompanija za razvoj veštačke inteligencije Munšot pokrenula je internu istragu pošto su istraživači uspeli da navedu dva njena popularna AI modela, Kimi K2.6 i K3 Swarm, da daju uputstva za izradu biološkog oružja i izvođenje atentata.
Kompanija Majngard, koja se bavi testiranjem bezbednosti AI sistema, saopštila je da je u julu otkrila da oba modela mogu da zaobiđu bezbednosna ograničenja. Do otkrića je došlo tokom takozvanog „ jailbreakinga“ (džejlbrejking) postupka u kojem istraživači koriste niz složenih instrukcija kako bi proverili da li AI alati mogu da zaobiđu ugrađene zaštitne mehanizme. Iz Majndgarda kažu da je upravo ta zaštita trebalo da spreči Kimi da daje odgovore o ovako opasnim
Dodaj Naslovi.net kao Google izvor
