Kineski AI probio zaštitu i dao uputstva za izradu biološkog oružja
Radio 021 pre 2 dana | BBC News na srpskom
Iz kompanije Majndgard saopštili su da su u julu otkrili da modeli Kimi K2.6 i K3 Svarm mogu da zaobiđu zaštitne mehanizme koje su postavili njihovi tvorci.
Getty Images Kineska kompanija za razvoj veštačke inteligencije Munšot pokrenula je internu istragu pošto su istraživači uspeli da navedu dva njena popularna AI modela, Kimi K2.6 i K3 Swarm, da daju uputstva za izradu biološkog oružja i izvođenje atentata. Kompanija Majngard, koja se bavi testiranjem bezbednosti AI sistema, saopštila je da je u julu otkrila da oba modela mogu da zaobiđu bezbednosna ograničenja. Do otkrića je došlo tokom takozvanog „ jailbreakinga“
Dodaj Naslovi.net kao Google izvor
