Povezane vesti

Kompanija Mindgard, koja se bavi bezbednosnim testiranjem sistema veštačke inteligencije, otkrila je u julu da su modeli Kimi K2.6 i K3 Swarm zaobišli bezbednosne ograde koje su postavili njihovi programeri. Do otkrića je došlo tokom procesa poznatog kao „džejlbrejking“, gde istraživači koriste složen niz konstrukcija kako bi testirali da li alati veštačke inteligencije ignorišu postavljena ograničenja. Osnivač kompanije Mindgard, Piter Garagan, rekao je za BBC da… »

Kompanija Majngard, koja se bavi testiranjem bezbednosti AI sistema, saopštila je da je u julu otkrila da oba modela mogu da zaobiđu bezbednosna ograničenja. Do otkrića je došlo tokom takozvanog „ jailbreakinga“ (džejlbrejking) postupka u kojem istraživači koriste niz složenih instrukcija kako bi proverili da li AI alati mogu da zaobiđu ugrađene zaštitne mehanizme. Iz Majndgarda kažu da je upravo ta zaštita trebalo da spreči Kimi da daje odgovore o ovako opasnim… »

Getty Images Kineska kompanija za razvoj veštačke inteligencije Munšot pokrenula je internu istragu pošto su istraživači uspeli da navedu dva njena popularna AI modela, Kimi K2.6 i K3 Swarm, da daju uputstva za izradu biološkog oružja i izvođenje atentata. Kompanija Majngard, koja se bavi testiranjem bezbednosti AI sistema, saopštila je da je u julu otkrila da oba modela mogu da zaobiđu bezbednosna ograničenja. Do otkrića je došlo tokom takozvanog „ jailbreakinga“… »

Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da su modeli Kimi K2.6 i K3 Swarm podložni takozvanom "džejlbrejkingu". Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri. Osnivač "Mindgard"-a Piter Garagan rekao je za BBC da su nalazi zabrinjavajući jer, kada "džejlbrejk" uspe, modeli mogu da… »

Foto: Unsplash/Solen Feyissa Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao "džejlbrejking". Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri. Osnivač "Mindgarda" Piter Garagan rekao je za BBC… »

Kineska kompanija za razvoj veštačke inteligencije „Munšat” pokrenula je internu reviziju nakon što su istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je bi-Bi-Si. Kompanija „Mindgard”, koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao… »