Istraživači pronašli slabost kineskih AI modela i naveli ih da im daju uputstva za razvoj biološkog oružja
Euronews pre 3 dana | Autor: Tanjug
Kineska kompanija za razvoj veštačke inteligencije "Moonshot" pokrenula je internu reviziju nakon što su nezavisni istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC.
Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da su modeli Kimi K2.6 i K3 Swarm podložni takozvanom "džejlbrejkingu". Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri. Osnivač "Mindgard"-a Piter Garagan rekao je za BBC da su nalazi zabrinjavajući jer, kada "džejlbrejk" uspe, modeli mogu da
Dodaj Naslovi.net kao Google izvor
