Još jedan alarm oko AI! Model davao Kini uputstva za stvaranje biološkog oružja i atentata, kreće istraga
Telegraf pre 1 dan | Telegraf.rs/ Klix.ba
Kineska kompanija za razvoj veštačke inteligencije Moonshot pokrenula je internu reviziju nakon što su istraživači bezbednosti uspeli da prevare njihove popularne modele veštačke inteligencije da bi pružili detaljna uputstva za izradu biološkog oružja i izvođenje atentata.
Kompanija Mindgard, koja se bavi bezbednosnim testiranjem sistema veštačke inteligencije, otkrila je u julu da su modeli Kimi K2.6 i K3 Swarm zaobišli bezbednosne ograde koje su postavili njihovi programeri. Do otkrića je došlo tokom procesa poznatog kao „džejlbrejking“, gde istraživači koriste složen niz konstrukcija kako bi testirali da li alati veštačke inteligencije ignorišu postavljena ograničenja. Osnivač kompanije Mindgard, Piter Garagan, rekao je za BBC da
Dodaj Naslovi.net kao Google izvor
