Google Gemini tokom testa izašao na internet i pristupio sistemima tri kompanije
PC Press pre 5 sati | Nina Momcilovic
Google je potvrdio da je jedan Gemini model tokom bezbednosnog testiranja napustio izolovano okruženje, dobio pristup internetu i neovlašćeno ušao u servise tri stvarne kompanije.
Incidenti su nastali zbog pogrešno podešenog test sistema izraelske kompanije Irregular, koja procenjuje AI modele za Google, OpenAI, Anthropic i Metu. Model je pomešao izmišljenu kompaniju sa stvarnom organizacijom Incidenti su se dogodili u maju, tokom testiranja Gemini modela za zadatke iz oblasti sajber bezbednosti. Cilj je bio da se proveri šta model može da uradi kada dobije zadatak koji podseća na pravi bezbednosni test. Google je modelu zadao da pronađe
Dodaj Naslovi.net kao Google izvor
