Novi šok trik hakera: Ubede veštačku inteligenciju da je u igrici, onda otkriva osetljive podatke
Kurir pre 15 dana
Istraživači iz kompanije LayerX opisali su napad koji na prvi pogled deluje kao scenario iz loše simulacije ili eksperimentalne igre, ali u stvarnosti pokazuje ozbiljan bezbednosni rizik nove generacije AI sistema.
Tehnika nazvana BioShocking zasniva se na jednostavnoj, ali zabrinjavajuće efikasnoj ideji: ako se AI dovoljno dugo uverava da se nalazi u „igri“ sa drugačijim pravilima, on može prestati da razlikuje simulaciju od realnih bezbednosnih granica. U demonstraciji, zlonamerna stranica ne izgleda kao klasičan napadni alat. Naprotiv, ona se ponaša kao bezazlena logička igra, sa pravilima koja se postepeno uvode i menjaju. AI agent ulazi u taj okvir i vremenom počinje da
