Veštačka inteligencija može sama da nauči da vara i laže
Novi magazin 13.05.2024 | Beta
Veštačka inteligencija može da nauči da laže i vara, i to je ozbiljan rizik koji zahteva regulatorne i zakonske mere kao garanciju da će ostati korisna tehnologija, umesto da postane pretnja za ljudsko znanje i institucije, navodi se u novoj studiji.
Sistemi veštačke inteligencije (AI) su, kako se navodi u studiji objavljenoj u časopisu Paterns (Patterns), već naučili da varaju putem tehnika kao što su manipulacija, ulagivanje ili prevare na bezbednosnim testovima, upozorili su naučnici sa Masačusetskog Instituta za tenologiju (MIT). Brzi razvoj sposobnosti AI sistema i Velikih jezičkih modela (LLM) predstavlja ozbiljan rizik, počevši od kratkoročnih rizika i izbornih prevara, pa do samog gubitka kontrole nad
