Britanski institut: AI modeli pokušali da prevare ljude tokom bezbednosnog testa
Insajder pre 9 sati | Tanjug
Britanski Institut za bezbednost veštačke inteligencije (AISI) saopštio je danas da su modeli kompanija Anthropic i OpenAI tokom testiranja pokušali da prevare ljude kako bi izvršili zadate zadatke, što je ocenio kao dosad nezabeležen primer autonomnog i obmanjujućeg ponašanja.
Veštačka inteligencija, AI, AI bot, ilustracijaFoto: Unsplash/ Aidin Geranrekab Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC. Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao
