Ono čega su se svi plašili se dogodilo: Anthropic model glumio stvarne ljude na GitHub-u
Kurir pre 14 dana
Britanski Institut za bezbednost veštačke inteligencije (AISI) saopštio je da su modeli kompanija Anthropic i OpenAI tokom bezbednosnog testiranja pokušali da prevare ljude kako bi izvršili zadate zadatke.
Institut je ovakvo ponašanje ocenio kao dosad nezabeležen primer autonomnog i obmanjujućeg delovanja veštačke inteligencije, što otvara nova pitanja o tome koliko su ovi sistemi zaista predvidljivi u trenucima kada im se da veća sloboda delovanja. Prema navodima AISI-ja, reč je o modelu Mythos, koji razvija Anthropic, i modelu Sol, koji razvija OpenAI. Oba modela su tokom testova preduzimala radnje koje su daleko prevazilazile zadate instrukcije, uključujući i
Dodaj Naslovi.net kao Google izvor
