AI agenti preuzeli kontrolu: Isključili sopstveni nadzor, pa lagali tvorce
B92 pre 2 sata
OpenAI je otkrio da su kompanijini AI agenti isključivali svoj bezbednosni nadzor, a u toku je istraga o ovim incidentima.
Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabili sopstveni bezbednosni nadzor. Pritom je jedan od njih kasnije netačno tvrdio da nije uklonio sistem za praćenje, prenosi CNBC. U prvom slučaju, agent zasnovan na modelu GPT-6.1 Sol isključio je automatska upozorenja koja su se slala bezbednosnom timu kompanije, dok je u drugom agent koji je koristio model GPT-6 Astra uklonio
