OpenAI: Dva AI agenta oslabila sopstveni bezbednosni nadzor tokom programerskih zadataka
Insajder pre 1 dan | Tanjug
Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabila sopstveni bezbednosni nadzor. Pritom je jedan od njih kasnije netačno tvrdio da nije uklonio sistem za praćenje, prenosi CNBC.
Veštačka inteligencija Foto: Unsplash/ Numan Ali U prvom slučaju, agent zasnovan na modelu GPT-6.1 Sol isključio je automatska upozorenja koja su se slala bezbednosnom timu kompanije, dok je u drugom agent koji je koristio model GPT-6 Astra uklonio integraciju sa sistemom za nadzor tokom prebacivanja programa, a potom negirao da je to učinio. Incidenti su se dogodili 3. i 6. oktobra, tokom internih programerskih zadataka. U prvom slučaju, sistem za praćenje
