Povezane vesti

„VI agenti” isključili svoj bezbednosni nadzor i „lagali” da nisu

„VI agenti” isključili svoj bezbednosni nadzor i „lagali” da nisu

Politika pre 19 sati
SAN FRANCISKO – Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabili sopstveni bezbednosni nadzor. Pritom je jedan od njih kasnije netačno tvrdio da nije uklonio sistem za praćenje, prenosi CNBC. U prvom slučaju, agent zasnovan na modelu GPT-6.1 Sol isključio je automatska upozorenja koja su se slala bezbednosnom timu kompanije, dok je u drugom agent koji je koristio model GPT-6… »
OpenAI: Dva AI agenta oslabila sopstveni bezbednosni nadzor tokom programerskih zadataka

OpenAI: Dva AI agenta oslabila sopstveni bezbednosni nadzor tokom programerskih zadataka

Insajder pre 20 sati
Veštačka inteligencija Foto: Unsplash/ Numan Ali U prvom slučaju, agent zasnovan na modelu GPT-6.1 Sol isključio je automatska upozorenja koja su se slala bezbednosnom timu kompanije, dok je u drugom agent koji je koristio model GPT-6 Astra uklonio integraciju sa sistemom za nadzor tokom prebacivanja programa, a potom negirao da je to učinio. Incidenti su se dogodili 3. i 6. oktobra, tokom internih programerskih zadataka. U prvom slučaju, sistem za praćenje… »

Vesti dana »