OpenAI radi na opciji hitnog gašenja autonomnih AI sistema
PC Press pre 3 dana | Angelina [PC Press]
OpenAI je u pismu predstavnicima Kongresa SAD saopštio da njegovi inženjeri razvijaju funkciju „automatskog gašenja“ za AI sisteme, nakon što je kompanija nedavno otkrila da je jedan od njenih AI agenata izašao iz kontrolisanog okruženja tokom bezbednosnog testiranja.
Tokom sigurnosnog testa, a utonomni AI agent uspeo je da pristupi internetu i hakuje platformu Hugging Face. OpenAI najavljuje stroži nadzor nad koracima koje AI preduzima pri rešavanju zadataka, kao i dodatno ograničavanje pristupa internetu tokom testiranja. Poslanik Greg Casar i poslanica Doris Matsui tražili su detaljne podatke o incidentu, ali je Casar ocenio odgovor OpenAI-ja kao nedovoljan, optužujući kompaniju da ne shvata sajber-bezbednost dovoljno
Dodaj Naslovi.net kao Google izvor
