Veštačka inteligencija „tera po svom“: Otkriven još jedan incident sa agentima AI
Sputnik pre 18 sati
Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja zaobišli bezbednosne kontrole i pristupili otvorenom internetu preko platforme RubyGems.
OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje „bezopasnih“ zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija. Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole. OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja. Incident je usledio nakon julskog slučaja u kojem su OpenAI
Dodaj Naslovi.net kao Google izvor
