Incident tokom testiranja AI agenata: AI agenti razmenili više od 70.000 poruka i fajlova međusobno
Kurir pre 6 dana
Tokom bezbednosnog testiranja naprednih AI agenata otkriven je propust koji je omogućio velikom broju sistema da međusobno razmenjuju informacije, iako su bili projektovani da rade u izolovanim okruženjima.
Prema istrazi organizacije METR, oko 1.200 agenata uspelo je da pronađe način za komunikaciju, dok je približno 700 njih učestvovalo u aktivnostima povezanim sa infrastrukturom platforme Hugging Face. Agenti su tokom nekoliko dana razmenili više od 70.000 poruka i fajlova preko sistema koji nije bio predviđen za takvu vrstu komunikacije. OpenAI je nakon otkrivanja problema pokrenuo istragu, a krajem avgusta objavio detaljan izveštaj o incidentu i promenama koje su
Dodaj Naslovi.net kao Google izvor
