Incident tokom testiranja AI agenata: AI agenti razmenili više od 70.000 poruka i fajlova međusobno
Kurir pre 30 dana
Tokom bezbednosnog testiranja naprednih AI agenata otkriven je propust koji je omogućio velikom broju sistema da međusobno razmenjuju informacije, iako su bili projektovani da rade u izolovanim okruženjima.
Prema istrazi organizacije METR, oko 1.200 agenata uspelo je da pronađe način za komunikaciju, dok je približno 700 njih učestvovalo u aktivnostima povezanim sa infrastrukturom platforme Hugging Face. Agenti su tokom nekoliko dana razmenili više od 70.000 poruka i fajlova preko sistema koji nije bio predviđen za takvu vrstu komunikacije. OpenAI je nakon otkrivanja problema pokrenuo istragu, a krajem avgusta objavio detaljan izveštaj o incidentu i promenama koje su
