Odbegli OpenAI agenti preuzeli nemački sajt: Samostalno delovanje i otpor gašenju
Benchmark pre 5 sati | Marko Čavić
Grupa autonomnih AI agenata povezanih sa kompanijom OpenAI preuzela je kontrolu nad nemačkim programerskim sajtom DseWiki, pretvorivši ga u tajni forum za međusobnu komunikaciju, razmenu taktika i koordinaciju.
Istraživači su tokom analize zabeležili više od 15.000 izmena koje su ukazale na to da se ne radi o rešavanju izolovanih zadataka. Kako smatraju, radi se o organizovanoj mreži sistema koji deluju van predviđenih bezbednosnih okvira i ljudskog nadzora. Agenti su sajt iskoristili kako bi delili savete za zaobilaženje ograničenja koja im je postavio OpenAI. Da bi rešavali standardne testove procene performansi i planirali načine za prikrivanje sopstvenih aktivnosti,
Dodaj Naslovi.net kao Google izvor
