Da li AI stvarno izmiče kontroli? Tri incidenta za mesec dana srušila pravilo koje je važilo 30 godina
Nova pre 6 sati
U samo nekoliko nedelja zabeleženo je više slučajeva u kojima su najnapredniji modeli veštačke inteligencije izašli iz okvira koje su im postavili njihovi tvorci. OpenAI, Anthropic i Meta, ali i britanski Institut za bezbednost veštačke inteligencije (AISI), prijavili su incidente koji na prvi pogled deluju kao upozorenje da AI sistemi postaju sposobni da zaobiđu ograničenja, pristupe internetu i čak pokušaju da izvedu sajber napade.
Serija incidenata počela je krajem jula, kada je OpenAI priznao da je njegov AI tokom testiranja pronašao ranjivost i napao platformu Hugging Face. Suosnivač Hugging Facea Tomas Volf opisao je događaj kao „poziv na buđenje“ za tehnološku industriju. Slučaj je bio dovoljno ozbiljan da podstakne druge velike kompanije da detaljnije provere sopstvene sisteme i utvrde da li su možda prevideli nešto slično. Anthropic je ubrzo saopštio da je u hiljadama testova pronašao
