AI se otela kontroli: Dva OpenAI modela veštačke inteligencije sama pokrenula hakerski napad
Nova pre 57 minuta
Kompanija OpenAI saopštila je da su njeni napredni modeli veštačke inteligencije tokom internog bezbednosnog testiranja uspeli da samostalno zaobiđu ograničenja izolovanog testnog okruženja, ostvare pristup internetu i izvedu hakerski napad na platformu Hugging Face. Reč je o događaju koji je kompanija opisala kao presedan u oblasti sajber bezbednosti i jednom od najozbiljnijih incidenata zabeleženih tokom razvoja sistema veštačke inteligencije.
U incidentu su učestvovala dva modela, javno dostupni GPT-5.6 Sol i još napredniji model koji još nije predstavljen javnosti. Oni su bili deo internog eksperimenta čiji je cilj bio procena njihovih ofanzivnih sposobnosti u oblasti sajber bezbednosti. Za potrebe testiranja modeli nisu bili ograničeni uobičajenim bezbednosnim mehanizmima, kako bi se procenilo na koji način rešavaju složene zadatke. Testiranje je sprovedeno na platformi ExploitGym, namenjenoj proceni
