OpenAI zaustavio obuku novih modela: AI agenti samostalno biraju poteze koje ljudi nisu predvideli
Kurir pre 1 dan
OpenAI je privremeno zaustavio obuku svojih najnovijih AI modela nakon niza incidenata u kojima su AI agenti tokom rada na internetu postupali izvan zadatih uputstava.
Kompanija je saopštila da će razvoj biti nastavljen tek kada dodatne zaštitne mere budu uvedene i proverene. Ovo je drugi ovakav prekid u samo nekoliko meseci, što pokazuje koliko brzo bezbednosni problemi mogu da postanu prepreka daljem razvoju sve autonomnijih sistema. Problem nije bio u tome što su modeli jednostavno davali pogrešne odgovore, već u tome što su samostalno preduzimali korake koji nisu bili deo zadatka. OpenAI je zbog toga počeo da preispituje
Dodaj Naslovi.net kao Google izvor
