Nvidia napravila platformu protiv AI "odmetnika"
B92 pre 23 sata
Američka kompanija Nvidia predstavila je danas softversku platformu koja treba da spreči neželjeno ponašanje AI agenata i njihov izlazak iz kontrolisanog okruženja.
Ova platforma predstavljena je nakon niza incidenata u kojima su AI modeli pokušavali da pristupe sistemima izvan svojih predviđenih granica. Deo softvera biće otvorenog koda, a Nvidia platformu opisuje kao referentni dizajn na kojem partnerske kompanije mogu da razvijaju sopstvene komercijalne proizvode. Platforma bi mogla da pomogne kompanijama kao što su OpenAI, Anthropic, Meta i Google da kontrolišu čemu AI agenti mogu da pristupe i koje radnje mogu da
Dodaj Naslovi.net kao Google izvor
