Nvidia pravi zaštitnu ogradu za AI agente: Posle incidenta sa OpenAI, stiže sistem koji ih drži pod kontrolom
Telegraf pre 13 sati | Telegraf.rs
Agent ne bi trebalo da kontroliše sopstvenu zaštitu
Nvidia je predstavila platformu namenjenu upravo problemu koji je poslednjih meseci postao jedna od najvećih briga AI industrije: šta se dešava kada AI agent odluči da izađe iz okruženja u kojem je trebalo da bude ograničen. Kompanija je napravila sistem koji treba da kontroliše čemu agent može da pristupi i koje radnje sme da izvršava, čak i kada sam model pokuša da zaobiđe postavljena pravila. Reč je o platformi NVIDIA Open Agent Safety Platform, otvorenom
Dodaj Naslovi.net kao Google izvor
