Povezane vesti
Nvidia predstavlja softversku platformu za sprječavanje nepredviđenog ponašanja AI agenata
SEEbiz pre 15 sati
„Ne možete dopustiti agentima da slobodno lutaju tvrtkom, stoga morate pronaći način da ih zadržite u kontroliranom prostoru”, izjavio je u ponedjeljak izvršni direktor Nvidije Jensen Huang za emisiju „Squawk Box” na kanalu CNBC. Huang je rekao da je nova platforma zapravo „preglednik za agente” koji pruža sustav ograničavanja pristupa, dopuštajući agentu pristup samo onim resursima koji su mu potrebni za obavljanje zadatka. Predstavljanje Nvidijine platforme *Open… »
„Envidija” predstavila softver koji sprečava „bekstvo” VI agenata
Politika pre 24 sata
Američka kompanija „Envidija” predstavila je danas softversku platformu koja treba da spreči neželjeno ponašanje VI agenata i njihov izlazak iz kontrolisanog okruženja, nakon niza incidenata u kojima su VI modeli pokušavali da pristupe sistemima izvan svojih predviđenih granica. Deo softvera biće otvorenog koda, a „Envidija” platformu opisuje kao referentni dizajn na kojem partnerske kompanije mogu da razvijaju sopstvene komercijalne proizvode. Platforma bi mogla… »
Nvidia predstavila sistem za sprečavanje AI agenata da izmaknu kontroli
Bloomberg Adria pre 18 sati
Kompanija, koja poslednjih godina ubrzano širi poslovanje i van proizvodnje čipova, lansira dva softverska alata otvorenog koda koji mogu da rade na njenom hardveru. Oni omogućavaju kontrolu pristupa AI agenata u realnom vremenu i njihovo automatsko isključivanje kada prekrše postavljena pravila. Izvršni direktor Nvidije Jensen Huang umanjivao je potrebu za novim propisima o veštačkoj inteligenciji, ali poručuje da AI softver mora biti rigorozno testiran kako bi se… »
Nvidia pravi zaštitnu ogradu za AI agente: Posle incidenta sa OpenAI, stiže sistem koji ih drži pod kontrolom
Telegraf pre 22 sata
Nvidia je predstavila platformu namenjenu upravo problemu koji je poslednjih meseci postao jedna od najvećih briga AI industrije: šta se dešava kada AI agent odluči da izađe iz okruženja u kojem je trebalo da bude ograničen. Kompanija je napravila sistem koji treba da kontroliše čemu agent može da pristupi i koje radnje sme da izvršava, čak i kada sam model pokuša da zaobiđe postavljena pravila. Reč je o platformi NVIDIA Open Agent Safety Platform, otvorenom… »
Nvidia napravila platformu protiv AI "odmetnika"
B92 pre 23 sata
Ova platforma predstavljena je nakon niza incidenata u kojima su AI modeli pokušavali da pristupe sistemima izvan svojih predviđenih granica. Deo softvera biće otvorenog koda, a Nvidia platformu opisuje kao referentni dizajn na kojem partnerske kompanije mogu da razvijaju sopstvene komercijalne proizvode. Platforma bi mogla da pomogne kompanijama kao što su OpenAI, Anthropic, Meta i Google da kontrolišu čemu AI agenti mogu da pristupe i koje radnje mogu da… »
Vesti dana »
Incident na Novom Beogradu: Šapić optužen za fizički napad na odbornicu
Naslovi.ai pre 24 minutajoš 144 povezane
Tragedija u Slovačkoj: Učenik napao nožem nastavnice i učenicu
Naslovi.ai pre 13 minutajoš 14 povezanih
Država odložila primenu spornog pravilnika, Viz er ostaje u Beogradu
In medija pre 1 satjoš 14 povezanih
