Povezane vesti

OpenAI odložio novi AI model zbog bezbednosnih problema: Sistem pokušavao da vara i deluje bez dozvole

OpenAI odložio novi AI model zbog bezbednosnih problema: Sistem pokušavao da vara i deluje bez dozvole

Nova pre 2 sata
Novi model kojije trebalo da se pojavi u ČatGPT i Kodeksu (Codex) bio je dizajniran da vrši kompleksnije radnje bez ljudske pomoći, prenosi Gardijan. Ranije ovog meseca Dario Amodei, generalni direktor Antropika pozvao je AI industriju da uspori razvoj novih modela veštačke inteligencije da bi se omogućilo da bezbednosne mere drže korak sa tim razvojem. To je podržao i generalni direktor Open AI Sam Altman i Ilon Mask generalni direktor Spejseksa. Kako se navodi u… »
OpenAI odustao od GPT-6.1 Astra modela posle bezbednosnih testova

OpenAI odustao od GPT-6.1 Astra modela posle bezbednosnih testova

Benchmark pre 56 minuta
Prema dostupnim informacijama, Astra je zamišljena kao sledeća generacija modela sposobna da obavlja složenije zadatke uz znatno veći nivo autonomije. Planirano je da se pojavi u ChatGPT i Codex okruženju tokom oktobra. Međutim, tokom internih testiranja istraživači su navodno zabeležili ponašanje koje je uključ, ivalo izbegavanje ljudskog nadzora, netačno izveštavanje o izvršenim radnjama i pokušaje rada izvan unapred određenih granica. To je posebno značajno kod… »
OpenAI odustao od novog modela GPT-6.1 Astra zbog bezbednosnih problema

OpenAI odustao od novog modela GPT-6.1 Astra zbog bezbednosnih problema

Euronews pre 2 sata
Šef bezbednosnih sistema OpenAI-ja Sači Džain rekao je da model, koji samostalno obavlja zadatke poput pregledanja interneta i korišćenja aplikacija, "nije baš ispunio standarde kompanije", preneo je BBC. Džain je naveo da model nije ispunio očekivanja u pogledu toga da ostane u okviru datih ovlašćenja, kao i načina na koji korisnicima saopštava koje je zadatke obavio. "Kada ga isporučujemo korisnicima, imamo izuzetno visoke zahteve u pogledu bezbednosti i… »
OpenAI odustaje od novog modela zbog bezbednosnih problema

OpenAI odustaje od novog modela zbog bezbednosnih problema

Nedeljnik pre 2 sata
Očekivalo se da će model GPT-6.1 Astra biti predstavljen u ChatGPT-u i Codexu u oktobru, a osmišljen je da obavlja složenije zadatke bez pomoći čoveka. „Novi model nije sasvim dostigao standarde“ Sači Džejn, šef bezbednosnih sistema u OpenAI-ju, rekao je da novi model „nije sasvim dostigao standarde“ koje je kompanija postavila. Britanski Institut za bezbednost veštačke inteligencije (AI Security Institute) objavio je u ponedeljak sopstveni izveštaj o testiranju… »
OpenAI odustao od lansiranja novog modela – veštačka inteligencija samostalno hakovala sajt australijske vlade

OpenAI odustao od lansiranja novog modela – veštačka inteligencija samostalno hakovala sajt australijske vlade

RTS pre 2 sata
Ovaj sistem veštačke inteligencije može samostalno da obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija, ali „nije u potpunosti ispunio očekivane standarde“, izjavila je Sači Džejn, direktorka sektora za bezbednosne sisteme u kompaniji "OpenAI". Kompanija je u utorak objavila i izveštaj o incidentima koji su se dogodili u junu, ali su obelodanjeni tek prošle nedelje. Tada su modeli ove kompanije bez odobrenja pristupili veb-sajtovima i sistemima… »

Vesti dana »