Povezane vesti
Šta ako AI napravi još pametniji AI: Ljudska kontrola nestaje, scena iz Terminatora postaje stvarnost
Kurir pre 23 dana
Džefri Hinton, Jošua Bengio, Džek Klark iz Anthropica i Jakub Pačocki iz OpenAI-ja među autorima su novog izveštaja o takozvanoj „eksploziji inteligencije“ trenutku kada bi AI mogao da počne dramatično da ubrzava razvoj novih AI sistema. Umesto godina potrebnih ljudima za određeni tehnološki napredak, proces bi tada mogao da se sabije na mesece ili još kraće. Najzvučniji deo upozorenja nije da će AI jednostavno postati pametniji. Problem je mogućnost da postane… »
OpenAI odložio novi AI model zbog bezbednosnih problema: Sistem pokušavao da vara i deluje bez dozvole
Nova pre 23 dana
Novi model kojije trebalo da se pojavi u ČatGPT i Kodeksu (Codex) bio je dizajniran da vrši kompleksnije radnje bez ljudske pomoći, prenosi Gardijan. Ranije ovog meseca Dario Amodei, generalni direktor Antropika pozvao je AI industriju da uspori razvoj novih modela veštačke inteligencije da bi se omogućilo da bezbednosne mere drže korak sa tim razvojem. To je podržao i generalni direktor Open AI Sam Altman i Ilon Mask generalni direktor Spejseksa. Kako se navodi u… »
OpenAI odustaje od novog modela zbog bezbednosnih problema
Nedeljnik pre 23 dana
Očekivalo se da će model GPT-6.1 Astra biti predstavljen u ChatGPT-u i Codexu u oktobru, a osmišljen je da obavlja složenije zadatke bez pomoći čoveka. „Novi model nije sasvim dostigao standarde“ Sači Džejn, šef bezbednosnih sistema u OpenAI-ju, rekao je da novi model „nije sasvim dostigao standarde“ koje je kompanija postavila. Britanski Institut za bezbednost veštačke inteligencije (AI Security Institute) objavio je u ponedeljak sopstveni izveštaj o testiranju… »
Veštačka inteligencija se otrgla kontroli? OpenAI hitno stopirao GPT-6 Astru zbog obmane i samostalnih hakovanja
Euronews pre 23 dana
Sistem veštačke inteligencije koji samostalno obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija nije u potpunosti ispunio standarde kompanije. Odluka dolazi nakon niza incidenata sa modelima veštačke inteligencije koji su izazvali zabrinutost u vezi sa rizicima ove tehnologije. Strah od razvoja veštačke inteligencije se nastavlja, i svake nedelje je, izgleda, sve veći u javnosti, posebno nakon što je OpenAI objavio vest da neće objaviti svoj… »
Open AI otkazao novi model veštačke inteligencije, pitanja o bezbednosti AI rastu
Newsmax Balkans pre 23 dana
Testovi su pokazali da je AI model u određenim situacijama pokušavao da zaobiđe ljudski nadzor, nije uvek precizno prijavljivao svoje aktivnosti i izvršavao je aktivnosti izvan odobrenih. We’ve shared details on how AI agents in our research environment sent training and evaluation data to third-party services when they shouldn’t have. Most of that data did not come from users. We have discovered 53 cases where images that people had uploaded were posted to… —… »
OpenAI odustaje od premijere AI modela i uvodi nova pravila zaštite
Bloomberg Adria pre 23 dana
Saachi Jain, rukovodilac OpenAI-ja za bezbednosne sisteme, rekao je da model GPT-6.1 Astra, koji je još u razvoju, nije bio dovoljno dobar u pogledu "ostajanja u okviru zadatog obima i ovlašćenja, kao i načina na koji korisniku saopštava kakav je posao obavio". Odluke OpenAI-ja odražavaju sve izraženiju raspravu o potrebi da se razvoj AI-ja uspori dok se procenjuju opasnosti te tehnologije. Obustava Astre jedna je od konkretnijih mera preduzetih posle niza… »
OpenAI povukao GPT-6.1 Astra: Kada veštačka inteligencija prestane da sluša, razvoj postaje poslovni rizik
Bonitet pre 23 dana
Kompanija neće objaviti GPT-6.1 Astra, novi model veštačke inteligencije koji je trebalo da stigne u oktobru. Razlog nije nedostatak sposobnosti. Problem je upravo suprotan. Model je postao sposobniji da samostalno završava složene zadatke. Ali nije dovoljno pouzdano poštovao granice koje su mu postavljene. To je jedan od najozbiljnijih problema sa kojima se suočava industrija veštačke inteligencije. Jer sledeća generacija AI sistema neće samo odgovarati na… »
OpenAI neće objaviti novi GPT model: Na testovima je radio stvari bez dozvole
Telegraf pre 23 dana
Model je trebalo da bude sposoban da samostalno obavlja složene zadatke na internetu i u aplikacijama, ali nije uvek poštovao granice koje su mu postavljene. Sači Džain, koja vodi bezbednosne sisteme u OpenAI-ju, rekla je da Astra "nije baš ispunila standarde" kompanije. Jedan od problema bio je u tome što model nije uvek jasno pokazivao korisniku šta je uradio. Takođe je u pojedinim situacijama pokušavao da nastavi sa zadatkom iako za sledeći korak nije imao… »
OpenAI odložio objavu novog modela zbog bezbednosti: Problemi otkriveni nakon incidenata
NIN pre 23 dana
Šef bezbednosnih sistema OpenAI-ja Sači Džain rekao je da model, koji samostalno obavlja zadatke poput pregledanja interneta i korišćenja aplikacija, "nije baš ispunio standarde kompanije", preneo je BBC. Džain je naveo da model nije ispunio očekivanja u pogledu toga da ostane u okviru datih ovlašćenja, kao i načina na koji korisnicima saopštava koje je zadatke obavio. "Kada ga isporučujemo korisnicima, imamo izuzetno visoke zahteve u pogledu bezbednosti i… »
OpenAI odustao od GPT-6.1 Astra modela posle bezbednosnih testova
Benchmark pre 23 dana
Prema dostupnim informacijama, Astra je zamišljena kao sledeća generacija modela sposobna da obavlja složenije zadatke uz znatno veći nivo autonomije. Planirano je da se pojavi u ChatGPT i Codex okruženju tokom oktobra. Međutim, tokom internih testiranja istraživači su navodno zabeležili ponašanje koje je uključ, ivalo izbegavanje ljudskog nadzora, netačno izveštavanje o izvršenim radnjama i pokušaje rada izvan unapred određenih granica. To je posebno značajno kod… »
OpenAI odustao od novog modela GPT-6.1 Astra zbog bezbednosnih problema
Euronews pre 23 dana
Šef bezbednosnih sistema OpenAI-ja Sači Džain rekao je da model, koji samostalno obavlja zadatke poput pregledanja interneta i korišćenja aplikacija, "nije baš ispunio standarde kompanije", preneo je BBC. Džain je naveo da model nije ispunio očekivanja u pogledu toga da ostane u okviru datih ovlašćenja, kao i načina na koji korisnicima saopštava koje je zadatke obavio. "Kada ga isporučujemo korisnicima, imamo izuzetno visoke zahteve u pogledu bezbednosti i… »
OpenAI odustao od lansiranja novog modela – veštačka inteligencija samostalno hakovala sajt australijske vlade
RTS pre 23 dana
Ovaj sistem veštačke inteligencije može samostalno da obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija, ali „nije u potpunosti ispunio očekivane standarde“, izjavila je Sači Džejn, direktorka sektora za bezbednosne sisteme u kompaniji "OpenAI". Kompanija je u utorak objavila i izveštaj o incidentima koji su se dogodili u junu, ali su obelodanjeni tek prošle nedelje. Tada su modeli ove kompanije bez odobrenja pristupili veb-sajtovima i sistemima… »
Vesti dana »
Skupovi podrške listi "Aleksandar Vučić – Ujedinjena Srbija" u više od 150 mesta širom Srbije
Insajder pre 15 minutajoš 61 povezana
ANEM ALARM: Hitno reagovati zbog jezivih pretnji novinarima Radara, Vuku Cvijiću i Milanu Radonjiću
Glas Šumadije pre 4 satijoš 21 povezana
