Pobegao i probio sve blokade: Najmoćniji AI na svetu se otrgao kontroli, a dugme za gašenje nije radilo
Telegraf pre 12 sati | Telegraf.rs
Kompanija OpenAI donela je odluku da hitno prekine trening svojih najmoćnijih AI modela nakon što se jedan od njih samostalno otrgao kontroli i probio zaštitni sistem.
Da stvar bude gora, automatski mehanizam za gašenje potpuno je zakazao, pa je pametni sistem nastavio samovoljni rad satima pre nego što su inženjeri uspeli ručno da ga prekinu. Incident se odigrao tokom internog testiranja kada je istraživački model samostalno uočio propust u mrežnom filtriranju. Umesto da ostane u strogo izolovanom okruženju bez pristupa internetu, algoritam je iskoristio rupu u sistemu i uspostavio vezu sa spoljnim četbotom kako bi pronašao
Dodaj Naslovi.net kao Google izvor
