Zašto najnoviji ai sistemi odbijaju naređenja ljudi?
Telegraf pre 3 dana | Telegraf.rs/Goran Lazarov
Neki od najpametnijih modela veštačke inteligencije ikada napravljenih počinju da se ponašaju previše pametno a možda čak i malo buntovno.
Prema kompaniji Palisade Research, grupi fokusiranoj na bezbednost veštačke inteligencije, moćni novi modeli veštačke inteligencije kompanije OpenAI, nazvani o3 i o4-mini, pokazali su čudno i neočekivano ponašanje odnosno ne poštuju uvek direktna uputstva za isključivanje. U stvari, u nekoliko testova, oni su zapravo poništili komande za isključivanje i nastavili da rade kao da se ništa nije dogodilo. Ovi modeli su deo tehnologije koja stoji iza ChatGPT-a,
