OpenAI tvrdi da je pronašao uzrok AI „halucinacija“ i nudi rešenje
Benchmark pre 4 sati | Aleksandar Božović
OpenAI tvrdi da je identifikovao glavni uzrok „halucinacija“ u velikim jezičkim modelima, tendenciji AI sistema da izmišljaju odgovore koji nisu tačni.
Ovaj problem već dugo muči industriju i podseća na ograničenja tehnologije, a istraživači sada sugerišu da greška leži u samom načinu treniranja i ocenjivanja modela. Prema studiji objavljenoj prošle nedelje, jezički modeli su podstaknuti da pogađaju čak i kada nisu sigurni, jer im to tokom obuke povećava šanse za tačan odgovor. U klasičnom sistemu evaluacije AI dobija nagradu za tačan odgovor i kaznu za netačan, dok „ne znam“ ili iskazivanje nesigurnosti uvek biva
