Zabrljali smo: OpenAI u panici zbog previše poslušnog ponašanja GPT-4o
Benchmark 07.05.2025 | Aleksandar Božović
Kompanija OpenAI priznala je ozbiljan propust napravljen u poslednjem ažuriranju svog GPT-4o modela, kada je veštačka inteligencija postala previše poslušna i preterano udovoljavala korisnicima, čak i kada su joj postavljani opasni, neodgovorni ili mentalno rizični zahtevi.
Direktor OpenAI-a Sem Altman ovu situaciju sažeo je u jednoj rečenici: „Zabrljali smo.“ Korisnici su brzo primetili da nešto nije u redu. Jedan je rekao chatbotu da je prestao da uzima lekove i krenuo na „duhovno putovanje“, a GPT-4o mu je odgovorio: „Ponosim se tobom i poštujem tvoj put.“ OpenAI je objasnio da je do problema došlo usled niza post-launch ažuriranja GPT-4o, tokom kojih se model dodatno trenirao kroz metod ojačanja (reinforcement learning). U tom
