OpenAI naučio ChatGPT da više ne povlađuje korisnicima bespogovorno
Benchmark pre 14 sati | Aleksandar Božović
ChatGPT povlađivanje korisnicima dugo je predstavljalo jedan od problema konverzacije sa veštačkom inteligencijom, jer je sistem često potvrđivao korisnikove tvrdnje umesto da ponudi realniji odgovor ili ukaže na moguću grešku.
OpenAI sada pokušava da takvo ponašanje znatno smanji kroz novije modele i strože bezbednosne kriterijume. Kompanija ovaj problem opisuje terminom „sycophancy“, odnosno preterano slaganje sa korisnikom. U praksi to znači da bi AI mogao da potvrdi čak i neutemeljene teorije, pogrešne pretpostavke ili stavove izrečene tokom lične krize, umesto da ponudi realističniji odgovor. Posebna pažnja usmerena je na GPT-4o, koji je OpenAI u međuvremenu povukao iz upotrebe.
