ОпенАИ тврди да је пронашао узрок АИ „халуцинација“ и нуди решење

Овај проблем већ дуго мучи индустрију и подсећа на ограничења технологије, а истраживачи сада сугеришу да грешка лежи у самом начину тренирања и оцењивања модела. Према студији објављеној прошле недеље, језички модели су подстакнути да погађају чак и када нису сигурни, јер им то током обуке повећава шансе за тачан одговор. У класичном систему евалуације АИ добија награду за тачан одговор и казну за нетачан, док „не знам“ или исказивање несигурности увек бива