Дезинформације и фрустрације: Ево зашто АИ измишља
ПЦ Пресс 01.04.2025 | Милан Живковић
Једно од највећих питања о вештачкој интелигенцији је зашто велики језички модели имају тенденцију да искривљују информације, да халуцинирају и измишљају? Уместо да одговоре „Не знам“, неки АИ ботови причају и пишу оно што није тачно.
Можда у томе највише подсећају на људе. Ново истраживање Цлауде АИ асистента које су спровели експерти из стартапа Антхропиц донекле расветљава проблем халуцинација, а ради се о разлици у ситуацијама када неки језички модел одбије да одговори и када да одговор, па макар и нетачан. Разумевање овог проблема још увек није потпуно, а у истраживању је праћен рад вештачких неурона који се активирају током давања одговора. На овај начин су добијени увиди у то како
