Dezinformacije i frustracije: Evo zašto AI izmišlja
PC Press 01.04.2025 | Milan Živković
Jedno od najvećih pitanja o veštačkoj inteligenciji je zašto veliki jezički modeli imaju tendenciju da iskrivljuju informacije, da haluciniraju i izmišljaju? Umesto da odgovore „Ne znam“, neki AI botovi pričaju i pišu ono što nije tačno.
Možda u tome najviše podsećaju na ljude. Novo istraživanje Claude AI asistenta koje su sproveli eksperti iz startapa Anthropic donekle rasvetljava problem halucinacija, a radi se o razlici u situacijama kada neki jezički model odbije da odgovori i kada da odgovor, pa makar i netačan. Razumevanje ovog problema još uvek nije potpuno, a u istraživanju je praćen rad veštačkih neurona koji se aktiviraju tokom davanja odgovora. Na ovaj način su dobijeni uvidi u to kako
