Zašto bi rešenje za halucinacije veštačke inteligencije uništilo četbotove
RTS pre 6 sati
Kompanija "OpenAI" u novoj studiji objašnjava zašto ChatGPT i drugi veliki jezički modeli „haluciniraju“, fenomen poznat po tome da veštačka inteligencija izmišlja stvari, odnosno sadržaj odgovora. Takođe, iz kompanije kažu da znaju kako da reše problem, ali bi implementacija rešenja uništila poverenje korisnika.
U novom radu je data najstrožija matematička analiza do sada koja objašnjava zašto ovi modeli samouvereno iznose netačne tvrdnje. Pokazano je da to nije samo nesrećna posledica načina na koji se trenutno treniraju, već nešto što je matematički neizbežno. Deo problema proističe iz grešaka u podacima koji se koriste za treniranje. Ali, koristeći matematičku analizu načina na koji sistemi VI uče, istraživači su dokazali da čak i uz savršene podatke za obuku, problem i
