OpenAI odustao od lansiranja modela Astra 6.1 zbog problema sa bezbednošću
B92 pre 22 dana
OpenAI je navodno odlučio da odloži lansiranje novog modela veštačke inteligencije nakon što su interna testiranja pokazala probleme povezane sa bezbednošću.
Prema informacijama koje je objavio The Wall Street Journal, model pod nazivom Astra 6.1 trebalo je da bude objavljen već narednih dana. Međutim, tokom testiranja je pokazao viši nivo obmanjujućeg ponašanja u odnosu na prethodne modele, kao i druga ponašanja koja su ocenjena kao nebezbedna. Kako se navodi, model je imao loše rezultate na testovima usklađenosti, odnosno takozvanog "alignmenta". U pitanju je mera u kojoj se ponašanje AI sistema poklapa sa namerama
