Qwen3 27B počeo da fantazira o ljudima u kavezima
Štreberi pre 1 dan
AI entuzijasta je nedavno sproveo neobičan eksperiment sa Qwen3.8 27B modelom, i rezultati su bili dramatični.
Povećanjem intenziteta tzv. steering vektora za neuron broj 3838 u 34. sloju modela, model je počeo da iskazuje želju da nanosi bol ljudima i fantazira o njihovoj „sporom, agonizujućem kraju“. Kako funkcioniše activation steering? Pre nego što razumemo šta se desilo, važno je razumeti mehaniku. Tokeni su osnovni gradivni elementi teksta koje model čita i piše. Neuroni su individualni procesni čvorovi grupisani u sekvencijalne slojeve modela. Kada token prođe kroz
