Ovo je odgovor Microsofta na skupe i neekonomične AI modele
Bloomberg Adria pre 1 dan | Daniel Fazlić
Microsoft je predstavio BitNet b1.58, novi model velikog jezičkog modela otvorenog koda (LLM), optimizovan za efikasnost naspram veličine.
U industriji gde već dugo dominiraju sve veći AI modeli, BitNet nagoveštava nov oblik rivalstva - uraditi više sa manje. BitNet b1.58 koristi kombinaciju ternarne kvantizacije težinskih koeficijenata (-1, 0, +1) i 8-bitne kvantizacije aktivacija, što značajno smanjuje računske zahteve modela. Umesto uobičajenih 16-bitnih ili 32-bitnih zapisa sa pokretnim zarezom, BitNet koristi bolje komprimovane reprezentacije, što omogućava efikasno funkcionisanje čak i na
