Да ли је Мета управо победила Гоогле и Аппле у трци? Храбар потез, АИ стиже на телефоне у великом стилу
Курир 26.10.2024
Компанија је најавила компресоване верзије својих модела Ллама 3.2 1Б и 3Б које раде до четири пута брже док користе мање од половине меморије од ранијих верзија.
Ови мањи модели раде скоро исто као и њихове веће "колеге", према Мета тестирању. Напредак користи технику компресије која се зове квантизација, која поједностављује математичке прорачуне које покрец́у АИ моделе. Мета је комбиновао две методе: тренинг са свешц́у о квантизацији са ЛоРА адаптерима (КЛоРА) за одржавање тачности и СпинQуант за побољшање преносивости. Ово техничко достигнуц́е решава кључни проблем: покретање напредне вештачке интелигенције без
