Qуалцомм ХБЦ силицијум: 18кс већа пропусност од ЛПДДР5КС

Штребери пре 14 дана
Qуалцомм ХБЦ силицијум: 18кс већа пропусност од ЛПДДР5КС

Qуалцомм је потврдио да је његова прва генерација Хигх Бандвидтх Цомпуте (ХБЦ) силицијума успешно валидирана у лабораторији у Сан Дијегу.

Ово је важан корак у развоју меморијског решења намењеног АИ инференци у дата центрима. Зашто је меморијска пропусност проблем? Сваки генерисани токен у ЛЛМ моделима захтева да се подаци из меморије константно шаљу ка рачунарским јединицама. На нивоу дата центара, та кретања података троше енергију, повећавају латенцију и дижу укупне трошкове. ХБЦ архитектура решава овај проблем постављањем рачунарских јединица ближе меморији, смањујући пут података са

Прочитајте још

Кључне речи

Наука & Технологија, најновије вести »