септември 19, 2023

SK hynix показа прототип на ускорителя за генеративен ИИ AiMX, който е до 10 пъти по-бърз от графичните процесори

На скорошното мероприятие AI Hardware & Edge AI Summit 2023, SK hynix показа новото си решение, предназначено да ускори генеративния AI.

Какво е AiMX и неговото предназначение?

Прототипът се нарича AiMX, където съкращението AiM означава Accelerate in Memory. Устройството представлява разширителна карта, която се свързва със системата чрез интерфейса PCIe x16. Вътре е предвидена платка със запоени GDDR6 модули. Между тях има два контролера. Както става ясно от съкращението, AiMX е специализирано решение, което ускорява генеративните AI системи чрез предоставяне на клъстери с видео-памет и голям капацитет.

Какви са предимствата от употребата му?

Конкретните спецификации на AiMX не са посочени. Въпреки това, SK hynix каза по време на презентацията, че новата разширителна карта намалява до 10 пъти времето за обработка на данните от генеративния AI в сравнение с GPU ускорителите. Същевременно, AiMX консумира пет пъти по-малко електроенергия. Между другото, картата се захранва от един 8-пинов PCIe конектор. Благодарение на високата ефективност с AiMX, общата цена за притежание на хардуера за обучение и поддържане на генеративен AI е намалена наполовина в сравнение със стандартните GPU-ускорители.

SK hynix към момента не обявява датата за пускане на AiMX, но световни лидери в областта на AI, които са присъствали на презентацията, са заинтересовани от новото решение.


source

Сподели: