Една от бъдещите революции в света на изчислителните ускорители и изкуствения интелект вече е придобила форма. Революцията ще започне през есента на 2026 г., а експлозивното разширяване на възможностите на изкуствения интелект ще последва през 2027 г. За двигателя на революцията беше определена компанията SanDisk, която сега ще започне да работи по планове за бъдеща експанзия в тясно сътрудничество с SK hynix.

SanDisk възнамерява да разчупи установените правила на пазара на ИИ-ускорителите с помощта на нов тип флаш-памет — HBF (High Bandwidth Flash). Технологията беше обявена през февруари 2025 г. Основната идея е да се увеличи многократно капацитетът на паметта на ускорителите на относително достъпна цена.

Не е тайна, че плътността на записа на NAND флаш-чиповете нараства многократно по-бързо от капацитета на DRAM чиповете и HBM. Това се улеснява от записа на няколко бита във всяка клетка и многослойната (стекова) структура на NAND. HBM паметта все още не се произвежда с такава архитектура. Цялата ѝ многослойност е просто купчина от сравнително големи кристали. Следователно, замяната на HBM паметта с HBF памет в ускорителите ще позволи да се увеличи вградената памет на AI-модулите толкова много, че на всеки от тях да може да бъде зареден пълноценен голям езиков модел, без да се използват RAM, SSD, HDD и т.н.

Може също да се очаква, че преходът от RAM към флаш-памет в ИИ-ускорителите ще намали консумацията на енергия на съответните центрове за данни: флаш-паметта не изисква захранване за запазване на данните и енергия за регенериране на клетките.

SanDisk вече е решила как да преодолее основното ограничение на флаш-паметта като заместител на оперативните DRAM блокове — високите латентности (с пропускателната способност всичко е наред). За да направи това, HBF масивът ще бъде разделен на множество малки области, което по същество ще означава въвеждането на много широка шина за данни. Например, с 32 768 битова ширина, както е предложено от друга компания със същите революционни амбиции — NEO Semiconductor.

По-рано SanDisk даде пример за сравнение на текущия обем на HBM в графичен процесор в случай на замяната му с HBF: това ще доведе до 8-16-кратно увеличение на обема на вградената памет на ускорителите със същите производствени разходи. Например, в случая с HBF, всеки 24 GB HBM стек ще бъде заменен с 512 GB HBF стек. По този начин, при пълна подмяна на HBM, ускорителят ще може да носи 4 TB памет на борда, което ще позволи пълното зареждане на големия езиков модел Frontier с 1,8 трилиона параметри, с размер 3,6 TB.

Партньорството с SK hynix, обявено от компаниите вчера, ще ускори времето за пускане на новата разработка на пазара и ще позволи тя да бъде разпространена сред разработчиците на ИИ-ускорители. Тя ще се възползва и от помощта на уважавани лидери в света на ИТ, включително Раджа Кодури, който преди около две седмици се съгласи да се присъедини към техническия съвет за популяризиране на HBF паметта в индустрията.

Според SanDisk, първите проби от HBF памет ще бъдат достъпни за закупуване през есента на 2026 г., а първите продукти с нея ще бъдат пуснати в началото на 2027 г. Това ще преобърне света на AI ускорителите, уверени са от SanDisk.