Китайската компания Dongfang Suanxin (Shanghai Oriental Compute Core Technology) обяви разработването на AI-ускорителя DF1000. Новият продукт е създаден изцяло от местни компоненти, а вместо скъпата HBM памет се използва 3D DRAM.

Устройството използва концепцията „изчисления в близост до паметта“ (Near-In-Memory Computing). Чипът 3D DRAM има многослойна структура, създадена с помощта на технологията за хибридно свързване: твърди се, че прилаганият подход позволява да се намали стъпката на междусекционното свързване от микрометров до субмикрометрово ниво. В резултат на това, в сравнение с традиционните решения, броят на вертикалните междусвързвания се увеличава 10 пъти. А това дава възможност пропускателната способност на паметта да се увеличи пет пъти при същия капацитет. По този начин може да се създаде аналог на HBM.

Ускорителят DF1000 се произвежда с използване на 14-нм технология. Декларираната пропускателна способност при достъп до паметта е 6,4 Тбайт/с, а мащабируемата пропускателна способност на интерконнекта — 900 Гбайт/с. Производителността при операции с изкуствен интелект достига 520 Тфлопс в режим BF16. Новият продукт е подходящ за обучение на големи езикови модели (LLM) и изпълнение на други ресурсоемки задачи. Хардуерната част може да бъде преконфигурирана за конкретна задача, което повишава ефективността на използване на ресурсите.

Според наличните данни моделът DF100 осигурява два пъти по-голяма пропускателна способност в сравнение с NVIDIA H100 и превъзхожда ускорителя H200 с 33% по този показател. Китайското решение демонстрира производителност до 500 токена/сек при работа с модела Llama3 70B.

В процес на разработка е и решението DF2000, което Dongfang Suanxin планира да пусне на пазара около 2027 г. То ще осигурява производителност до 1000 Тфлопса в режим BF16, до 2000 Тфлопса в режим FP8 и до 4000 Тфлопса в режим FP4. Пропускателната способност на паметта ще достигне до 15 Тбайт/с благодарение на усъвършенстваната архитектура 3D DRAM, а на интерконнекта — до 1600 Гбайт/с. Предвижда се използването на 14-нм технологичен процес.