Китайските разработчици на системи с изкуствен интелект, които са ограничени в достъпа до съвременни изчислителни ресурси поради американските санкции, се опитват да компенсират евентуалното изоставане по различни начини. Huawei предложи софтуерен инструмент с отворен код, който е предназначен да компенсира липсата на достъп до ускорители с памет от типа HBM за китайските разработчици.

Софтуерният инструмент, предложен от Huawei, се нарича Unified Cache Manager (UCM) и неговата цел е да оптимизира достъпа до данни според предварително дефинирана йерархия от типове памет. Информацията, съхранявана в HBM, DRAM и SSD, може да бъде ускорена от този инструмент в системите с изкуствен интелект, ориентирани към създаване на логически изводи.

В специализираните тестове, UCM вече е доказал своята ефективност, намалявайки латентността на достъпа до паметта с до 90% и увеличавайки пропускателната способност на системата с 22 пъти в най-забележителния случай. UCM ще бъде достъпен за работещите с Huawei разработчици от следващия месец, а след това ще се появи и за по-широк кръг от китайски създатели на системи с изкуствен интелект. Това би трябвало да помогне за намаляване на зависимостта на китайската AI индустрия от чиповете HBM памет, които се произвеждат от южнокорейските SK hynix и Samsung, както и от американската Micron Technology. Доставките на тази памет за Китай са забранени от американските санкции, а китайските производители едва сега започват да я произвеждат – и то не в най-бързото поколение.

Напредъкът е възпрепятстван от санкциите върху доставката на оборудване за производство на HBM памети в Китай, които също са наложени от американските власти. Наскоро китайски представители призоваха американските си колеги да облекчат ограниченията върху доставките на HBM памет в Поднебесната империя. Същевременно те призовават китайските разработчици да спрат да използват доставяните от САЩ ускорители Nvidia H20.