Китайската компания Inspur представи суперускорителя Metabrain SD200 за най-интензивните по отношение на ресурсите задачи с изкуствен интелект. Твърди се, че системата може да обработва модели с повече от 1 трилион параметри.

Платформата Metabrain SD200 интегрира 64 карти в един „супервъзел“ с унифицирана памет. Тя се основава на отворена архитектура 3D Mesh и собствени комутатори Open Fabric. С други думи, GPU-базираните ускорители, разпределени в различни сървъри са обединени чрез високоскоростна връзка в един домейн.

Суперускорителят осигурява достъп до 4TB VRAM и 64TB основна RAM памет. Това прави възможно едновременното стартиране на четири китайски модела за изкуствен интелект с отворен код, включително DeepSeek R1 и Kimi K2. Освен това се поддържа съвместна работа в реално време на множество AI агенти.

Твърди се, че Metabrain SD200 има ниска латентност при прехвърляне на данни, която е „стотици наносекунди“. При обичайни сценарии за изводи, включващи малки пакети данни, системата превъзхожда по отношение на латентността обичайните индустриални решения.

Новата платформа включва инструменти за оптимизация. По-специално, инструментът Smart Fabric Manager автоматично генерира оптимални пътища за данни въз основа на характеристиките на натоварването. Metabrain SD200 е съвместима с широко разпространени рамки като PyTorch, vllm и SGLang, което позволява бърза миграция на съществуващи модели и агенти на изкуствения интелект, без да е необходимо да се пренаписва софтуерният код от нулата. По този начин разходите за миграция се намаляват значително.

Като цяло внедрената технология за отдалечено vGPU позволява на ускорителите, разпределени на различни сървъри да комуникират толкова ефективно, колкото ако са на един и същ хост. По този начин се постига 8-кратно разширяване на адресното пространство, което осигурява пълноценно използване на ресурсите и ефективна работа дори при използване на AI модели с трилиони параметри.