Microsoft представи ускорителя AMD Instinct MI300C, специална версия на Epyc със 128GB HBM3 памет
По време на конференцията Ignite 2024 подразделението Microsoft Azure представи първия ускорител с процесор от фамилията Epyc със Zen 4 ядра и HBM3 памет – продуктът е обозначен като AMD Instinct MI300C и в момента е наличен само в облачната инфраструктура на Microsoft, а именно в инстанциите Azure HBv5.
Миналата неделя, когато ръководителят на подразделението за центрове за данни на AMD присъстваше на представянето на най-бързия суперкомпютър El Capitan, компанията спомена MI300C като един от моделите от линията Instinct, но тогава не даде подробности. Ускорителите от фамилията AMD Instinct MI300 са предназначени за сектора на високопроизводителните изчисления и изкуствения интелект.
Те имат чиплетно оформление, базирано на четири съседни I/O Die кристала, в които се помещават GPU/XCD и CPU чиплети. Докато MI300A разполага с шест XCD и три осемядрени CCD, MI300C заменя XCD с CCD, което увеличава общия брой на Zen 4 ядрата на 96 вместо на 24. Почти няма други разлики; налице е блок HBM3 памет с капацитет 128 GB. Всъщност се оказва, че ускорителят AMD MI300C е процесор Epyc с HBM3.

На практика количеството на наличните ресурси на процесора зависи от сценариите на използването му. Във виртуалната машина на Microsoft Azure HBv5 работят четири блока, като на всеки от тях са налични само 88 ядра; четирите процесора, инсталирани на платката с максимална тактова честота 4 GHz, дават 352 ядра. Пропускателната способност на паметта е 6,9 Тбайт/с при 400-450 GB (HBM3), като на всяко ядро може да се инсталира до 9 GB памет. SMT (Simultaneous Multithreading – едновременна многонишкова обработка) е изключена; има само една виртуална машина на сървър.
Поддържа се 800Gbps Nvidia Quantum-2 InfiniBand интерконектор – 200Gbps на ускорител; VMSS Flex позволява MPI натоварванията да се мащабират до стотици хиляди процесорни ядра с достъп до HBM памет; налице е мрежов адаптер тип Azure Boost 2, който осигурява мрежови скорости до 160Gbps. На клиентите се предлага и 14Tbyte NVMe локален SSD диск със скорост на запис до 50GB/s и скорост на запис до 30GB/s.
Подчертава се, че AMD Instinct MI300C ще останат достъпни единствено в Microsoft Azure.