NVIDIA и Amazon Web Services (AWS) представиха нови съвместни решения, насочени към изкуствения интелект. Те обявиха мощните системи NVIDIA GH200 NVL32 за обучение и реализация на невронни мрежи, дори с 1 трилион параметри. Това са стандартни сървърни шкафове с 32 хибридни ускорителя GH200, които осигуряват операции до 128 петафлопа. Компаниите обявиха и най-мощния в света облачен ИИ суперкомпютър – Project Ceiba. Той обещава производителност от 65 екзафлопа, като използва над 16 хил. ускорителя GH200 и колосален капацитет на паметта от 9,1 петабайта.

NVIDIA GH200 NVL32 е готова система, представена в стандартен формат за сървърна стойка. Тя включва 32 хибридни ускорителя NVIDIA GH200 Grace Hopper Superchip. Всеки ускорител от своя страна представлява система от 72 процесорни ядра Arm Neoverse и един графичен процесор NVIDIA H100. Този стелаж осигурява впечатляваща производителност до 128 петафлопа (квадрилиона операции в секунда) при FP8 операциите.

Системата включва 2304 процесорни ядра Arm, 20 Тбайта RAM и 4,5 Тбайта HBM3e, осигуряващи обща пропускателна способност от 157 Тбайта/s. За комуникация между суперчиповете GH200 се използват девет комутатора NVSwitch и NVLink интерфейси с обща пропускателна способност до 57,6 Tbytes/s. NVIDIA GH200 NVL32 е оборудван със система за водно охлаждане.

AWS ще бъде първата компания, която ще предложи системите GH200 NVL32 като част от платформата NVIDIA DGX Cloud. Освен това Amazon ще предостави на клиентите си възможността да комбинират новите системи на NVIDIA в клъстерите EC2 UltraClasters, което ще позволи да се използват хиляди ускорители GH200 Superchip. NVIDIA отбелязва, че системите GH200 NVL32 са идеални за обучение и използване на големи невронни мрежи, включително такива с 1 трилион параметри.