Nvidia представи персонален суперкомпютър с изкуствен интелект. Компанията ще започне да продава системата, наречена Project Digits, която е базирана на новия суперчип GB10 Grace Blackwell през май тази година. Тя разполага с достатъчно изчислителна мощ за работа със сложни големи езикови модели (LLM), като същевременно е достатъчно компактна, за да се побере на бюро и да се захранва от стандартен електрически контакт. Преди за подобна изчислителна мощност се изискваха много по-големи и по-енергоемки системи.

„ИИ ще се превърне в масова практика във всяко приложение за всяка индустрия. С проекта Digits суперчипът Grace Blackwell ще бъде достъпен за милиони разработчици. Поставянето на ИИ-суперкомпютър на бюрата на всеки специалист по данни, изследовател на ИИ и студент ще им даде възможност да участват в оформянето на ерата на ИИ.“

заяви главният изпълнителен директор на Nvidia Дженсън Хуанг

Системата Project Digits, която е с размерите на традиционен настолен миникомпютър като Mac mini може да обработва ИИ-модели, съдържащи до 200 милиарда параметъра, и има начална цена от 3000 долара.

За още по-взискателни приложения две системи Project Digits могат да се комбинират, за да обработват модели, съдържащи до 405 милиарда параметъра (най-добрият ИИ-модел на Meta – Llama 3.1 има 405 милиарда параметъра).

Чипът GB10 Grace Blackwell осигурява до 1 петафлоп производителност с точност FP4, което означава, че може да извършва 1 квадрилион операции в секунда за обучение и работа с ИИ-модели.

Системата разполага с графичен процесор с последно поколение ядра Nvidia CUDA и тензорни ядра от пето поколение. Той е свързан чрез NVLink-C2C с процесор Grace с 20 енергийно ефективни ядра на архитектурата Arm. MediaTek участва в разработването на GB10, като помага за оптимизиране на енергийната ефективност и производителността. Всяка система е оборудвана със 128 GB унифицирана кохерентна RAM памет и до 4 TB NVMe памет.

Потребителите ще имат достъп и до софтуерната библиотека за изкуствен интелект на Nvidia, включително комплекти за разработка, инструменти за оркестрация и предварително обучени модели, налични в каталога Nvidia NGC. Системата работи с Linux-базираната операционна система Nvidia DGX OS и поддържа популярни рамки като PyTorch, Python и Jupyter Notebooks. Разработчиците могат да персонализират моделите с рамката Nvidia NeMo и да ускорят работните процеси в областта на науката за данните с библиотеките Nvidia RAPIDS.

Потребителите могат да разработват и тестват своите модели на изкуствен интелект локално в Project Digits и след това да ги разгърнат в облачни услуги или инфраструктура на център за данни, които използват същата архитектура Grace Blackwell и софтуерната платформа Nvidia AI Enterprise.

Имайте предвид, че това далеч не е първият „потребителски“ суперкомпютър с изкуствен интелект на Nvidia. През декември компанията обяви версия на своя компютър Jetson за приложения на ИИ за 249 USD, предназначена за любители и стартиращи компании, наречена Jetson Orin Nano Super, която може да обработва LLM с до 8 милиарда параметъра.