AMD публикува подробна инструкции за локалното пускане на ИИ модела DeepSeek-R1обикновен потребителски компютър. Необходима е компютърна система с процесор Ryzen с хардуерен ИИ-ускорител XDNA (NPU) или компютър с десктоп графична карта от типа Radeon RX 7000. Освен това за нормалната работа е необходим драйверът Adrenalin 25.1.1.

Да напомним, че съвсем наскоро бе представена „високопроизводителна“ малка версия на модела за изкуствен интелект DeepSeek-R1, която е достатъчно компактна, за да работи на потребителски хардуер. Струва си да се отбележи, че ИИ моделите на DeepSeek по принцип са с малки хардуерни изисквания – така например моделът DeepSeek-V3 първоначално е бил обучен на клъстер от само 2048 ускорителя Nvidia H800.

Указанията на AMD описват всичко, което е необходимо, за стартирането на DeepSeek R1 локално на персонализирана система, базирана на хардуер на AMD. Приложението LM Studio разполага с инсталатор на големи езикови модели с един клик, специално разработен за процесорите Ryzen AI. Потребителите на AMD могат да го използват и за инсталиране на R1. Във видеоклипа компанията показва също как трябва да бъде конфигурирано приложението за конкретния хардуер и обяснява максималния брой LLM параметри, поддържани от даден хардуер.

Последното до голяма степен зависи от количеството налична памет. Така например графичните карти Radeon RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE и RX 7900 XT поддържат модели до DeepSeek-R1-Distill-Qwen-14B с 14 милиарда параметъра. Флагманската карта Radeon RX 7900 XTX може да работи с модели до DeepSeek-R1-Distill-Qwen-32B с 32 милиарда параметъра. А Radeon RX 7600, само с 8 GB памет на борда, поддържа работа с модели до DeepSeek-R1-Distill-Llama-8B с 8 милиарда параметъра.

Лаптопите, базирани на процесорите Ryzen 8040 и Ryzen 7040 с 32 GB RAM, както и системите, базирани на процесорите Ryzen AI 9 HX 370 и Ryzen AI 9 365 с 24 GB или 32 GB RAM, могат да изпълняват модели до DeepSeek-R1-Distill-Llama-14B. Лаптопите, базирани на Ryzen AI Max+ 395, поддържат модели до DeepSeek-R1-Distill-Llama-70B със 70 милиарда параметъра, но само с 64 или 128 GB RAM. Версиите на лаптопите с 32 GB памет могат да работят с модели до DeepSeek-R1-Distill-Qwen-32B с 32 млрд. параметри.

DeepSeek R1, новият ИИ модел само за една нощ завладя света, тъй като разходите му за обучение бяха 11 пъти по-ниски от тези на конкурентните ИИ модели. Преди два дни той предизвика рекордна загуба от 589 млрд. долара в пазарната капитализация на Nvidia. Моделът DeepSeek-R1 разчита на екстремни нива на оптимизация, за да постигне 11-кратно увеличение на ефективността. DeepSeek-R1 работи не само на ускорители на Nvidia и AMD, появи се информация и за поддръжка на ускорителите на Huawei Ascend, което е много интересно.