януари 14, 2025

Ентусиаст подкара модерен ИИ-модел на 20-годишна конзола Xbox 360

Потребителят на социалната мрежа X Андрей Давид успя да инсталира и стартира на конзолата Xbox 360 модел на изкуствен интелект, базиран на Llama2.c, който е написан на езика за програмиране C от бившия служител на OpenAI и Tesla Андрей Карпати. Ентусиастът е бил подтикнат да направи това от работата на експертите от EXO Lab, които в края на миналата година стартираха Llama Large Language Model (LLM) на 26-годишен компютър с Windows 98.

Въпреки, че ентусиастът е използвал ИИ-модела, базиран на същия енджин като EXO Lab, той е трябвало да оптимизира програмния код за процесора на конзолата с архитектура PowerPC и функциите за управление на паметта. Основната разлика е, че в PowerPC системата за директно подреждане на байтовете съхранява първо най-важните стойности, докато използваният в компютъра процесор Intel Pentium II съхранява първо най-малко важните стойности. За да осигури правилното функциониране на ИИ-модела Давид трябваше да добави система за обмен на байтове и да гарантира, че всички създадени и съхранени данни са правилно подравнени към 128-те байта в паметта, изисквани от подсистемата за памет на Xbox 360.

В крайна сметка ентусиастът стартира ИИ-модела на Xbox 360 с PowerPC-базиран процесор Xenon с 3 ядра и работна честота до 3,2 GHz, както и с 512 MB RAM.

Пускането на голям езиков модел, базиран на Llama 2 на устройство с десетилетна давност е значително постижение. Въпреки това един потребител на платформата X отбеляза, че 512 MB RAM в Xbox 360 би трябвало да са достатъчни за стартиране на алгоритмите SmolLm на Hugging Face или 4-битовия 0,5B модел Qwen2.5.

„Предизвикателството е прието.“

, написа Дейвид в отговор на това

Това означава, че в бъдеще той ще се опита да стартира и други модели на изкуствен интелект на Xbox 360.

source

Сподели: