юни 5, 2024

Илон Мъск подготвя суперкомпютър с 300 хиляди NVIDIA B200 за xAI, но засега ще трябва да се задоволи с H100

Илон Мъск казва, че до лятото на 2025 г. неговият AI стартъп xAI ще пусне в експлоатация суперкомпютър с 300 хиляди от най-новите ускорители NVIDIA B200 и SuperNIC ConnectX-8, съобщава Datacenter Dynamics. Мъск също обеща през следващите месеци да пусне в експлоатация и клъстер от 100 хиляди NVIDIA H100 ускорители с течно охлаждане.

Важно е да запомним, че Мъск често дава обещания, които след това никога не изпълнява или изобщо не изпълнява според очакванията. Например, онзи ден The Information съобщи, че 100 хиляди ускорители H100 трябва да започнат да работят едва следващото лято. Най-вероятно компанията ще изгради компактен и сравнително евтин клъстер, който по-късно ще се разшири до 100 хиляди ускорителя. Същата схема може да се приложи и със системата от 300 хиляди ускорителя.

Очаква се такъв суперкомпютър да струва десетки милиарди долари — повече отколкото xAI е събрал от инвеститори. Според главния изпълнителен директор на NVIDIA, Дженсън Хуанг, един B200 струва $30-40 хил. Дори ако Мъск успее да закупи по-евтини ускорители, ще става дума за $9 милиарда, като се има предвид, че компанията ще се нуждае от инфраструктура, комуникации, класически процесори и комунални услуги, което още повече оскъпява проекта — дори без да се вземат предвид разходите за консумирана вода и електричество.

Миналия месец xAI събра 6 милиарда долара в друг кръг на финансиране, повишавайки стойността на компанията до 24 милиарда долара, в комбинация с предишния кръг, който събра 1 милиард долара, средствата ще бъдат достатъчни за закупуване на 100 000 H100 чипа, заплащане на персонала и оперативни разходи — досега xAI наема около 16 хиляди ускорителя H100 от Oracle Cloud, а намерението на xAI да похарчи 10 милиарда долара за сървъри в облака на Oracle беше съобщено наскоро.

source

Сподели: