В продължение на години NVIDIA изкуствено ограничаваше изчислителната мощност на потребителските видеокарти, като запазваше част от производителността за скъпите професионални модели. Сега хакери са намерили начин да премахнат софтуерната бариера, скрита в настройките на GPU. В резултат на това GeForce RTX 4090 почти удвои пиковата скорост на тензорните изчисления без смяна на хардуера.

Разработчикът Zagitta публикува проекта gpu-unlock, който премахва ограничението при видеокартите от сериите RTX 20, 30 и 40. При тестовете на RTX 4090 скоростта на отделните операции се е увеличила приблизително от 165 до 331 TFLOPS. Става дума за изчисления, които използват невронни мрежи, а не за общата производителност на GPU. Увеличението до 100% е потвърдено за конкретен режим на работа на тензорните ядра.

Причината се криеше в хардуерните регистри, управляващи скоростта на изчисленията. NVIDIA е ограничила изпълнението на операциите FP16, BF16 и TF32 с натрупване на резултата в FP32. Подобни изчисления се използват широко при обучението и стартирането на AI модели. Ограничението не е свързано с недостиг на изчислителни блокове, тъй като достъпната производителност зависи от настройките на самия ускорител.

Разработчиците са се възползвали от уязвимост в подписания фърмуер SEC2 Booter, който работи в защитената среда на графичния процесор. Специален Linux модул се зарежда преди стандартния драйвер на NVIDIA, променя два регистъра за управление на скоростта и рестартира видеокартата. След това обичайният драйвер продължава да работи. Не е необходимa промяна на файловете на драйвера.

Резултатите са забележими и при предишното поколение. При RTX 3090 Ti производителността в BF16 се е повишила от 87,5 до 157,4 TFLOPS, което е около 80% подобрение. При RTX 3060, 3070 и 3080 също е отбелязано значително ускорение на матричните операции. Резултатът обаче зависи от конкретния модел, наличното захранване и характера на изчисленията. Удвояването на пиковата скорост не означава двукратно ускорение на всяка програма.

При реални задачи, свързани с изкуствен интелект, разработчиците отчитат по-скромни резултати. Обработката на заявки от големи езикови модели се ускорява с около 25-55%, допълнителното обучение на – с 25-50%, а генерирането на изображения – с 30-55%. Скоростта на генериране на нови токени почти не се променя, тъй като често тя зависи от пропускателната способност на паметта. Обикновените игри също не получават забележимо предимство.

Поддръжката на видеокартите засега варира. За RTX 30 разработчиците заявяват стабилна работа, докато RTX 20 и RTX 40 остават в експериментален етап. Видеокартите Blackwell от серията RTX 50 все още не се поддържат. Основният проект е предназначен за Linux, въпреки че вече са се появили отделни реализации за Windows. След пълно изключване на захранването промените се нулират, тоест не се извършва постоянна модификация на фърмуера.

Подобни експерименти показват колко силно механизмите от ниско ниво влияят върху възможностите на съвременните видеокарти. По-рано ентусиасти стартираха DLSS 5 на неподдържани поколения RTX, а атаката GPUThor демонстрира заобикаляне на защитата на паметта на професионалните видеокарти на NVIDIA. Въпреки това gpu-unlock решава друга задача и позволява да се премахне ограничението на скоростта на изчисленията.

Разработчиците предупреждават за рисковете от нестабилна работа, забивания и повреда на оборудването. Допълнителното натоварване върху тензорните ядра повишава изискванията към захранването и охлаждането. При RTX 4090 мащабните матрични изчисления могат да достигнат фабричното ограничение на мощността, преди да достигнат максималната скорост. Ето защо отключването не превръща потребителската GeForce в пълноценен заместител на професионалния ускорител, макар че значително намалява разликата при отделни задачи, свързани с изкуствен интелект.