Към днешен ден изкуственият интелект на практика по никакъв начин не участва в ОС Windows, с изключение на интегрирането на езиковия модел GPT. Въпреки това, първо, вече има процесори на AMD със специален блок за ускоряване на алгоритмите с елементи на изкуствен интелект, а подобни се подготвят и от Intel, и второ, според слуховете Windows 12 тотално ще се основава на изкуствения интелект. А сега се се появи информация, че обикновените потребители всъщност ще получат в ръцете си възможност за директната работа с AI акселераторите на Nvidia под формата на специализиран софтуер.

В началото на тази седмица Nvidia обяви, че нейната библиотека TensorRT-LLM, която подобрява производителността на формиране на заключенията при най-новите големи езикови модели с изкуствен интелект, вече е налична за операционната система Windows. Това е специализираната библиотека TensorRT-LLM, която значително ускорява работата с изкуствения интелект.

По-конкретно, в Stable Diffusion в популярния уеб интерфейс на дистрибуцията Auto1111, разработката на Nvidia почти удвоява скоростта на ИИ. В резултат на това подобрение RTX 4090 превъзхожда Apple M2 Ultra цели седем пъти.

Очевидно тази технология ще работи само с графичните карти GeForce RTX, но за Nvidia това е съвсем логично. Всъщност по този начин компанията „превръща“ своите геймърски адаптери в ускорители за изкуствения интелект.