Microsoft постепенно променя подхода си към изкуствения интелект в Windows 11. Компанията актуализира документацията си и обяви, че локалните езикови модели вече могат да работят не само на персоналните компютри от клас Copilot+, но и на обикновените системи с графични карти NVIDIA GeForce RTX 30-серия или по-нови.

Новите функции изискват графична карта с поне 6 GB видеопамет. Това означава, че милиони съществуващи компютри с RTX графики потенциално ще получат достъп до локалните функции на изкуствен интелект, без да е необходимо да купуват нов компютър с невронен процесор (NPU).

Microsoft преосмисля концепцията Copilot+ PC

Когато Microsoft представи Copilot+ PC през 2024 г., компанията позиционира тези устройства като основна платформа за локален изкуствен интелект в Windows. За да постигне този статус, компютърът трябваше да отговаря на няколко изисквания: SSD, поне 16 GB RAM и невронен процесор (NPU) с поне 40 TOPS производителност. По това време Microsoft подчертаваше, че NPU е ключовият компонент за изпълнение на ИИ функциите без връзка с облачни услуги.

Въпреки това, много ентусиасти отдавна отбелязват, че съвременните графични карти вече са умели в справянето с подобни задачи. Освен това, графичните процесори често осигуряват значително по-висока производителност при работа с езикови модели и генеративен изкуствен интелект, отколкото интегрираните невронни процесори (NPU).

Това създаде парадоксална ситуация. Геймърски компютър с мощна графична карта GeForce RTX 4070, който има достатъчно ресурси за изпълнение на локални AI модели, не може да получи достъп до някои от вградените възможности на Windows, просто поради липсата на NPU. В същото време, тънък лаптоп с подходящ невронно-процесорен блок (NPU) може да използва тези функции.

Какви функции ще получат собствениците на NVIDIA RTX?

Обновените програмни интерфейси Language Model API позволяват на разработчиците да използват локалните възможности на изкуствения интелект на съвместимото NVIDIA оборудване.

Системата е базирана на Phi Silica – компактен езиков модел на Microsoft, който работи директно на устройството. С помощта на тези инструменти приложенията могат да:

• правят кратки резюмета на текстове;
• пренаписват и редактират съдържание;
• преобразуват текст в таблици;
• структурират информация;
• генерират отговори на потребителски заявки.

По същество това е локален еквивалент на много от функциите, които потребителите обикновено свързват с услуги като ChatGPT или Gemini. Разликата е, че обработката се извършва директно на компютъра, а не на отдалечени сървъри.

Този подход има две предимства. Първо, поверителност: документи, имейли и бележки никога не напускат устройството. Второ, скорост: AI функциите не разчитат на интернет връзка, облачна инфраструктура или абонаменти.

Какви са ограниченията?

Засега промените засягат само Language Model API. Някои други функции на Windows 11, като например Recall, Click to Do и някои творчески инструменти, задвижвани от изкуствен интелект, все още изискват невронен процесорен блок (NPU).

Самият факт, че вече е налична поддръжка за стандартните RTX графични карти, може да показва промяна в стратегията на Microsoft. Компанията на практика започва да разглежда езиковите модели като стандартен компонент на Windows, а не като ексклузивна функция за специфичен клас устройства.