Windows-KI künftig auch ohne NPU?

Microsoft könnte die Hardware-Anforderungen für lokale KI-Funktionen unter Windows künftig deutlich erweitern. Berichten zufolge experimentiert das Unternehmen derzeit mit einer Lösung, die bestimmte KI-Workloads nicht nur auf dedizierten Neural Processing Units (NPUs), sondern auch auf leistungsfähigen Desktop-Grafikkarten ausführen kann.

Entdeckt wurde die Funktion in einer experimentellen Version des Windows App SDK. Aktuell ist sie ausschließlich in speziellen Windows-Insider-Builds verfügbar und setzt zusätzlich den aktivierten Entwicklermodus voraus. Dennoch liefert der Fund interessante Hinweise auf die zukünftige Ausrichtung von Microsofts KI-Strategie.

Die erste Implementierung soll Nvidia-Grafikkarten der immer noch vielfach genutzten GeForce RTX 30 Serie und neuer unterstützen. Voraussetzung sind offenbar mindestens 6 GByte Videospeicher. Im Mittelpunkt stehen dabei die sogenannten Language Model APIs von Microsoft, über die Entwickler lokale KI-Inferenz direkt in ihre Anwendungen integrieren können. Zu den möglichen Einsatzgebieten zählen unter anderem Textzusammenfassungen, Umschreiben von Inhalten, Schreib- und Bearbeitungshilfen, sprachbasierte Automatisierungsaufgaben und lokale KI-Assistenten.

Bislang hatte Microsoft viele seiner KI-Initiativen eng mit den neuen Copilot+ PCs verknüpft. Diese Geräte verfügen über dedizierte NPUs und gelten als bevorzugte Plattform für zahlreiche lokale KI-Funktionen unter Windows. Die Unterstützung diskreter Grafikkarten könnte die potenzielle Nutzerbasis jedoch erheblich vergrößern. Millionen Gaming- und Workstation-PCs verfügen bereits über RTX-GPUs mit integrierten Tensor Cores, die speziell für KI-Berechnungen und Inferenzaufgaben entwickelt wurden.

Definition eines „AI PC“ laut Intel und Microsoft

Anstatt Anwender zum Kauf neuer Hardware mit integrierter NPU zu bewegen, könnte Microsoft somit auf bereits vorhandene Rechenressourcen zurückgreifen. Für Entwickler würde dies den Vorteil bieten, lokale KI-Funktionen auf einer deutlich größeren Hardwarebasis bereitzustellen. Insbesondere Enthusiasten und professionelle Anwender könnten davon profitieren, da viele bestehende Systeme bereits über erhebliche KI-Rechenleistung verfügen.

Die aktuelle Entwicklung sollte allerdings nicht als vollständige Abkehr von den Copilot+ Anforderungen verstanden werden. Nach aktuellem Kenntnisstand konzentriert sich die neue Unterstützung vor allem auf Entwickler-APIs und nicht auf alle Funktionen für Endanwender. Komplexere Features wie Windows Recall oder andere exklusive Copilot+ Funktionen dürften vorerst weiterhin an spezifische Hardwareanforderungen gebunden bleiben. Dennoch zeigt diese RTX-Initiative, dass Microsoft offenbar nach Wegen sucht, die KI-Funktionen von Windows flexibler auf unterschiedliche Hardwareplattformen zu verteilen.

Die experimentelle GPU-Unterstützung passt zu Microsofts jüngsten Investitionen in Windows ML. Die Plattform soll Entwicklern eine einheitliche Infrastruktur für KI-Anwendungen bieten und dabei sowohl GPUs als auch NPUs über entsprechende Ausführungsanbieter (Execution Providers) ansprechen können. Dieser Ansatz bietet mehrere Vorteile, nämlich einheitliche APIs für Entwickler, weniger Fragmentierung zwischen verschiedenen Hardwareklassen, einfachere Bereitstellung von KI-Anwendungen sowie optimale Nutzung verfügbarer Beschleuniger-Hardware.

Anwendungen können dadurch automatisch die jeweils verfügbare Hardware nutzen, ohne dass Entwickler für jede Plattform separate Implementierungen erstellen müssen.

Sollte Microsoft diesen Ansatz weiterverfolgen, könnte dies die Wahrnehmung von KI-Hardware im PC-Segment verändern. Während NPUs bislang als zentrale Voraussetzung für viele zukünftige Windows-KI-Funktionen galten, würden leistungsfähige Grafikkarten zunehmend als gleichwertige Beschleuniger in den Fokus rücken.

Gerade Besitzer aktueller RTX-Grafikkarten könnten davon profitieren. Ihre Systeme verfügen bereits über die notwendige Hardware für lokale KI-Berechnungen und könnten künftig mehr Windows-KI-Funktionen nutzen, ohne dass ein Hardwarewechsel erforderlich wird.

Quelle: Windows Latest