Microsoft warnt vor eigenen KI-Agenten in Windows 11

Microsoft arbeitet weiter daran, Windows 11 tiefgreifend mit KI-Funktionen auszustatten. Vor wenigen Tagen stellte das Unternehmen eine umfassende agentische Überarbeitung des Systems vor, die erstmals autonome KI-Agenten integriert. Nun warnt Microsoft in einer aktualisierten Mitteilung vor möglichen Sicherheitsrisiken und funktionalen Einschränkungen. Die neuen Modelle könnten halluzinieren oder unerwartete Ausgaben erzeugen, heißt es.

Mit dem Insider-Build 26220.7262 des Windows-Programms für Beta-Tester findet sich unter „Einstellungen > System > AI Components“ ein neuer Schalter für „Experimental agentic features“. Die Option ist standardmäßig deaktiviert und muss manuell aktiviert werden. Beim Einschalten erscheint ein klarer Hinweis darauf, dass es sich um experimentelle Funktionen handelt, die das System beeinträchtigen können. In der Praxis wiegt jedoch vor allem der sicherheitsrelevante Aspekt schwerer.

Denn zeitgleich entstehen neue Angriffsmethoden, die speziell auf autonome Agenten abzielen. Besonders auffällig ist die sogenannte „Cross-Prompt Injection“: versteckte Anweisungen, die in Dokumenten oder UI-Elementen eingebettet werden und einen Agenten dazu bringen können, nicht seiner eigentlichen Aufgabe zu folgen, sondern dem bösartigen Befehl. Im schlimmsten Fall könnte das zur Installation von Malware, zum Abfluss sensibler Zahlungsdaten oder zu anderen unbemerkten schädlichen Aktionen führen.

Bildquelle: Microsoft

Microsoft betont, dass die Agenten in einem „Agentic Workspace“ laufen, der jedem Agenten ein eigenes, überprüfbares Windows-Konto zuweist und sämtliche Aktivitäten protokolliert. Das Konzept erinnert an „Windows Sandbox“, unterscheidet sich jedoch in einem zentralen Punkt: Agenten sind persistent und können über mehrere Sitzungen hinweg agieren. Sie behalten dabei Zugriff auf verschiedene Dateien und Ordner, und genau das vergrößert die potenzielle Angriffsfläche. Standardmäßig erhalten sie Lese- und Schreibzugriff auf gängige Benutzerverzeichnisse wie Desktop, Downloads, Dokumente, Bilder, Musik und Videos. Auch wenn die Rechte strukturiert und begrenzt sind, bleiben diese Voreinstellungen potenzielle Sicherheitslücken, bis Microsoft feinere Zugriffsmechanismen und bessere Schutzmaßnahmen gegen Prompt-Injections implementiert.

Die Einführung der agentischen Funktionen zeigt, wie stark Microsoft auf KI-Automatisierung setzt. Gleichzeitig macht sie deutlich, dass die Technologie weit davon entfernt ist, sicher genug für den breiten Einsatz zu sein. Bis robuste Schutzmechanismen etabliert sind, sollten die experimentellen Funktionen nur mit Bedacht aktiviert und vorzugsweise auf Testumgebungen beschränkt werden.

Quelle: Microsoft