Google Cloud kündigt „AI Protection“ an: Sicherheit für die KI-Ära

(Auszug aus der Pressemitteilung)

Während die Nutzung von Künstlicher Intelligenz (KI) zunimmt, versuchen Unternehmen, die Risiken zu minimieren, die mit der schnell fortschreitenden Implementierung der Technologie einhergehen. Die Security rückt daher immer mehr in den Fokus.

Um die Sicherheit während des gesamten KI-Lebenszyklus zu erhöhen, kündigt Google Cloud nun AI Protection an: eine neue Lösung, die KI-Workloads und Daten über Clouds und Modelle hinweg schützt – unabhängig davon, welche Plattformen Kunden nutzen.

Die ganzheitliche Lösung ermöglicht es Sicherheitsteams, KI-Bestand zu entdecken, KI-Ressourcen abzusichern und KI-Bedrohungen zu managen. Die Funktionen schützen vor Bedrohungen wie Prompt-Injection-Angriffe (Manipulation durch böswillige Eingaben, getarnt als legitime Prompts), Jailbreak (das nicht-autorisierte Entfernen von Nutzungsbeschränkungen), Datenverlust, bösartigen URLs und nicht-seriösen Inhalten. AI Protection ist auch in das Google Security Command Center (SCC) integriert, so dass Unternehmen einen zentralen Überblick über die Lage in Bezug auf KI erhalten und KI-Risiken ganzheitlich und mit Blick auf ihre anderen Cloud-Risiken verwalten können.

Mandiant Sicherheitsberater gehen mit AI Protection noch einen Schritt weiter und bieten als Service an, Unternehmen bei der Bewertung und Implementierung robuster Sicherheitsmaßnahmen für KI-Systeme zu unterstützen. Die Experten führen zudem Red Teaming für KI durch: Sie testen die Cybersecurity-Maßnahmen durch einen simulierten Cyberangriff, der auf realen Angriffen auf KI-Dienste basiert, die Mandiant an vorderster Cyberfront beobachtet hat.