Schluss mit Datenmissbrauch: IT-Sicherheitsexperten der PSW GROUP begrüßen KI-Verordnung

(Auszug aus der Pressemitteilung)

Fulda, 18.03.2024 – Die Europäische Union hat mit der KI-Verordnung (Artificial Intelligence Act – AI Act) einen bedeutenden Schritt unternommen, um den Missbrauch von Daten zu unterbinden und die Privatsphäre ihrer Bürger und Bürgerinnen zu schützen. „Diese Verordnung ist wegweisend, denn sie legt klare Regeln und Anforderungen für Unternehmen fest, die KI-Systeme entwickeln oder nutzen“, begrüßt IT-Sicherheitsexpertin Patrycja Schrenk die Entwicklung. Die Geschäftsführerin der PSW GROUP (www.psw-group.de) begründet: „Die zunehmende Präsenz von Künstlicher Intelligenz in unserem Alltag erfordert eine angemessene Regulierung, um die Würde, Privatsphäre und andere Grundrechte zu wahren. Immerhin ist von Empfehlungssystemen bis hin zu Systemen, die über Kreditvergaben oder Jobangebote entscheiden, die Bandbreite der Anwendungen enorm gewachsen.“

Die Ziele der KI-Verordnung sind vielfältig: Sie zielt zum einen darauf ab, dass KI-Systeme die Würde, Privatsphäre und andere Grundrechte von Menschen respektieren, zum anderen aber auch darauf, das Vertrauen in KI-Systeme zu stärken. Zudem will die Verordnung die europäische Wirtschaft unterstützen, indem sie einen einheitlichen Rechtsrahmen für den Einsatz von KI in der EU schafft. Durch die Einstufung von KI-Systemen in verschiedene Risikoklassen werden Anforderungen und Pflichten festgelegt, um das Risiko für den Missbrauch von Daten zu minimieren. Eine Schlüsselbestimmung der Verordnung ist die Transparenz und Verantwortlichkeit bei der Datenverarbeitung durch KI-Systeme: „Bei Nutzung von KI-Systemen, wie Chatbots beispielsweise, sollten Nutzende wissen, dass sie mit einer Maschine interagieren. Zudem müssen KI-generierte Inhalte wie Deep Fakes als solche kenntlich gemacht werden und Anbieter sind angehalten, sicherzustellen, dass synthetische Audio-, Video-, Text- und Bildinhalte als künstlich erzeugt oder manipuliert erkennbar sind“, informiert Patrycja Schrenk.

Neue Regelungen in der Verordnung betreffen unter anderem Pflichten zur Dokumentation, Governance und zum Risikomanagement sowie die Einführung einer verpflichtenden Prüfung zur Wahrung der Grundrechte. „Diese Prüfung ähnelt der Datenschutz-Folgenabschätzung und dient dazu, negative Auswirkungen auf Grundrechte durch den Einsatz von KI besser zu erkennen, zu bewerten und zu verhindern. Darüber hinaus erhalten diejenigen, die von KI-Systemen betroffen sind, ein gesetzliches Recht auf Beschwerde und Auskunft bei Entscheidungen, die von KI-Systemen getroffen werden“, erklärt Schrenk. Bei Verstößen gegen die KI-Verordnung drohen hohe Bußgelder von bis zu 40 Millionen Euro oder bis zu sieben Prozent des gesamten weltweit erzielten Umsatzes des vorangegangenen Geschäftsjahres.

Patrycja Schrenk

„Die KI-Verordnung wird Unternehmen vor neue Herausforderungen stellen. Sie müssen zunächst ihre KI-Systeme identifizieren und klassifizieren. Zudem gibt es auch bereits andere gesetzliche Vorgaben für den Einsatz von KI, wie Datenschutz, Urheberrecht und Schutz von Geschäftsgeheimnissen, die beachtet werden sollten. Gleichzeitig eröffnet die Verordnung aber auch Chancen für eine transparente und verantwortungsvolle Nutzung von KI-Systemen. Denn sie legt Wert auf Transparenz und Rechenschaftspflicht bei der Datenverarbeitung und stärkt so das Vertrauen der Verbraucher in KI-Technologien“, sagt Patrycja Schrenk.

Bis die KI-Verordnung in Kraft tritt, dürfte noch einige Zeit vergehen: Sie wurde am 8. Dezember 2023 politisch vereinbart, derzeit wird der Text des AI Acts finalisiert und muss anschließend noch vom Europäischen Parlament und vom Rat angenommen werden. Zudem wird es einen Übergangszeitraum geben, bevor die Verordnung in Kraft tritt.