Das neue EU-Gesetz zu künstlicher Intelligenz definiert klare Regeln für den Umgang mit KI – von strengen Verboten bis zu Vorgaben für Hochrisiko-Anwendungen. Hier erfährst du, was das Gesetz regelt und was es für Entwickler, Unternehmen und Nutzer bedeutet.

Die KI Gesetz unterteilt KI-Systeme nach ihrem Risiko in vier Kategorien: verboten, hochriskant, begrenzt riskant und geringes Risiko. 

Verbotene KI Systeme

Verboten sind KI-Systeme, die manipulative Techniken einsetzen, um Verhalten zu beeinflussen, Schwachstellen ausnutzen oder diskriminierende soziale Bewertungen vornehmen. Auch biometrische Fernidentifikation in Echtzeit ist untersagt – mit wenigen Ausnahmen wie der Suche nach vermissten Personen oder der Verhinderung terroristischer Angriffe.

Hochriskante KI Systeme

Hochriskante KI-Systeme, wie solche für kritische Infrastrukturen, Bildung, Beschäftigung oder Strafverfolgung, unterliegen strengen Anforderungen. Anbieter müssen ein Risikomanagementsystem implementieren, Datenqualität sicherstellen und technische Dokumentation erstellen. Zudem ist eine menschliche Aufsicht Pflicht. Nutzer dieser Systeme, die sie beruflich einsetzen, tragen ebenfalls Verantwortung, insbesondere bei der Einhaltung der Vorgaben für Transparenz und Sicherheit.

Allzweck AI

Eine besondere Rolle spielt die sogenannte Allzweck-KI (GPAI), die für vielfältige Anwendungen genutzt werden kann. Anbieter solcher Systeme müssen technische Unterlagen bereitstellen, Urheberrechtsrichtlinien einhalten und eine Zusammenfassung der für das Training genutzten Daten veröffentlichen. GPAI-Systeme, die ein systemisches Risiko darstellen, beispielsweise aufgrund hoher Rechenleistung, unterliegen zusätzlichen Pflichten wie Gegentests und Cybersicherheitsmaßnahmen. Offene Modelle mit freien Lizenzen sind hingegen weniger stark reguliert, es sei denn, sie stellen ebenfalls ein solches Risiko dar.

Einrichten der AI Büro

Zur Überwachung der Umsetzung wird ein zentrales AI-Büro eingerichtet. Es überprüft die Einhaltung der Vorschriften, untersucht systemische Risiken und nimmt Beschwerden entgegen. Die Fristen zur Umsetzung variieren je nach Risikokategorie und reichen von sechs Monaten für verbotene KI-Systeme bis zu 36 Monaten für bestimmte Hochrisiko-Anwendungen.

Das Gesetz markiert einen Meilenstein in der Regulierung von KI und setzt Maßstäbe für den verantwortungsvollen Einsatz dieser Technologie.