Kurzfassung

Das Bundeskabinett hat seinen Gesetzesentwurf zur Umsetzung der europäischen KI-Verordnung (AI Act) verabschiedet. Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) überträgt der Bundesnetzagentur die zentrale Aufsichtsrolle. Der Entwurf muss noch Bundestag und Bundesrat passieren, während Branchenverbände strukturelle Mängel im europäischen AI Act kritisieren.

Personen

Themen

  • Künstliche Intelligenz (KI)
  • EU-Regulierung
  • Deutsche Gesetzgebung
  • Behördenstruktur
  • Compliance und Risikomanagement

Clarus Lead

Die Bundesregierung setzt die europäische KI-Verordnung mit einem neuen nationalen Gesetz um. Die Bundesnetzagentur wird zentrale Aufsichtsbehörde für KI-Systeme und koordiniert mit bestehenden Marktüberwachungsbehörden. Dies konzentriert die Aufsicht, schafft aber auch neue Verantwortungen für eine bereits stark belastete Behörde. Branchenvertreter warnen vor Doppelregelungen und steigenden Compliance-Kosten.

Detaillierte Zusammenfassung

Das deutsche Umsetzungsgesetz macht die Bundesnetzagentur zur zentralen Koordinierungs- und Kompetenzbehörde für KI-Aufsicht in Deutschland. Sie fungiert als Marktüberwachungsbehörde und notifizierende Behörde. Zur Vermeidung von Doppelstrukturen sollen bestehende Kapazitäten bei anderen Behörden wie dem Bundeskartellamt, der Bafin, dem BSI und den Datenschutzbehörden genutzt werden.

Entscheidend ist die risikobasierte Regulierung: Unternehmen müssen den Risikograd ihrer KI-Systeme bewerten und entsprechende Massnahmen ergreifen. Besonders risikoreiche Anwendungen sind verboten—etwa Emotionserkennung am Arbeitsplatz oder Gesichtserkennung im öffentlichen Raum (mit Ausnahmen für Sicherheitsbehörden). Je höher das Risiko, desto strenger die Anforderungen an Transparenz und Sicherheit.

Die Auswahl der Bundesnetzagentur ist umstritten. Datenschützer von Bund und Ländern hatten die alleinige KI-Aufsicht gefordert—eine Lösung, die den Bundesländern mehr Gewicht geboten hätte. Branchenvertreter kritisieren zudem „grundlegende Konstruktionsfehler" des europäischen AI Acts. Sie monieren, dass KI-Regelungen in spezialisierten Verordnungen (Maschinenordnung, Medizinprodukteverordnung) bereits KI-Sicherheit regeln und diese Doppelregulierung Rechtsunsicherheit sowie unnötige Compliance-Kosten verursacht.

Kernaussagen

  • Das deutsche KI-MIG überträgt der Bundesnetzagentur die zentrale Aufsicht über KI-Entwicklung und -Betrieb
  • Risikobasierte Anforderungen: Höhere Risiken führen zu strengeren Transparenz- und Sicherheitsanforderungen
  • Verbotene Anwendungen: Emotionserkennung in Arbeit/Bildung und Gesichtserkennung im öffentlichen Raum (mit Ausnahmen)
  • Bundesnetzagentur koordiniert mit bestehenden Behörden, statt neue Strukturen zu schaffen
  • Branchenverbände fordern Reform wegen Doppelregelungen und steigender Compliance-Kosten

Kritische Fragen

  1. Evidenz/Datenqualität: Basiert die Entscheidung, die Bundesnetzagentur als Aufsichtsbehörde zu wählen, auf einer Kapazitätsanalyse, oder wurde dies primär aus Effizienzgründen entschieden? Welche konkreten Ressourcen sind geplant?

  2. Interessenkonflikte: Kann die Bundesnetzagentur, die bereits Digital Services Act koordiniert, eine unabhängige KI-Aufsicht gewährleisten, ohne dass andere regulatorische Ziele gefährdet werden?

  3. Kausalität/Alternativen: Warum wurde das Modell der Bundeslänter-Koalition (mit Datenschutzbehörden) verworfen? Welche Vorteile bringt Zentralisierung gegenüber föderalem Ansatz konkret?

  4. Umsetzbarkeit/Risiken: Wie soll die Bundesnetzagentur die „Doppelregulierung" bei spezialisierten Produktverordnungen vermeiden, ohne Regelungslücken zu schaffen?

  5. Datenqualität: Wie werden Risikoeinstufungen von KI-Systemen praktisch validiert und harmonisiert zwischen verschiedenen Marktüberwachungsbehörden?

  6. Interessenskonflikte: Unterstützt die Fokussierung auf „Innovationsförderung" im Gesetztitel eine ausreichend kritische Aufsichtshaltung?

Quellenverzeichnis

Primärquelle: AI-Act: Bundesregierung bringt KI-Gesetz auf den Weg – heise.de

Verifizierungsstatus: ✓ 2024

Dieser Text wurde mit Unterstützung eines KI-Modells erstellt. Redaktionelle Verantwortung: clarus.news | Faktenprüfung: 2024