Zweite Ausgabe unserer Dialogreihe zum „Scope des Durchführungsgesetzes der KI-Verordnung“

Die zweite Ausgabe unserer Dialogreihe zum „Scope des Durchführungsgesetzes der KI-Verordnung“ zielte darauf ab, die aktuellen Fortschritte und Herausforderungen im Zusammenhang des Durchführungsgesetzes der KI-Verordnung in Deutschland näher zu beleuchten. Ein besonderer Fokus lag dabei auf den Vorgaben und den Gestaltungsspielräumen der KI-Verordnung an die Mitgliedstaaten und deren nationale Umsetzung.

Für Impulsvorträge hierzu waren eingeladen Dr. Amélie Heldt-Hennemann (Bundeskanzleramt), Prof. Dr. David Roth-Isigkeit (Deutsche Universität für Verwaltungswissenschaften Speyer) und Kai Zenner (Europäisches Parlament).

Die zentralen Erkenntnisse aus dieser Ausgabe waren:

• Die Durchführung der KI-Verordnung sollte in Deutschland so gestaltet werden, dass bestehende Strukturen genutzt und Unternehmen keine unnötigen zusätzlichen Hürden auferlegt werden. Eine One-Stop-Shop-Aufsichtsstruktur wurde als Schlüssel hervorgehoben
• Der deutsche Gesetzgeber sollte bei der Benennung der notifizierenden und der Marktüberwachungsbehörde sorgsam zwischen den unionsrechtlichen Standards und den nationalen Anforderungen an die ministerielle Aufsicht abwägen. Eine effiziente Kooperationsstruktur zwischen Bund und Ländern ist entscheidend.
• Auf die EU-Kommission kommen rund 130 Durchführungsaufgaben zur KI-Verordnung zu. Von der EU-Kommission wird erwartet, dass sie durch sekundäre Rechtsakte, insbesondere durch die Guidelines und den Code of Practice für GPAI-Modelle zur Konkretisierung und besseren Verständlichkeit der KI-Verordnung beiträgt. Die Mitgliedstaaten können die EU-Kommission hierbei in vielerlei Hinsicht unterstützen.

Innovationsfreundliche und bürokratiearme KI-Regulierung

Den Auftakt der Impulse machte Dr. Amélie Hennemann-Heldt, stellvertretende Referatsleiterin für Grundsatzfragen der Digitalpolitik im Bundeskanzleramt, mit einem Überblick über den aktuellen Stand der Durchführung der KI-Verordnung in Deutschland. Dabei erläuterte sie, dass die Bundesregierung unter Federführung des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) sowie des Bundesministeriums der Justiz (BMJ) an einem Konzept zur Aufsichtsbehörde und Governance-Struktur arbeitet. Diese interministerielle Arbeitsgruppe hat im September 2024 ein erstes Konzeptpapier beschlossen, das als Grundlage für den Gesetzesentwurf für das Durchführungsgesetz zur KI-Verordnung dienen soll.

Besonders hervorgehoben wurde die Rolle der Bundesnetzagentur (BNetzA), die als zentrale Marktüberwachungsbehörde und erste Anlaufstelle fungieren soll. Ziel sei es, eine innovationsfreundliche und bürokratiearme Umsetzung der KI-Verordnung zu gewährleisten sowie Rechtssicherheit zu schaffen für diejenigen, die in den Anwendungsbereich der KI-Verordnung fallen. Zudem sollten Überlappungen mit anderen EU-Rechtsakten vermieden werden, indem insbesondere die Schnittstellen der KI-Verordnung mit dem Digital Services Act (DSA) geklärt werden. Frau Hennemann-Heldt betonte zudem die Notwendigkeit eines kontinuierlichen Austauschs mit Stakeholdern aus Wissenschaft, Wirtschaft und der Politik.

Sogfältige Balance und effiziente Kooperationsstrukturen schaffen

Professor David Roth-Isigkeit vom Lehrstuhl für Öffentliches Recht, insbesondere Recht der Digitalisierung an der Deutschen Universität für Verwaltungswissenschaften Speyer, vertiefte die Diskussion mit einem Fokus auf die rechtlichen Herausforderungen zur nationalen Durchführung der KI-Verordnung. Im Mittelpunkt stand dabei die Frage der Behördenstruktur gemäß Artikel 70 der KI-Verordnung. Er erläuterte die rechtlichen Anforderungen an die Unabhängigkeit der Behörden und stellte die Schwierigkeiten dar, die sich aus der Koordination zwischen der Bundesnetzagentur und den bestehenden Landesbehörden ergeben könnten. Es sollte hierbei eine effiziente Kooperationsstruktur zwischen Bund und Ländern gewährleistet werden.

Ein weiterer Schwerpunkt seines Vortrags lag auf der Problematik der Mischverwaltung, die bei der Umsetzung in Deutschland durch das föderale System zusätzliche Herausforderungen mit sich bringt. Professor Roth-Isigkeit betonte, dass der deutsche Gesetzgeber bei der Benennung der notifizierenden Behörde und der Marktüberwachungsbehörde eine sorgfältige Balance zwischen den unionsrechtlichen Unabhängigkeitsstandards und der nationalen verfassungsrechtlichen ministeriellen Aufsicht finden müsse, um sowohl den unions- als auch verfassungsrechtlichen Anforderungen gerecht zu werden

Unterstützung der EU-Kommission durch die Mitgliedstaaten

Kai Zenner, Büroleiter und Digitalpolitikberater des Europaabgeordneten Axel Voss, erweiterte die Diskussion auf die europäische Ebene. Er berichtete über die Aufgaben und Herausforderungen der EU-Kommission bei der Durchsetzung der KI-Verordnung, die jetzt anhand der Vorgaben der KI-Verordnung konkretisiert werden.

Zenner wies auf die enge mitgliedstaatliche Zusammenarbeit hin, insbesondere bei der Entwicklung von Standards für GPAI-Modelle. Er warnte jedoch vor den Risiken einer möglichen Fragmentierung innerhalb der EU, wenn nationale Aufsichtsbehörden unterschiedliche Interpretationen der KI-Verordnung vornehmen. Zudem sollten bei der Gestaltung der sekundären Rechtsakte und insbesondere bei den Guidelines mögliche Abweichungen von der KI-Verordnung vermieden werden, um eine europarechtskonforme Auslegung zu sichern.

Schließlich appellierte Zenner für eine Unterstützung der EU-Kommission durch die Mitgliedstaaten, indem Letztere etwa für das AI Office technische Expert:innen entsenden sowie Input zu den AI-Definitionen und den GPAI-Modellen erarbeiten. Als hilfreiches Beispiel nannte er die von der deutschen Bundesregierung, konkret vom Bundesministerium für Wirtschaft und Klimaschutz  (BMWK) gesammelten Use Cases aus der Zivilgesellschaft und von Unternehmen, die an die EU-Kommission gesendet werden sollen und als wertvoller Input für die Implementierungsakte der EU-Kommission dienen können.

Fazit zum Scope des Durchführungsgesetzes der KI-Verordnung

Die zweite Ausgabe unserer Dialogreihe bot wertvolle Einblicke in die aktuellen Herausforderungen und Fortschritte bei der Durchführung der KI-Verordnung in Deutschland und auf EU-Ebene. Die Kombination aus politischen, juristischen und praxisorientierten Perspektiven trug zu einer umfassenden Diskussion bei, die den Teilnehmenden wichtige Impulse lieferte.

Die Reihe verdeutlichte einmal mehr die Bedeutung eines koordinierten Vorgehens und die Notwendigkeit eines kontinuierlichen Dialogs zwischen den verschiedenen Akteur:innen, um die Ziele der KI-Verordnung erfolgreich umzusetzen.

Dritte Ausgabe der Dialogreihe „KI-Verordnung: Wege zur Umsetzung“

Wir danken allen Vortragenden und Teilnehmenden für die wertvollen Beiträge und Anregungen in der zweiten Ausgabe unserer Dialogreihe. Weiter geht es am 29. Januar 2025, zwischen 14.00 bis 15.30 Uhr mit dem Thema „Nationale KI-Aufsicht“.

Bertelsmann Stiftung und Weizenbaum-Institut – zur Kooperation

Die europäische KI-Verordnung ist seit dem 1. August 2024 in Kraft getreten. Seitdem liegt der Ball vor allem bei den Mitgliedstaaten: Wie packen wir in Deutschland die Umsetzung an? Für unsere Politiker:innen heißt es: Ärmel hochkrempeln und ran an den Text! Die KI-Verordnung ist nämlich keine leichte Lektüre, sondern ein langes Regelwerk mit komplexen Facetten. Den Überblick bei der nationalen Umsetzung zu behalten, ist dabei essenziell. Um im Verordnungsdschungel einen Beitrag zu leisten und Wege in der Umsetzung aufzuzeigen, starten das Weizenbaum-Institut und wir, das Projekt reframe[Tech] der Bertelsmann Stiftung, eine neue Dialogreihe. In dieser werden Expert:innen aus Politik, Verwaltung, Wissenschaft, Zivilgesellschaft und Wirtschaft in sieben Terminen zusammenkommen, um sich über die vielschichtigen Inhalte, den Auswirkungen, den Einzelheiten und Hintergründen zu den Umsetzungsanforderungen und -optionen der KI-Verordnung vertraut zu machen und um eine kohärente nationale Umsetzung zu gewährleisten.

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.