Wer setzt die europäische KI-Verordnung national durch? Bei wem melde ich fehlerhafte KI-Systeme? Wo kann ich einen Experimentierraum beantragen? Auf all diese Fragen sollte die deutsche KI-Aufsicht zeitnah Antworten geben. Welche Behörden dafür infrage kommen, beleuchtet eine neue Kurzstudie. 

Im März 2024 hat das Europäische Parlament die Verordnung über Künstliche Intelligenz (KI) – besser bekannt als AI Act – verabschiedet. Ein Gesetzgebungsprozess, der über vier Jahren gedauert hat, ging zu Ende. Die eigentliche Arbeit für eine wirksame KI-Regulierung, die den Ansprüchen des Gesetzestextes an Sicherheit, Vertrauenswürdigkeit und die Einhaltung europäischer Werte gerecht wird, geht jetzt erst richtig los. Dafür müssen zeitnah wirksame  Governance– und Compliance-Maßnahmen zur Umsetzung des AI Acts entwickelt werden. 

Umsetzung des AI Acts: Die zentrale Rolle nationaler KI-Aufsichtsbehörden 

Eine wichtige Rolle, die der AI Act vorsieht, ist die der nationalen KI-Aufsichtsbehörden. Diese hat mehr als nur eine „Watchdog“-Funktion: Neben der Marktüberwachung soll sie zur Innovations- und Wettbewerbsförderung beitragen sowie unabhängige Organisationen auswählen, die die Erlaubnis bekommen, gewisse KI-Systeme extern zu prüfen. 

Während andere europäische Länder wie Spanien und Frankreich ihre KI-Aufsichtsstrukturen bereits bestimmt haben, nimmt in Deutschland die Debatte darüber erst langsam Fahrt auf. Die Bundesregierung reagiert auf konkrete Anfragen zur Ausgestaltung der KI-Aufsicht bisher zurückhaltend. Vorherige europäische Digitalgesetzgebungen, wie der Digital Services Act, dienen hier als mahnendes Beispiel, da Deutschland zumeist länger als vorgegeben gebraucht hatte, um die Aufsichtsstrukturen umzusetzen. 

Vor diesem Hintergrund soll die Kurzstudie von Prof. Dr. Mario Martini und Dr. Jonas Botta vom Deutschen Forschungsinstitut für öffentliche Verwaltung Speyer dazu dienen, eine fundierte, juristisch-verwaltungswissenschaftliche Grundlage für die Debatte zu legen und sie damit auch stärker in die Öffentlichkeit zu bringen.  

Förderales System setzt Zentralisierung der KI-Aufsicht Grenzen 

Aus den europäischen Anforderungen leiten die Autoren ab, dass eine Zentralisierung der KI-Aufsicht auf Bundesebene sinnvoll wäre, da dies einen einheitlicheren Vollzug ermöglichen und Kompetenzen bündeln würde. Gleichzeitig gilt es darauf zu achten, dass keine Silo-Strukturen entstehen, damit alle verfügbaren Kompetenzen bei der Aufsicht von KI einbezogen werden. 

Diesen fachlichen Argumenten steht entgegen, dass in erster Linie die nach Landesrecht zuständigen Behörden für die Marktaufsicht zuständig sind. Die Aufsicht über den KI-Einsatz privater Stellen würde sich zwar durch eine Gesetzesänderung auf Bundesebene zentralisieren lassen. Einer Bundesbehörde wäre es aktuell verfassungsrechtlich allerdings untersagt, die Aufsicht über den KI-Einsatz öffentlicher Stellen auf Landesebene zu übernehmen. Eine vollständige Zentralisierung auf Bundesebene wäre daher nur mit einem Staatsvertrag oder einer Verfassungsänderung möglich. 

Effiziente Umsetzung fordert Kompetenzbündelung  

Um die Schlagkraft der KI-Aufsicht in der wichtigen Anfangsphase des Aufbaus von mitgliedstaatlichen Aufsichtsstrukturen zur Überwachung der Einhaltung der europäischen KI-Verordnung nicht durch den langwierigen Aufbau einer neuen Behörde zu reduzieren, sollte der Bundesgesetzgeber die Aufsichtsaufgaben auf bestehende Strukturen übertragen. In der Kurzstudie zeigen die Autoren auf, dass das Bundeskartellamt (BKartA) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) wegen ihrer fehlenden (völligen) Unabhängigkeit nicht für die Aufsicht infrage kommen. Während der Bundesbeauftragte für Datenschutz und die Informationsfreiheit (BfDI) auf den ersten Blick besonders vielversprechend wirkt, da Datenschutz und KI zusammengedacht werden sollten, spricht die Aufteilung der Kompetenzen auf Landes- und Bundesbeauftragte gegen eine effiziente Umsetzung der KI-Aufsicht. Wenn hingegen die Bundesnetzagentur (BNetzA) in ihrer Unabhängigkeit noch weiter gestärkt wird, spricht vieles dafür, dass die Behörde den besten Ausgleich zwischen Innovationsverantwortung und -offenheit zu gewährleisten vermag. 

Unabhängig von der konkreten Behördenauswahl sollte der Gesetzgeber dafür sorgen, dass Bürger:innen wie Organisationen durch eine stringente und zeitnahe Umsetzung eindeutige Antworten im Hinblick auf die Umsetzung der KI-Regulierung bekommen. 

Dieser Text ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.