Wie soll künftig mit Daten und sogenannter Künstlicher Intelligenz umgegangen werden? Das Bundesministerium für Justiz und Verbraucherschutz und das Bundesinnenministerium haben mit der Datenethikkommission (DEK) ein durchaus divers besetztes Gremium beauftragt, dieser Frage nachzugehen. Die Experten der DEK haben heute ihren Abschlussbericht übergeben.

Die Kommission hat einige zentrale Feststellungen und Empfehlungen getroffen. Das ist insbesondere dort für Politik, Wirtschaft und Zivilgesellschaft wichtig, wo es um die Frage geht, was eigentlich möglicherweise problematisch, was regulierungswürdig und was möglicherweise sogar verboten sein sollte. Hier steht exemplarisch das fünfstufige Risikoabschätzungsmodell, das die Kommission vorschlägt – und vom Komplettverbot vollautonomer, tödlicher Waffensysteme bis hin zur grundsätzlich unbedenklichen Automatisierung in Getränkeautomaten reicht. Solch ein Modell könnte auch bei der von Ursula von der Leyen vorgesehenen KI-Regulierung auf europäischer Ebene eine zentrale Rolle spielen (im Rahmen von Ethik der Algorithmen wurde ein teilhabefokussiertes Modell entwickelt). Der EU-KI-Regulierungsvorschlag soll innerhalb der ersten 100 Tage nach Amtsantritt vorgelegt werden, also im ursprünglichen Zeitplan vor dem 01. Februar 2020.

Die EU spielt in den Vorschlägen der bundesregierungsbeauftragten Datenethikkommission an vielen Stellen eine wesentliche Rolle: vom Haftungsrecht über Klarstellungen beim Entscheidungsvollautomatisierungsverbot im Rahmen der Datenschutzgrundverordnung bis hin zum Wettbewerbsrecht handelt es sich weitgehend um Europarecht. Dessen sind sich die Kommissionsmitglieder offenbar sehr bewusst gewesen – und sparen also auch nicht an einem klaren Rahmen für ihre Vorschläge: sie befürworten einen europäischen Weg der Digitalisierung unter dem Schlagwort „Digitale Souveränität“, wertegebunden und in Abgrenzung zu anderen Modellen, insbesondere chinesisch und US-amerikanisch geprägten. Darauf sollen auch die Vorschläge der Kommission einzahlen.

Aber auch spezifisch bundesdeutsche und institutionelle Vorschläge sind enthalten. Insbesondere die Forderung nach einer Zentralisierung der Datenschutzaufsicht für private Stellen auf Bundesebene zwecks einheitlicher Rechtsanwendung dürfte für Diskussionen sorgen. Immerhin ist das – europaweit einzigartige Modell – der Landeszuständigkeit für alle privaten Bereiche außer Post und Telekommunikation ja ein historisch entstandenes und Länderkompetenzen abzuschaffen hat selten Popularitätspreise gewonnen. Und auch die Ideen zur Regulierung algorithmischer Systeme bei „Medienintermedären“, sprich Verbreitungsplattformen, dürften noch einige Diskussionen nach sich ziehen. Deutlich weniger kritisch dürfte hingegen der Hinweis der Kommission aufgefasst werden, dass insbesondere behördliche Anwendungen automatisierter Entscheidungsmechanismen besonderen Sorgfaltspflichten unterliegen sollten und Informationsfreiheits- beziehungsweise Transparenzgesetze konkretisiert und gestärkt werden sollen.

Auch für die Durchsetzung bestehenden Rechts hat das Gremium eine große Bandbreite an überraschend konkreten Vorschlägen parat, die über Ansätze reiner Selbstregulierung hinausgehen: Erwogen wird unter anderem die gesetzliche Verankerung eines „Comply or Explain“ Ansatzes, welcher Unternehmen dazu verpflichtet, sich zu einem Algorithmic Accountability Codex zu bekennen, der unter Beteiligung der Zivilgesellschaft entwickelt werden soll. Die Entwicklung technischer Standards durch Normungsorganisationen wie das DIN wird zugleich als ergänzendes Instrument zwischen staatlicher Regulierung und rein privater Selbstregulierung anerkannt. Dort hatte man erst kürzlich eine „Normungsroadmap KI“ gestartet. Positiv fällt zudem auf, dass die tatsächliche Kontrolle primär durch Stärkung sektoraler Aufsichtsbehörden erfolgen soll und diese finanziell, technisch und personell gestärkt werden sollen, um ihre Rolle auch im algorithmischen Zeitalter ausleben zu können. Die Schaffung eines bundesweit tätigen Kompetenzzentrums Algorithmische Systeme soll hierbei Hilfestellung leisten.

Besonders spannend wird sein, wo und wie die konkreten Vorschläge der DEK aufgegriffen werden. Denn hatte nicht bereits mit der High Level Expert-Group auf EU-Ebene ein Gremium seine Vorschläge ausgearbeitet, wenn auch nicht ohne Streit? Und gibt es nicht auch die Enquete-Kommission Künstliche Intelligenz des Bundestages, deren Zwischenbericht überfällig ist? Anders als diese beiden Gremien hat die Datenethikkommission zumindest eines bereits geschafft: relativ deutlich Position zu beziehen und Vorschläge zu unterbreiten, welche Regulierung aus ihrer Sicht notwendig ist, welche Art von Regulierung und auf welcher Ebene. Bis zum Vorliegen des EU-Kommissions-Vorschlags ist dies der konkreteste Entwurf eines regulatorischen Rahmens mit definierten politischen Gestaltungszielen, über den zu streiten sich lohnt. Ein Erfolg für die Mitglieder – und für Justiz- und Innenministerium, denn ob bei der Kommission überhaupt etwas herauskommen würde, war bei ihrer Einsetzung noch oft in Frage gestellt worden.

Dieser Artikel ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.