Vergangene Woche wurde die zweite Ausgabe der Normungsroadmap Künstliche Intelligenz (KI) am Rande des Digitalgipfels an Vizekanzler und Bundeswirtschaftsminister Robert Habeck übergeben. Was wie ein Orchideen-Thema am Rande des Digitalgipfels daherkommt, ist in Wahrheit der Haupt-Act der digitalpolitischen Woche in Berlin gewesen.

Normen entscheiden über Glaubwürdigkeit der Gestaltung vertrauenswürdiger KI

Aktuell diskutiert nicht nur das digitalpolitische Berlin, sondern ganz Europa über die anstehende KI-Verordnung (AI Act) als Meilenstein für die Gestaltung vertrauenswürdiger KI. 2023 steht der Trilog zwischen EU-Parlament, der Europäischen Kommission und dem Europäischen Rat an. Schon jetzt wird deutlich, dass sich der Aushandlungsprozess kompliziert gestalten dürfte. Der Erfolg des AI Act hängt jedoch nicht nur vom Ausgang dieser Verhandlungen ab. Denn die wesentlichen rechtlichen Anforderungen müssen künftig in harmonisierten, europäischen Normen konkretisiert werden. Deshalb sind europäische wie nationale Normungsgremien zentrale Orte, um europäische Vorgaben in wirksame und praxistaugliche Anleitungen zu übersetzen. Normen sind wirkungsvolle Instrumente, um KI vertrauenswürdig zu gestalten.

Zivilgesellschaft an Bord nehmen

Insbesondere Themen der Transparenz und menschlichen Aufsicht prägen das Vertrauen in den Einsatz von KI-Systemen. Hier lässt der AI Act bislang große Auslegungsspielräume. Normung kann in diesem Zusammenhang Anforderungen spezifizieren und helfen, abstrakte Prinzipien in die Praxis zu übersetzen.

Unternehmen haben damit eine verlässliche Basis, um die von algorithmischen Systemen ausgehenden Risiken glaubwürdig zu adressieren. Damit Normen diesen Anspruch tatsächlich erfüllen können, ist es erforderlich, diese nicht ausschließlich aus einer technischen, sondern aus einer soziotechnischen Perspektive zu entwickeln. Das stellt bestehende Normenausschüsse und ihre Mitglieder allerdings vor eine Herausforderung. Normen werden bislang vorwiegend von Technikerinnen und Technikern gestaltet. Eine wirksame soziotechnische Normung erfordert daher den Einbezug zivilgesellschaftlicher Stimme. Sie verfügen über das Know-how, ethische, rechtliche und soziale Fragen bei der Entwicklung und dem Einsatz von KI mitzudenken.

Wenn Innovationswille und Gemeinwohl zusammenkommen

Die komplexen Normungsprozesse werden bislang vor allem von Wirtschaftsunternehmen dominiert, die teilweise dem Thema ganze Stellenprofile widmen. Obwohl grundsätzlich allen Akteuren die Mitwirkung in Normenausschüssen möglich ist, fehlen hier in der Praxis bislang zivilgesellschaftliche Organisationen. Bei der aktuellen Ausgabe der Normungsroadmap lag die Beteiligung der Zivilgesellschaft bei etwa 9 Prozent. Im Vergleich waren knapp 50 Prozent Vertreter:innen der Wirtschaft Teil der Arbeiten. Das ist besonders bedauerlich, weil sich die Zivilgesellschaft seit Jahren für eine Stärkung der soziotechnischen Perspektive in der Technikgestaltung einsetzt und hier über wichtiges Know-how verfügt. Daher braucht es ungewöhnliche Koalitionen, also eine stärkere Zusammenarbeit von Normungsorganisationen, Unternehmen und Zivilgesellschaft. Normungsprozesse sind genau der richtige Ort, um diese Koalitionen zu schmieden. Hier wird präzise ausgehandelt, wie sich abstrakte Prinzipien zur Gestaltung vertrauenswürdiger KI in die Praxis überführen lassen. Hier könnten Innovationswille und Gemeinwohl zusammenkommen.

Ungewöhnliche Koalitionen gestalten

Damit die verschiedenen Perspektiven auf die Gestaltung und den Einsatz von KI in Normung einfließen können, müssen die Akteure aus Wirtschaft und Zivilgesellschaft zunächst an einen Tisch kommen. Hierfür fehlt es der Zivilgesellschaft bislang jedoch an zeitlichen und finanziellen Ressourcen. Systemische und finanzielle Unterstützung für die Beteiligung der Zivilgesellschaft tut Not. Die Arbeit der Arbeitsgruppe „Soziotechnische Systeme“ der zweiten Auflage der Normungsroadmap konnte hier nur den ersten Stein ins Rollen bringen. Jetzt geht es darum, ein echtes Level Playing Field zu schaffen. Neben der Finanzierung braucht es Hilfe bei der Übersetzung soziotechnischer Anforderungen in die Sprache der Normen. Dazu müssen erfahrene Expert:innen aus Normungsgremien Tandems mit Akteuren aus der Zivilgesellschaft bilden.

Politik und Normungsorganisationen sind jetzt gefordert, die strukturellen und finanziellen Voraussetzungen für die gleichberechtigte Einbindung der Zivilgesellschaft in Normungsprozesse zu schaffen. So verleihen wir der Normierung den gesellschaftlichen Stellenwert, den sie in der Um- und Durchsetzung rechtlicher Vorgaben für den Einsatz von KI verdient.

In den vergangenen Monaten leitete Lajla Fetic gemeinsam mit Rosmarie Steininger und Patricia Stock die Arbeitsgruppe „Soziotechnische Systeme“ der Normungsroadmap KI. Der Beitrag erschien ursprünglich im Tagesspiegel Background Digitalisierung & KI vom 9.12.2022 und ist hier abrufbar.