Fast täglich gibt es Neuigkeiten zum Verhandlungsstand des AI Act der Europäischen Union. Dies geschieht in einer Zeit, in der – aufgrund von rasanten Entwicklungen insbesondere generativer KI-Modelle – die Regulierung von Künstlicher Intelligenz (KI) in aller Munde ist. Eine wichtige Bühne wird aber oft übersehen: Der Europarat. Im einordnenden Beitrag erklären wir, wieso sich der Blick nach Straßburg lohnt.

Künstliche Intelligenz soll in den Diensten der Gesellschaft stehen und so reguliert werden, dass Werte, Rechte und Risiken angemessen berücksichtigt werden. Mit diesem Ziel veröffentlichte der Europarat, der beim Einsatz von KI unsere Rechte auf dem Spiel stehen sieht, im Juni 2023 einen ersten Entwurf zu einer „Konvention zu KI und Menschenrechten (kurz KI-Konvention).

Wieso wird der Europarat aktiv?

Der Europarat, mit seinen 46 Mitgliedern und seinem Sitz in Straßburg, engagiert sich vorrangig für die Förderung von Demokratie, Wahrung von Menschenrechten und Rechtstaatlichkeit. Seit der ersten Konvention zu Menschenrechten im Jahr 1950 verantwortet der Europarat inzwischen 200 weitere relevante Konventionen zu unterschiedlichen Themenschwerpunkten, beispielsweise die Istanbul-Konvention zur Verhütung und Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt.

Einen Handlungsbedarf in der Regulierung von technologischen Entwicklungen hat der Europarat bereits früh erkannt: Bereits vor 42 Jahren gestaltete er die weltweit erste Datenschutz-Konvention, die später sogar eine Basis für die Datenschutz-Grundverordnung (DSGVO) bot. Die Budapest-Konvention gegen Computerkriminalität, inzwischen 22 Jahre alt, verzeichnet mit 68 ratifizierenden Ländern auf fünf Kontinenten einen Rekord, denn als „offener“ Vertrag können interessierte Länder laufend die Konvention unterzeichnen und ratifizieren.

Als „alter Hase“ der Technologieregulierung debattiert der Europarat aktuell die Regulierung von KI. Mit der KI-Konvention soll ein völkerrechtlicher Vertrag geschaffen werden, dessen Ziel es ist, einen internationalen Standard zu entwickeln. Durch diesen Standard soll der Einsatz von KI in Einklang mit grundlegenden demokratischen Prinzipien gebracht und ein gemeinsamer Ansatz zur Regulierung von KI gewährleistet werden.

Weshalb braucht es eine KI-Konvention?

Während der EU AI Act der Europäischen Union KI-Regulierung aus einer Produktlogik vorsieht und das Ziel hat, den europäischen Binnenmarkt zu harmonisieren, nimmt die KI-Konvention eine andere Ausrichtung vor. Sie hat als Prinzipiendokument einen starken Fokus auf Grundrechte, die laut  zivilgesellschaftlichen Organisationen wie AlgorithmWatch bei dem EU AI Act nicht ausreichend Beachtung finden.

In 34 Artikeln soll diese Konvention eine Basis für gemeinsame bindende Standards und Praktiken in der Regulierung von KI schaffen. Dabei steht im Fokus, dass Aspekte wie Datenschutz, Privatsphäre und Schutz vor Diskriminierung gewahrt werden. Bürger:innen sollen vor dem missbräuchlichen Einsatz von KI, sei es durch kriminelle Handlungen oder durch unethisches Verhalten von Akteur:innen im Bereich der KI-Entwicklung und -Anwendung, geschützt werden. So gibt es zum Beispiel Pflichten zu Technikfolgeabschätzungen und Transparenz, Schutz der Privatsphäre sowie behördlichen Aufsichten.

Im Vergleich zum AI Act sind diese Pflichten aber weniger detailliert. Um aber nicht weniger wirkungsvoll zu sein, soll es im Rahmen der Konvention ergänzende, nicht bindende Instrumente und Leitfäden wie das „Human Rights, Democracy and Rule of Law Impact Assessment“, ein Werkzeug zur Risikobewertung, geben. Diese Leitfäden sollen in der Konkretisierung der Verpflichtungen unterstützen und es den ratifizierenden Ländern einfacher machen, die Konvention national umzusetzen. Besonders ist hierbei, dass die KI-Konvention von deutlich mehr Ländern verhandelt wird und auch in einem größeren geographischen Rahmen als zum Beispiel der EU AI Act Anwendung finden kann.

Warum ist das aus zivilgesellschaftlicher Perspektive relevant?

Der Europarat hat sich dazu verpflichtet, die Zivilgesellschaft in ihre politischen Entscheidungsprozesse einzubinden (CM(2017)83-final). Dies ist vor dem Hintergrund von Konventionen, die Menschenrechte in den Blick nehmen, auch zwingend notwendig. Doch genau das Gegenteil ist passiert: Im Januar 2023 erwirkten die im Europarat als Beobachterstaat beteiligten USA einen Ausschluss von zivilgesellschaftlichen Organisationen und Beobachterstaaten während der Verhandlung des Entwurfes der KI-Konvention (Euractiv berichtete). Während zivilgesellschaftliche Organisationen wie CAIDAP, AlgorithmWatch, Fair Trial und Homo Digitalis die Arbeit zur KI-Konvention seit Beginn an intensiv kommentierten, durften sie nun nicht mehr vor Ort mitdiskutieren.

Erst im Nachgang bestand für sie die Möglichkeit, die diskutierten Abschnitte des Entwurfes zu sehen und schriftlich zu kommentieren – allerdings ohne Transparenz darüber, wer welche Änderungen vorgeschlagen und Positionen eingebracht hat. Dadurch hat der Europarat der Zivilgesellschaft die Möglichkeit genommen, einen direkten Einfluss auf den Verhandlungsprozess auszuüben und sicherzustellen, dass die KI-Konvention nicht nur die Interessen von Regierungen, sondern auch den Bedürfnissen und Anliegen der Bürger:innen gerecht wird.

Bewertung und Ausblick

Ein integrativerer Ansatz hätte die Qualität und Legitimität der Konvention gestärkt. Und so bleibt ­– um es auf schwäbisch zu sagen – „a Gschmäckle“. Zukunftstechnologien wie KI, die sich rasant entwickeln und unser Zusammenleben disruptiv verändern, sind zu relevant, um  in Hinterzimmern über ihre Regulierung zu verhandeln – insbesondere, wenn es dabei um einen völkerrechtlichen Vertrag geht. Die Zivilgesellschaft selbst lässt sich glücklicherweise von diesen Versuchen nicht abschrecken und bleibt beharrlich bei ihrem Mandat. So weisen sie auch aus Entfernung darauf hin, dass beispielsweise eine Ausnahme im Kontext der „nationalen Sicherheit“ keine gute Idee ist, da sie von autoritären Kräften missbraucht werden könnte.

Im Oktober 2023 sollen die nächsten Plenarsitzungen stattfinden. Die Verhandlungen zur KI-Konvention könnten im März 2024 abgeschlossen werden, und dann im Rahmen der Festlichkeiten zum 75-jährigen Bestehen des Europarates im Mai 2024 in London unterzeichnet werden. Wie sehr das Was und Wie der Konvention den Menschenrechten dient, wird sich erst nächstes Jahr bewerten und in der Umsetzung messen lassen.

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.