Automatisierte Entscheidungen sind im Alltag vieler Europäer:innen angekommen: Ob bei der Jobsuche in Finnland, im italienischen Gesundheitswesen oder bei der Identifizierung vernachlässigter Kinder in Dänemark, in vielen EU-Ländern kommen solche Systeme zum Einsatz, nicht selten in zentralen Bereichen der öffentlichen Verwaltung. Findet die EU darauf eine gemeinsame Antwort?

In unserem neuen Report „Automating Society – Taking Stock of Automated Decision-Making in the EU” zeigen wir zusammen mit AlgorithmWatch erstmals anhand von über 60 Fallbeispielen aus ganz Europa auf, dass automatisierte Systeme, die Entscheidungen vorbereiten oder gar treffen (ADM-Systeme), kein auf die USA oder China begrenztes Phänomen sind. Die Autor:innen untersuchten dafür Beispiele in zwölf EU-Ländern und analysierten die aktuelle Gesetzgebung sowie die europäische Koordination gemeinsamer Standards.

Wie wir in einer repräsentativen Bevölkerungsumfrage festgestellt haben, weiß fast die Hälfte der EU-Bürger:innen nicht, was ein Algorithmus ist. Und das obwohl sich in allen untersuchten Mitgliedstaaten und auf europäischer Ebene verschiedene ADM-Systeme finden lassen, die auch in sensiblen Lebensbereichen zum Einsatz kommen. In Finnland etwa öffnen Job-Bewerber:innen ihre E-Mail Postfächer für Unternehmen. Die Personalverantwortlichen entscheiden dann auf der Basis von automatisch erstellten Persönlichkeitsprofilen über die aussichtsreichsten Kanditat:innen. Der finnische Ombudsmann für Datenschutz, lässt allerdings Zweifel erkennen, ob diese Praxis rechtlich einwandfrei ist. Im italienischen Gesundheitssystem hilft dagegen ein ADM-System die effektivsten und zugleich effizientesten Behandlungen für Patient:innen auszuwählen, um gleichzeitig auch die Finanzierung durch datenbasierte Entscheidungen zu optimieren. Das Fallbeispiel in Dänemark präsentiert, wie in drei Gemeinden auf Basis von Risikoparametern frühzeitig vernachlässigte Kinder identifiziert werden sollten.

Mehr als nur praktische Beispiele

Besonders auffällig ist, dass die öffentliche Verwaltung selbst in vielen EU-Ländern ADM-Systeme nutzt. Umso dringlicher erscheint eine breite gesellschaftliche Debatte darüber, wie der Staat mit den Möglichkeiten der neuen Technologien umgehen sollte, um diese zum Wohl der Gesellschaft zu nutzen. Bürger:innen müssen wissen, wo und zu welchem Zweck automatisierte Entscheidungen fallen. Und die öffentlichen Verwaltungen müssen für den Umgang mit ADM-Systemen systematisch befähigt werden.

Der Report analysiert nicht nur praktische Beispiele aus den Mitgliedstaaten, sondern auch den länderspezifischen Umgang mit sozialen und politischen Konsequenzen. Hier zeigen sich große Unterschiede zwischen den Mitgliedstaaten hinsichtlich Investitionen, Kompetenzaufbau und Regulierungstiefe. Diese Lücke innerhalb der EU gilt es zu schließen. Europa sollte Wege finden, Erfahrungen im Umgang mit ADM-Systemen auszutauschen, gegenseitig voneinander zu lernen und schließlich geschlossen zu agieren.

Die Lücke zwischen den EU-Mitgliedsstaaten schließen

Deutschland hat im Dezember 2018 eine nationale Strategie zu Künstlicher Intelligenz verabschiedet und folgt dabei u. a. seinem französischen Nachbarn. Was jedoch beiden Strategien fehlt: Konkrete Schritte zur grenzüberschreitenden Kooperation und Koordinierung von Standards. Zwar offenbaren die Dokumente den grundsätzlichen Willen, bilateral zusammenzuarbeiten, doch selbst das wäre zu kurz gesprungen.

Es braucht gemeinsame europäische Bestrebungen, um die neuen Technologien gemeinwohlförderlich einzusetzen. Dabei ist nicht jede automatisierte Entscheidung zwingend von gleich großer Bedeutung. Die Politik sollte vor allem jene ADM-Systeme ins Auge fassen, die teilhaberelevante Lebensbereiche von Bürger:innen berühren: Die algorithmische Vorauswahl von Job-Bewerbungen braucht größere Aufmerksamkeit als die automatische Rechtschreibkontrolle. Ziel muss ein Europa sein, dass gerade gegenüber internationalen Akteuren mit einer Stimme spricht, wenn Antworten auf die Herausforderungen und Chancen von automatisierten Entscheidungssystemen gefragt sind.

Auf Einladung der Europaabgeordneten Liisa Jaakonsaari (S&D), Julia Reda (Greens/EFA) und Michał Boni (EPP) haben wir zusammen mit AlgorithmWatch den Report am 29. Januar im Europäischen Parlament präsentiert. Das Video zeigt eine Zusammenfassung der Diskussion und Präsentation der Ergebnisse:

Dieser Artikel ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.