Technologien wie Contact Tracing Apps und Gesichtserkennung als schnelles Allheilmittel in der Corona-Pandemie? Das hofften viele Länder und setzen im Eiltempo algorithmische Entscheidungssysteme (ADM) ein. Im Spannungsverhältnis zwischen technologischem Krisenmanagementpotenzial und Grundrechtswahrung will Europa Vorbild sein und effektive Technologien mit Anforderungen an Menschenrechte und Datenschutz verbinden. Dass das keine einfache Aufgabe ist, zeigt unsere Sonderausgabe des Automating Society Reports. Gemeinsam mit AlgorithmWatch geben wir einen Überblick über europäische ADM-Systeme zur Bekämpfung der Pandemie und ordnen ihre Funktionsweisen sowie gesellschaftlichen Konsequenzen ein.

Mit hoher Geschwindigkeit implementierten zahlreiche Länder algorithmische Entscheidungssysteme wie Contact Tracing Apps, Corona-Warn-Apps und Gesichtserkennungssoftware. Sie sollten helfen, weitere Lockdowns zu vermeiden und das komplexe Corona-Problem auf einfache Weise zu lösen. Im Report Automated Decision-Making Systems in the COVID-19 Pandemic: A European Perspective geben wir einen Überblick über den Einsatz algorithmischer Systeme in 16 europäischen Ländern. Wissenschaftler:innen und Journalist:innen aus den jeweiligen Ländern haben herfür zahlreiche Anwendungsfälle zusammengetragen. In einem Vergleich der europäischen Länder, sowie zwischen Europa und dem außereuropäischen Raum zeigt der Report den sehr unterschiedlichen Umgang mit den technologischen Lösungen.

Länder in Asien und dem Nahen Osten schöpfen das Überwachungspotenzial der Technologien voll aus – mit verpflichtenden Quarantäne-Apps und Tracking-Armbändern sowie Gesichtserkennung zur Durchsetzung der Maskenpflicht. Solche invasiven Überwachungslösungen lassen sich teilweise jedoch auch in Europa finden: In Polen müssen Nutzer:innen über die obligatorische Quarantäne-App regelmäßig Standortdaten und Fotos von sich senden, um zu beweisen, dass sie die Maßnahmen einhalten. Slowenien gibt mit ihren Anti-Corona-Gesetzen gleichzeitig der Polizei mehr Macht zur Überwachung der Bürger:innen durch digitale Instrumente wie die Gesichtserkennung.

Grundsätzlich fordern jedoch EU-Institutionen und auch die WHO die Vereinbarkeit derartiger Technologien mit Menschenrechten. Sie haben dafür Kriterien wie etwa Freiwilligkeit, Transparenz und Erklärbarkeit sowie die Einhaltung von Datenschutzanforderungen herausgegeben. Gleichzeitig warnen sie davor, den Einsatz technologischer Lösungen auch in Krisenzeiten nicht zu übereilen. Viele europäische Länder versuchten diese Empfehlungen umzusetzen, etwa mit Open SourceOpen Source Ein Entwicklungsmodell, bei dem der Quellcode eines Programms öffentlich zugänglich ist. Jeder kann den Code einsehen, modifizieren und weiterverbreiten. Open Source kann die Transparenz von Forschungsfeldern wie der KI fördern. Lösungen und dezentralen Ansätzen. Dennoch, so zeigt der Report, bleibt bei den rasch implementierten Lösungen die Frage nach dem grundsätzlichen Nutzen der Anwendungen offen: die Effektivität etwa von Contact Tracing Apps ist bislang nicht belegt und es fehlen Methoden, um sie zu messen. Letztlich macht der Report deutlich, dass technologische Lösungen kein Allheilmittel, sondern nur Teil einer größeren Gesamtlösung in einem funktionierenden Gesundheitssystem sein können.

Die Publikation ist eine Sonderausgabe des Automating Society Reports 2020, der einen Überblick über Anwendungsbeispiele, Debatten und regulatorische Entscheidungen rund um europäische ADM-Systeme in unterschiedlichen Anwendungsfelder gibt. Der Report erscheint im Oktober.