Seit drei Jahren zahlt die Stadt Trelleborg Transferleistungen über ein automatisiertes Entscheidungsfindungssystem aus. Katarina Lind und Leo Wallentin berichten von der seitdem in Schweden intensiv geführten Debatte über die Zukunft des Berufes der Sozialarbeiter:innen und zeigen auf, wie wichtig der sorgfältige Umgang mit Transparenz ist.

Trelleborg ist eine Stadt mit 40.000 Einwohner:innen im südlichen Teil Schwedens. Vor drei Jahren führte sie als erste Gemeinde eine vollständig automatisierte Entscheidungsfindung für Transferleistungen ein. Sie tauften ihren digitalen Mitarbeiter Ernst. Staatliche Leistungen wie das Elterngeld oder Zuschüsse für die Zahnpflege können nun ohne jegliches menschliches Zutun ausgezahlt werden.

Vollständige Automatisierung

Trelleborg verwendet einen Prozess, der als robotergestützte Automatisierung oder RPA bekannt ist, um Anträge auf finanzielle Unterstützung zu bearbeiten. Die Software berücksichtigt verschiedenen Regeln, die zu einer Ja- oder Nein-Entscheidung führen.

Wenn die Einwohner:innen von Trelleborg zum ersten Mal einen Antrag auf finanzielle Unterstützung stellen, treffen sie Sachbearbeiter:innen persönlich. Danach müssen sie jeden Monat einen neuen Antrag stellen und wenn sie sich online bewerben, wird die Entscheidung automatisiert getroffen. Sie füllen Angaben zu ihren Einnahmen und Ausgaben aus, die die RPA mit dem Vormonat vergleicht. Sollte sich die Situation der Antragstellerin oder des Antragstellers von einem Monat zum nächsten erheblich verändert haben, stoppt die Software und leitet den Antrag an einen Mitarbeitenden aus der Sachbearbeitung weiter. Etwa jeder dritte Antrag wird derzeit vollständig von der Software bearbeitet. Der Rest wird von Sachbearbeiter:innen bearbeitet, weil die Situation für die Software zu komplex ist.

Zeitersparnis

Der Hauptgrund für den Einsatz von RPA war, Ressourcen besser einzusetzen. Sachbearbeiter:innen sollten mehr Zeit haben, mit Menschen zu reden, anstatt Dokumente anzuschauen. Außerdem verkürzt sich die Entscheidungszeit: Während eine Rückmeldung früher zwei Tage dauern konnte, kommt der Bescheid jetzt mitunter in weniger als einer Minute.

In den letzten Jahren haben viele Städte begonnen, Online-Anwendungen für die Verteilung von staatlichen Leistungen zu verwenden – ein erster Schritt zur Automatisierung der Prozesse. Allerdings verwenden nur wenige Gemeinden automatisierte Verfahren. Acht Prozent der Gemeinden nutzen irgendeine Form der Automatisierung und nur eine (Trelleborg) nutzt sie für eine Entscheidungsfindung. Die Dinge könnten sich aber schnell ändern, denn 40 Prozent der Gemeinden gaben an, dass sie planen, in den nächsten Jahren eine Automatisierung der Verwaltungsarbeit einzuführen.

Neudefinition von Sozialarbeit

Die meisten der automatisierten Aufgaben, wie z.B. die Bearbeitung von Rechnungen, sind unumstritten. Diese Programme sind nicht besonders “intelligent”: Es handelt sich um recht einfache regelbasierte Algorithmen. Aber die Einführung automatisierter Entscheidungsfindung im Wohlfahrtssystem löste eine Diskussion über den Beruf der Sozialarbeiter:innen aus und darüber, was Sozialhilfe ausmachen soll.

“Früher gab der Gesetzestext über finanzielle Leistungen den Sozialarbeiter:innen einen großen Handlungsspielraum, da das Gesetz Verallgemeinerungen untersagte. Wenn Gesetze aber in Code verschriftlicht werden, wird deutlich, dass sich die Sozialarbeit verändert hat. Durch die Umwandlung des Gesetzes in Software ändert sich die Art der finanziellen Unterstützung, da man nicht mehr die gleichen individuellen Beurteilungen wie früher beibehalten kann”, so Lupita Svensson, Forscherin an der Fakultät für Sozialarbeit der Universität Lund.

Kündigung aus Protest

Als Kungsbacka, eine Stadt mit 20.000 Einwohner:innen 300 Kilometer nördlich von Trelleborg, 2018 das “Trelleborg-Modell”, wie es bekannt wird, einführte, kündigten 12 von 16 Sozialarbeiter:innen aus Protest. Einige von ihnen sind an ihren Arbeitsplatz zurückgekehrt, aber die Mehrheit ist für immer gegangen.

Inger Grahn, eine lokale Vertreterin der Gewerkschaft in Kungsbacka, sagte, dass es bei dem Protest um zwei Dinge ging. Erstens gab es Zweifel, ob das “Trelleborg-Modell” legal sei. Zweitens erforderte es eine umfassende Reorganisation der kommunalen Dienstleistungen. Die Sachbearbeiter:innen von Kungsbacka meinten, dass das „Trelleborg-Modell“ sie daran hindern könnte, sich ein Gesamtbild von der Situation der Antragsteller:innen zu machen.

Steiniger Weg zu Transparenz

Ein zentrales Anliegen bei der automatisierten Entscheidungsfindung ist die Transparenz. Wie können automatisierte Entscheidungen und die zugrundeliegenden Algorithmen so erklärt werden, dass jeder und jede sie verstehen kann?

Simon Vinge, Chefökonom beim Akademikerförbundet (SSR), sucht seit über einem Jahr nach Antworten. Als er die Gemeinde Trelleborg zum ersten Mal fragte, wie das System funktioniert, erhielt er keine Rückmeldung. Selbst nachdem er eine Beschwerde an den Ombudsmann des schwedischen Parlaments (JO) geschickt hatte, erhielt er nur einige Screenshots und ein Flussdiagramm. Für ihn ist das jedoch immer noch keine “aussagekräftige Information” darüber, wie eine Entscheidung getroffen wird. Der JO wird in den kommenden Monaten eine Entscheidung über den Fall treffen.

Analyse des Codes

Im vergangenen Herbst forderte der Journalist Freddi Ramel dann den Quellcode der Software in Trelleborg gemäß dem schwedischen Informationsfreiheitsgesetz an. Zuerst argumentierte die Gemeinde Trelleborg, dass es sich nicht um ein offizielles Dokument handele, aber ein Gericht entschied, dass es eines sei. Der Code, den Trelleborg schließlich mitteilte, besteht aus 136.000 Zeilen Regeln, die auf 127 XML-Dateien verteilt sind. Einige der Dateien scheinen ältere, unbenutzte Regelsätze zu enthalten. Ohne Zugriff auf die von der Software verwendeten Daten ist es unmöglich, die Regeln mit Sicherheit zu verstehen – es bleibt eine Black Box.

Durchsickern persönlicher Daten

Was die Analyse des Codes ergab, war jedoch beunruhigend. Es enthielt die Namen und Sozialversicherungsnummern von etwa 250 Personen, anscheinend Bürger:innen, die zuvor Anträge gestellt hatten. Diese Daten scheinen seit 2017 in dem Code enthalten zu sein und sind jetzt für jeden und jede, die einen Antrag auf Einsicht des Codes gestellt hat, sowie für die Subunternehmen, die daran arbeiten, sichtbar.

Die Stadtverwaltung von Trelleborg untersucht derzeit, warum die persönlichen Daten in den Code aufgenommen wurden und warum der Code vor seiner Veröffentlichung nicht überprüft wurde.

Obwohl Trelleborg ihren “Roboter” vor drei Jahren eingeführt hat, hat die Gemeinde gerade erst begonnen, sich mit dieser Frage zu befassen. Im Januar ordnete Stockholm eine Untersuchung über den Einsatz der automatisierten Entscheidungsfindung durch Gemeinden und Regionen an. Sie wird im März 2021 veröffentlicht werden.

Das war’s für den fünfzehnten Stopp unseres AlgoRails durch Europa, auf dessen Reise wir mehr darüber erfahren wollen, wie algorithmische Systeme in unserer europäischen Nachbarschaft eingesetzt werden. Nächste Woche endet unsere Fahrt mit einem letzten Halt in Dänemark – am 28. Oktober erscheint dann der Automating Society Report 2020.

Diese Story wurde von Julia Gundlach gekürzt und ins Deutsche übersetzt. Der ungekürzte Beitrag wurde auf der Webseite von AlgorithmWatch veröffentlicht.

Die Blogreihe AlgoRail ist Teil des Automating Society Reports 2020 von der Bertelsmann Stiftung und AlgorithmWatch, der im Herbst dieses Jahres veröffentlicht und von Dr. Sarah Fischer  koordiniert wird. Neben journalistischen Geschichten wie dieser, gibt der Report einen Überblick über verschiedene Anwendungsbeispiele algorithmischer Systeme sowie aktuelle Debatten, Policy Responses und wichtige Akteure in 15 Ländern. Eine erste Ausgabe des Reports  ist im Januar 2019 erschienen.

Dieser Text ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.