Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als Referenzpunkt für Beschwerden und Überprüfungen dienen.

Hier können Sie sich einen Überblick über unsere vergangenen, aktuellen und zukünftigen Aktivitäten verschaffen.

Was bisher geschah

Recherche und Arbeitspapier zu bestehenden Gütekriterienkatalogen

Man muss das Rad nicht neu erfinden – vor allem in den USA hat bereits eine Vielzahl an Organisationen den Versuch gewagt, Qualitätskriterien für Algorithmen aufzustellen oder bestehende Kriterienkataloge zu aktualisieren. In der ersten Phase des Projektes haben wir uns daher gefragt: Welche Ansätze zu Gütekriterien für Algorithmen gibt es bereits und was können wir daraus für die Weiterentwicklung lernen?

Drei Entwürfe, die „Principles for Accountable Algorithms and a Social Impact Statement for Algorithms“ der FAT/ML-Konferenz, die „Asilomar AI Principles“ des Future of Life Institute sowie die „Principles for Algorithmic Transparency and Accountability“ des ACM US Public Policy Council haben wir genauer unter die Lupe genommen und dabei festgestellt, dass eine Vielzahl sinnvoller Qualitätskriterien für Algorithmen schon gefordert wird: von Transparenz über Fairness bis hin zu Verantwortung und Nachvollziehbarkeit. Woran es jedoch mangelt, sind die Auseinandersetzung mit spezifisch ethischen Fragen, die durch die voranschreitende Verwendung von Algorithmen in immer mehr Lebensbereichen aufgeworfen werden, sowie konkrete Angaben zur Implementierung des jeweiligen Kataloges.

Das Ergebnis unserer Bemühungen finden Sie hier – in Form eines Arbeitspapiers.

Erster Expertenworkshop in Berlin & Startschuss für den #algorules-Prozess

Auf Grundlage dieser Erkenntnisse haben wir einen ersten Gütekriterienkatalog entworfen. Um seine inhaltliche Ausrichtung zu diskutieren, fand am 25. Mai 2018 ein Expert:innenworkshop in Berlin statt, in dessen Verlauf verschiedene Perspektiven und Erfahrungswerte zur Geltung kamen. Denn Algorithmen werden von der Privatwirtschaft und von öffentlichen Stellen in einer Vielzahl an Sektoren eingesetzt, von Kommunikationsdiensten, finanziellen Risikobewertungen und gezielter Werbung über Anwendungen im Bereich der Gesundheit und Polizeiarbeit bis hin zur Bildung. Zugleich besteht der Entwicklungsprozess algorithmischer Systeme aus vielen Phasen, in denen sehr unterschiedliche Akteur:innen involviert sind. Der Termin mit hochrangigen Stakeholder:innen aus einer Vielzahl von Bereichen und Fachgebieten war zugleich der offizielle Auftakt unserer Arbeit an den #algorules. Die Teilnehmenden lieferten eine Reihe wichtiger Impulse für die Weiterentwicklung des Kataloges, sowohl für die Präambel als auch für neue Kriterien.

Nach Abschluss des ersten Workshops enthält unser Gütekriterienkatalog nunmehr über ein Dutzend Elemente. Unter Bezugnahme auf bewährte Instrumente, wie Folgenabschätzungen und Mechanismen zur Schaffung von Transparenz und Nachprüfbarkeit bis hin zu grundlegenden Prinzipien wie Fairness und Nachhaltigkeit, arbeiten wir an einem kohärenten Katalog von gangbaren Anforderungen, die nun weiterentwickelt und geschärft werden sollen.

Aktuelle Aktivitäten

Konsultationsprozess

Mit unserem Konsultationsprozess geht die Entwicklung des Gütekriterienkataloges in eine nächste Runde. Dazu befragen wir aktuell rund vierzig hochrangige Expert:innen aus Wissenschaft, Politik, Wirtschaft, Zivilgesellschaft, Medien und weiteren relevanten Bereichen. Wir möchten dabei nicht nur wertvollen Input zur inhaltlichen Schärfung sammeln. Die Erfahrungswerte der Vertreter:innen aus unterschiedlichsten Sektoren sind auch für die Implementierungsstrategie unverzichtbar. Welche Anforderungen muss ein Gütekriterienkatalog erfüllen, um von den Akteur:innen in ihren Feldern angenommen zu werden? Wer sind relevante Multiplikator:innen? Wie kann der Katalog mit bestehenden professionsethischen Leitlinien kombiniert werden? Dazu erwarten wir spannende Antworten!

Vorstellung in Expertenrunden

Weiteres wichtiges Feedback bekommen wir durch die Vorstellung unseres Vorhabens auf einschlägigen Expertenveranstaltungen. Wir haben den #algorules-Prozess beispielsweise kürzlich bei einem Workshop der Stiftung Neue Verantwortung (SNV) zu smarten Assistenzsystemen vorgestellt – ebenso wie auf einer Veranstaltung der Hanns-Seidel- Stiftung in München zum Algorithmen-TÜV. Die entsprechende Präsentation finden Sie hier:

Solche Formate bieten uns die Möglichkeit, das Vorhaben und den Gütekriterienkatalog in einer größeren Runde zu diskutieren. Darüber hinaus bekommen wir ein Gefühl für die Anwendbarkeit der einzelnen Punkte in klar definierten Kontexten – sei es in der Medizin oder etwa im Zusammenhang mit dem Verbraucherschutz. Das Feedback nutzen wir bei der weiteren Ausarbeitung des Kataloges und für die Entwicklung einer Implementierungsstrategie.

Expertise zur Verbindlichkeit erfolgreicher Professionsethiken

Basierend auf unseren Lehren aus bestehenden Gütekriterienkatalogen möchten wir für unsere #algorules eine effektive Strategie für deren richtige Anwendung entwickeln. Eng damit verknüpft ist zum Beispiel die Frage, wie eine Professionsethik eine gewisse Verbindlichkeit erlangen kann. Warum sollten sich die verantwortlichen Akteur:innen an eine mehr oder weniger abstrakte Sammlung von Anforderungen halten? Wie kann ein Gütekriterienkatalog für algorithmische Prozesse zum verbindlichen Standard werden, so wie beispielsweise der Pressekodex für Journalist:innen einer geworden ist?

Dieser Frage gehen die Autor:innen unseres Arbeitspapieres „Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können“ auf den Grund. Alexander Filipovic, Claudia Paganini und Christopher Koska analysieren dazu sechs Berufsfelder und deren berufsethische Kodizes. Diese Felder sind Medizin, Journalismus, soziale Arbeit, Werbung, Öffentlichkeitsarbeit und das Ingenieurwesen.

Die Autor:innen identifizieren zehn Erfolgsfaktoren von Professionsethiken und geben eine praktische Orientierung, wie sich diese auf das Feld der Algorithmengestaltung anwenden lassen. Dies geschieht vor dem Hintergrund einer detaillierten Darstellung und historischen Einordnung des Berufsfeldes der „Algorithmiker“.

Wir veröffentlichen die Studie voraussichtlich Mitte August 2018 und werden zu gegebener Zeit darauf hinweisen.

Ausblick

Zweiter Expert:innenworkshop in Berlin – Entwicklung einer Implementierungsstrategie

Um weitere Ideen zur Implementierung zu sammeln, veranstalten wir im frühen Herbst 2018 einen zweiten Expert:innenworkshop in Berlin. Wie schon beim ersten Workshop, werden wir Vertreter:innen aus verschiedenen Sektoren einladen, um einen möglichst breiten Einblick in die Entwicklung und Anwendung algorithmischer Systeme zu erlangen. Die unterschiedlichen Perspektiven sollen dabei helfen, den Gütekriterienkatalog zu schärfen und basierend auf den Ergebnissen des Konsultationsprozesses und den Empfehlungen von Filipovic, Koska und Paganini eine Implementierungsstrategie zu entwickeln.

Breiter Beteiligungsprozess

Der Austausch mit ausgewählten Expert:innen im Rahmen von Workshops oder Konsultationen bildet eine fundierte Grundlage für die Entwicklung unseres Gütekriterienkataloges. Damit dieser Gütekriterienkatalog in der Gesellschaft akzeptiert wird, soll er sich zudem auch einer breiteren Debatte stellen. Daher planen wir einen Beteiligungsprozess, der eine größere Gruppe an interessierten Personen in den Entwicklungsprozess involvieren soll. Wir werden auch dazu weitere Informationen an dieser Stelle und auch über Twitter veröffentlichen.

Der Prozess der #algorules ist in vollem Gange. Wir freuen uns auf die weitere Zusammenarbeit mit dem Think Tank iRights.Lab und allen Beteiligten und halten Sie weiterhin auf dem Laufenden.