Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können

Transparenz, Fairness und Nachhaltigkeit. Das sind nur einige der Anforderungen, die derzeit – auch von uns – an algorithmische Prozesse gestellt werden.

Die Personen, die algorithmische Systeme beauftragen, gestalten und einsetzen – die „Algorithmiker:innen“ –, stehen in der Verantwortung, diese Anforderungen umzusetzen. Doch warum sollten sie dieser Verantwortung nachkommen? Wir glauben, eine verbindliche Professionsethik könnte die Antwort sein.

In unserem neuen Arbeitspapier sehen wir uns das genauer an. Die Autor:innen identifizieren zehn Erfolgsfaktoren verbindlicher Professionsethiken aus verschiedensten Bereichen und geben Empfehlungen für die Übertragung auf das Berufsfeld der Algorithmengestaltung.

Eine Professionsethik für Algorithmiker:innen! Solch eine Forderung wird dieser Tage immer lauter. Nicht zu Unrecht, denn Expert:innen aus verschiedensten Disziplinen berichten über den stetig zunehmenden sozialen Einfluss algorithmischer Systeme. Ob ein solches System Schaden anrichtet oder die Welt verbessert, dafür sind – und auch das ist mittlerweile weithin bekannt – Menschen verantwortlich. Von der Zielsetzung und Entwicklung der Systeme, über die Auswahl der Trainingsdaten bis hin zum Produktiveinsatz spielen menschliche Entscheider:innen die Schlüsselrolle.

Dieser Einsicht gegenüber steht jedoch eine Realität, die neben der Einhaltung des allgemeinen rechtlichen Rahmens kaum ethische Anforderungen an das berufliche Tun von Algorithmiker:innen stellt. Besonders im englischsprachigen Raum werden daher derzeit von einigen hochrangigen Institutionen Bemühungen unternommen, dies zu ändern. Eine Reihe vielversprechender Gütekriterienkataloge für Algorithmen und berufsethischer Richtlinien für die Gestaltung derselben ist das Ergebnis.

Verbindlichkeit, und wie andere sie sicherstellen

Dennoch lässt sich feststellen, dass vielen dieser Dokumente vor allem eines fehlt: die Verbindlichkeit. Ohne dieses Charakteristikum bleiben die wichtigen Forderungen ohne Effekt und die Bemühungen vielmehr eine intellektuelle Übung. Weitere Ergebnisse unserer Stärken- und Schwächenanalyse bestehender Forderungskataloge finden Sie hier.

In anderen Tätigkeitsfeldern scheint die Herausbildung eines umfassenden Berufsethos hingegen geglückt zu sein. Man denke nur an die Medizin oder den Journalismus. Doch worauf beruht die Verbindlichkeit erfolgreicher Professionsethiken? Und wie lässt sich ihr Erfolg messbar machen? Was können wir von Pressekodex, Hippokratischem Eid und Co. lernen? Und wie können wir diese Ergebnisse auf das Feld der Algorithmengestaltung übertragen? Genau diese Fragen beantworten wir in unserer Studie „Ethik für Algorithmiker:innen – Was wir von erfolgreichen Professionsethiken lernen können“.

Sechs Professionsethiken und ihre Erfolgsgeheimnisse

In der Expertise untersuchen Alexander Filipovic, Christopher Koska und Claudia Paganini die professionsethische Natur von sechs Berufsfeldern: Medizin, Soziale Arbeit, Journalismus, Öffentlichkeitsarbeit, Werbung und Ingenieurwesen. Für jedes dieser Gebiete analysieren die Autor:innen, welche Faktoren den Erfolg der jeweiligen Professionsethik bedingen.

Insgesamt zehn Erfolgsfaktoren für Professionsethiken werden identifiziert. Diese sind in der untenstehenden Abbildung zusammengefasst. Es lässt sich festhalten, dass keineswegs das Vorhandensein aller zehn Charakteristika erforderlich ist, um ein verbindliches Berufsethos zu schaffen. Vielmehr können einzelne Faktoren die Abwesenheit anderer kompensieren.

Lehren für die Algorithmengestaltung

Um Aussagen zur Übertragbarkeit dieser Faktoren auf die Algorithmengestaltung zu tätigen, wird dieses Feld von den Autoren näher charakterisiert und eingegrenzt. Von den historischen Wurzeln bis hin zur zunehmenden Ausdifferenzierung des Berufes in der Gegenwart entsteht ein umfassendes Bild seiner Besonderheiten.

Zuletzt illustrieren die Autor:innen, wie die Lehren aus den analysierten Professionsethiken auf die Arbeit an algorithmischen Systemen übertragen werden können.  So schlagen sie beispielweise vor, die historischen Wurzeln der Algorithmik zurückzuverfolgen und das „Ethos der ersten Algorithmikerinnen und Algorithmiker auszuleuchten“, um so ein Gefühl für eine gemeinsame historische Tradition zu schaffen.

Auch das Herausbilden eines persönlichen sozial-ethischen Verständnisses unter den Verantwortlichen ist laut den Autor:innen von großer Wichtigkeit. So sollten bestehende Initiativen, die sich mit berufsethischen Herausforderungen im Feld der Algorithmengestaltung beschäftigen, professionell unterstützt werden.  Wenn bei der Entwicklung von professionsethischen Leitbildern eine Vielzahl von relevanten Akteur:innen eingebunden wird, haben solche Prozesse das Potenzial, ein verbindliches Ergebnis hervorzubringen.

Alle weiteren Erkenntnisse finden Sie in ausführlicher Form in unserem Arbeitspapier.

Wir selbst arbeiten diese derzeit in unseren #algorules-Prozess ein. Zusammen mit dem iRights.Lab haben wir es uns zum Ziel gesetzt, einen Gütekriterienkatalog für Algorithmen (die #algorules) zu entwickeln und effektiv zu implementieren. Welche Schritte dazu nötig waren, sind und sein werden, haben wir hier zusammengefasst.