Auch in dieser Ausgabe Erlesenes gibt es eine bunte Mischung an Themen und Fragen rund um Algorithmen: Wie rassistisch ist Gesichtserkennungs-KI? Kann KI den Klimawandel stoppen? Und: Sind Algorithmen mitunter künstlerisch wertvoll? Bleiben Sie mit unserer Auswahl an Artikeln und Beiträgen auf dem neusten Stand!

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an carla.hustedt@bertelsmann-stiftung.de zukommen lassen.

?Gesichtserkennungs-KI hat rassistische Vorurteile

(Emotion-reading tech fails the racial biasBias In der KI bezieht sich Bias auf Verzerrungen in Modellen oder Datensätzen. Es gibt zwei Arten: Ethischer Bias: systematische Voreingenommenheit, die zu unfairen oder diskriminierenden Ergebnissen führt, basierend auf Faktoren wie Geschlecht, Ethnie oder Alter. Mathematischer Bias: eine technische Abweichung in statistischen Modellen, die zu Ungenauigkeiten führen kann, aber nicht notwendigerweise ethische Probleme verursacht. test), 3. Januar 2019, The Conversation

Algorithmen ordnen den Gesichtsausdrücken von schwarzen Männern systematisch negativere Emotionen im Vergleich zu weißen Männern zu. Zu diesem Schluss kommt eine Studie von Lauren Rhue – IT-Assistenzprofessorin an der US-amerikanischen Wake Forest School of Business – , über deren Ergebnisse sie in diesem Artikel informiert. Rhue analysierte Porträtfotos von 400 Spielern der nordamerikanische Basketball-Profiliga NBA mithilfe der chinesischen Software Face++ sowie Microsoft’s Face API. Ihre Untersuchung zeigt, dass die Künstliche Intelligenz (KI) in den Gesichtern von Schwarzen selbst bei breitem Lächeln mehr Anzeichen von Wut erkennen wollen als bei Weißen und dass eine wahrgenommene Ambiguität im Gesichtsausdruck bei Schwarzen stärker als negativ interpretiert wird. Gemäß Rhue folgen die Algorithmen damit den gleichen Stereotypen, die auch bei Menschen festgestellt wurden. Es bestehe die Gefahr, dass derartige KI Vorurteile und Diskriminierung im Alltag “formalisiert”, weshalb die Gesellschaft die Verantwortung dafür trage, solche Algorithmen transparent und fair zu gestalten.

?Künstliche Intelligenz und Kunst 

2. Januar 2019, Süddeutsche Zeitung

Wenn eine Künstliche Intelligenz (KI) ein Bild generiert, ist dann das Werk an sich die Kunst oder gar der Algorithmus selbst? Und: Wer sollte als Urheber:in vom eventuellen finanziellen Erfolg profitieren? Mit diesen zwei komplizierten Fragen beschäftigt sich Bernd Graff, Journalist bei der Süddeutschen Zeitung. Im Fokus seiner Betrachtungen steht ein Konflikt zwischen dem Pariser Kollektiv Obvious und Robbie Barrat, Erschaffer eines Open-Source-Algorithmus zur Erstellung von künstlerischen Bildern. Obvious hatte mit dieser Software das Bild “Edmond de Belamy” generiert und dieses spektakulär für 432.500 Dollar versteigert. Barrat findet das problematisch. Doch natürlich fußt seine KI auf der Vorarbeit anderer. Kurzum: Der immer noch dem System von Künstler und Werk behaftete Kunstbetrieb gerät gerade mächtig aus den Fugen. Kunst, wie wir sie kennen, habe sich damit womöglich erübrigt und folglich abgeschafft, schlussfolgert Graff.

?Die Effekte von Künstlicher Intelligenz für Medizin und Gesundheit

(High-performance medicine: the convergence of human and artificial intelligence), 7. Januar 2019, Nature Medicine

Künstliche Intelligenz (KI) verändert das Gesundheitswesen. Der Kardiologe, Genetiker und Forscher im Bereich der digitalen Medizin, Eric Jeffrey Topol, gibt in diesem wissenschaftlichen Bericht einen Überblick über existierende Anwendungen, Trends und künftige Einsatzbereiche von KI für das medizinische Fachpersonal, die Patient:innen und das Gesundheitssystem als Ganzes. Topol listet eine Reihe medizinischer Teilbereiche auf, in denen Ärzt:innen und Spezialist:innen von KI profitieren. Einer ist etwa die Dermatologie, in der lernfähige Algorithmen mittlerweile Hautkrebs mit einer vergleichbaren Akkuratheit erkennen wie menschliche Expert:innen. Für Patient:innen gebe es bislang noch weniger praktische, durch KI ermöglichte Einsatzbereiche als für das Fachpersonal. Topol erwähnt etwa Smartphone-Apps, die es Privatpersonen erlauben, bestimmte diagnostische Maßnahmen eigenständig zu Hause oder unterwegs vorzunehmen, und die auf ausgefeilte Algorithmen setzen. Passend zum Thema empfehlen wir die umfangreiche Studie unserer Kolleg:innen vom Projekt “Der digitale Patient” zu Algorithmen in der Gesundheitsvorsorge.

?Das Potenzial von Künstlicher Intelligenz im Kampf gegen den Klimawandel

(How artificial intelligence will affect the future of energy and climate), 10. Januar 2019, The Brookings Institution

Anwendungen, die Künstliche Intelligenz (KI) einsetzen, können die Effizienz des Energiesektors steigern und Spezialist:innen dabei helfen, komplexe Phänomene besser zu verstehen. Außerdem besteht mithilfe von KI die Chance, Auswirkungen des Klimawandels auf globaler und lokaler Ebene vorherzusehen und effektive Maßnahmen zu treffen, um negative Folgen abzumildern. Das sind einige der Erkenntnisse aus dem Essay des Politikwissenschaftlers und Klimaforschers David G. Victor. Der Experte ist zwar nicht optimistisch, dass sich mit KI die Emissionen der Energieversorgung radikal senken lassen. Aber Möglichkeiten sieht Victor dagegen, wenn es darum geht, mit dem Einsatz von KI den durch Klimawandel verursachten Schaden zu verringern: beispielsweise durch die Optimierung von Strategien, die Eliminierung von lokalen und globalen Koordinationsproblemen sowie einen verbesserten Zugang zum notwendigen Know-how auch für sozioökonomisch schwache Regionen. Insgesamt werde KI die Grenze zwischen Innovation und Maßnahmen zur Anpassung an den Klimawandel verschwimmen lassen.

?Algorithmus soll antike Keilschrifttafeln übersetzen

(Artificial Intelligence is Deciphering the World’s Oldest Writings), 29. Dezember 2018, The Vintage News

Forscher:innen wollen Künstliche Intelligenz (KI) nutzen, um Texte auf Hunderttausenden antiken Keilschrifttafeln zu entziffern. Die freie Journalistin Nikola Budanovic schreibt bei The Vintage News über das Projekt unter Leitung von Émilie Pagé-Perron, Doktorandin an der University of Toronto. Die Wissenschaftler:innen um Pagé-Perron erarbeiten momentan einen Algorithmus, der anhand der wenigen bislang existierenden Übersetzungen die Bedeutung der Keilschriften erlernen soll, um ein Verständnis für Texte auf anderen Tafeln zu entwickeln. Für bessere Resultate werde der Algorithmus außerdem mit kulturellem und historischem Kontext gefüttert. Die Übersetzungen sowie das Datenmaterial sollen unter einer Open-Source-Lizenz über eine einfach zu benutzende Oberfläche für die Allgemeinheit zugänglich gemacht werden. Die Projektverantwortlichen erhoffen sich, dass andere Fachbereiche wie Politik oder Wirtschaft von den gewonnenen Erkenntnissen profitieren können.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: carla.hustedt@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen “Erlesenes” hier abonnieren