Willkommen zur vierten Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen „Erlesenes“ (hier abonnieren). 

Der Einfluss von Algorithmen auf den Alltag der Menschen nimmt stetig zu – und das häufig im Verborgenen. Die Konsequenzen für Individuum und Gesellschaft sind ohne Zweifel weitreichend, bislang jedoch nicht ausreichend erforscht.

Wir bieten mit “Erlesenes” einmal pro Woche eine einordnende Auswahl wichtiger Debattenbeiträge, wissenschaftlicher Ergebnisse und intelligenter Sichtweisen zu Chancen und Herausforderungen algorithmischer Entscheidungsvorgänge. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Folgende Empfehlungen haben wir diese Woche für Sie ausgewählt:

? Big Data und Gesundheit – Datensouveränität als informationelle Freiheitsgestaltung (PDF)

30. November 2017, Deutscher Ethikrat

Anwendungen zu Big Data müssen individuelle Freiheit und Privatheit wahren, Gerechtigkeit und Solidarität sichern sowie Verantwortung und Vertrauen fördern. So lautet eine Schlussforderung aus dieser vor wenigen Tagen veröffentlichten umfangreichen Stellungnahme des Deutschen Ethikrates. Der  Bericht fokussiert sich auf den Bereich Gesundheit. Viele der am Anfang des Berichts kompakt zusammengefassten Problemstellungen sowie Handlungsempfehlungen sind allerdings grundsätzlich überall da relevant, wo die Auswertung großer Datenmengen sowie algorithmische Entscheidungsprozesse zum Einsatz kommen.

?Künstliche-Intelligenz-Index, Jahresbericht 2017 (PDF)

(Artificial Intelligence Index 2017) November 2017, Stanford University et al.

Maschinen haben den Menschen in Sachen Intelligenz schon fast überflügelt – dieser Eindruck entsteht leicht, verfolgt man selektiv die Meldungen der Mainstream-Technologiemedien. Einige führende Wissenschaftler im Bereich künstlicher Intelligenz (KI), darunter der bekannte Buchautor und Forscher am Massachusetts Institute of Technology (MIT), Erik Brynjolfsson, rücken mit ihrem aktuellen Jahresbericht zum Thema das Bild gerade: Zwar habe es zuletzt deutliche Fortschritte gegeben. Bis zur Verwirklichung sogenannter “starker künstlicher Intelligenz” (“Artificial General Intelligence”) – einer bislang rein hypothetischen Form der KI, die dem menschlichen Intellekt in nichts nachsteht – ist es aber noch ein langer Weg. Wer sich im Detail zum Stand der Dinge bei KI informieren möchte, dem empfehlen wir diesen rund 100-seitigen, mit vielen Graphiken versehenen Bericht. Alternativ finden Sie im MIT Technology Review eine sehr kurze Zusammenfassung.

?Die Unmöglichkeit der plötzlichen Intelligenzexplosion

(The impossibility of intelligence explosion) 27. November 2017, Medium

Der viel beschworene Augenblick der plötzlichen “Intelligenzexplosion” von Maschinen spaltet die Diskussion über die Entwicklung von KI – die einen schwärmen von dem Moment, an dem Maschinen sich eigenständig weiterentwickeln können (technische Singularität), während eben jene Vorstellung manch anderen tiefe Sorgenfalten ins Gesicht treibt. Eine dritte Möglichkeit ist bei dieser Polarisierung etwas in Vergessenheit geraten: Vielleicht wird es keine Intelligenzexplosion in der von Kurzweil & Co. erwarteten Form geben. So argumentiert François Chollet, KI-Forscher bei Google, in diesem zum Nachdenken anregenden Essay. Intelligenz sei stark situationsabhängig und vor allem das kollektive Resultat der Fähigkeiten und Erfahrungen einer großen Zahl an denkenden Individuen. Dass eine KI die Menschheit hinsichtlich ihres Intelligenzniveaus schlagartig überflügeln könnte, sei laut Chollet daher auszuschließen. Wieso es problematisch ist, wenn Begriffe wie „Intelligenz” aus dem gewohnten menschlichen Kontext auf Computer übertragen werden, erläuterte der australische Roboteringenieur Rodney Brooks jüngst auch in einem lesenswerten Text.

?Google Translate und die Geschlechterrollen

Tweet von Alex Shams (@seyyedreza) 27. November 2017  

Technologien zur automatisierten Übersetzung von Sprachen verstetigen stereotypische Geschlechterrollen. Zu dieser Erkenntnis kam eine Stanford-Studie im Jahr 2012. Hat sich die Situation seitdem verbessert? Offensichtlich nicht. In einer Sammlung von Tweets macht der iranisch-amerikanische Doktorand Alex Shams darauf aufmerksam, dass Googles Übersetzungsdienst Sätze aus der geschlechtsneutralen türkischen Sprache in der englischsprachigen Fassung mit geschlechtsspezifischen Artikeln versieht. Google Translate übersetzt: „She is a nurse“ und „He is a doctor“. Die Technologie zur Maschinenübersetzung basiere auf der Häufigkeit verwendeter Phrasen. In der Folge würden kulturelle Stereotypen von Algorithmen am Leben erhalten und verstärkt, so Shams. Übrigens: Microsofts Konkurrenzprodukt Bing Translator produziert bei den aufgeführten Phrasen ganz ähnliche Resultate.

?KI kreiert neue Formen von Videospielen

(AI Is Dreaming Up New Kinds Of Video Games) 29. November 2017, MIT Technology Review

Falls diese Ausgabe von “Erlesenes” den Eindruck vermittelt, dass die Fähigkeiten von KI heutzutage eher überschätzt werden, dann bieten wir hier den Gegenbeweis: Der freie Journalist Simon Parkin berichtet über eine an der britischen Falmouth University entwickelte Software mit dem Namen „Angelina“, die vollkommen eigenständig Videospiele kreiert. In den vergangenen sechs Jahren habe sie hunderte Titel geschaffen. Wer noch immer davon ausgeht, dass Kreativität eine Domäne des Menschen bleibt, wird hier eines Besseren belehrt. Wir haben Angelinas Spiele allerdings nicht gespielt. Von der Qualität der Spiele können Sie sich daher hier ein eigenes Bild machen.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: carla.hustedt@bertelsmann-stiftung.de

Sie können die Algorithmenethik Lektüreempfehlungen “Erlesenes” hier abonnieren. Selbstverständlich können Sie “Erlesenes” weiterempfehlen und an interessierte Menschen weiterleiten. Wir würden uns freuen.