Welche Aufgaben bleiben für Physiker, wenn Algorithmen die Datenberge bearbeiten? Wie könnte Künstliche Intelligenz (KI) riskantes Spielerverhalten erkennen? Und wieso muss man KI das Pizzabacken beibringen? Drei sehr unterschiedliche Perspektiven auf Algorithmenethik bieten wir diese Woche wieder im Erlesenes-Newsletter!

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an lajla.fetic@bertelsmann-stiftung.de zukommen lassen.

?Wie Algorithmen die Physik verändern

(How Artificial Intelligence Is Changing Science), 11. März 2019, Quanta Magazine

Heutige Experimente in Physik und Astronomie produzieren unglaubliche Datenmengen. Zu viele, als dass Wissenschaftler:innen alle denkbaren Erkenntnisse aus ihnen ziehen könnten. Vielen kommen die Möglichkeiten Künstlicher Intelligenz (KI) deshalb gelegen, berichtet der freie Wissenschaftsjournalist Dan Falk in diesem ausführlichen Artikel bei Quanta Magazine. Demnach verwenden Forscher:innen vermehrt Algorithmen, um sich durch enorme Datenberge zu arbeiten und um Anomalien und Muster zu entdecken, die Menschen entgangen wären. Einige sehen KI sogar als Wegbereiter für eine fundamental neue Art, Wissenschaft zu betreiben, so Falk. Andere seien kritischer: Sie betonen offene Fragen, zum Beispiel nach den Grenzen der Informationsgewinnung allein aus Daten, und sehen Schwächen der KI-getriebenen Forschung, z. B. in fehlender Kreativität. Der Idealfall wäre vielleicht, wenn Algorithmen die mühsame Basisarbeit erledigen würden und die Wissenschaftler:innen sich dann der “coolen, interessanten Forschung” zuwenden könnten, wie es ein im Artikel zitierter Physiker beschreibt.

?Expert:innen an EU-Kommission: Künstliche Intelligenz darf nicht zur Massenüberwachung genutzt werden

26. Juni 2019, Netzpolitik.org

Die EU-Kommission sollte „rote Linien“ für mögliche Anwendungen Künstlicher Intelligenz (KI) festlegen, empfehlen 52 Expert:innen in einem kürzlich veröffentlichten 48-seitigen Bericht. Die für Netzpolitik.org tätigen Journalisten Chris Köver und Alexander Fanta fassen die wichtigsten Aspekte der Arbeit zusammen. Sie merken an, dass die in diesem Bericht enthaltenen Empfehlungen zum Umgang mit KI deutlich stärker formuliert seien als jene in den ethischen Leitlinien der EU-Expert:innen, die bereits im April vorgestellt wurden (siehe Erlesenes #64). Die Fachleute stellen sich gegen eine „unverhältnismäßige und massenhafte Überwachung von Individuen“ mittels Gesichtserkennung und raten, dass Produkten mit KI, die das Leben von Menschen maßgeblich beeinflussen, eine verpflichtende Einschätzung zu den Auswirkungen vorausgehen sollte. Davor, KI-Systeme zu eigenen Personen im rechtlichen Sinn zu erklären, warnen die EU-Expert:innen explizit.

?Die Macht der Algorithmen – und die ihrer Macher

27. Juni 2019, NZZ

Eine personalisierte Lernsoftware, die alle Schüler:innen individuell auf ihrem Niveau fördert, sodass Überflieger:innen nicht mehr gelangweilt herumsitzen und langsamere Schüler:innen nicht frustriert aufgeben – mit diesem positiven Beispiel für eine praktische Anwendung von Algorithmen beginnt NZZ-Redakteur Matthias Sander seine Kurzrezension zweier Bücher, die sich differenziert mit dem Thema Künstliche Intelligenz und ihrem Einfluss auf die Gesellschaft beschäftigen, anstatt nur einseitig die Risiken zu beleuchten. Neben “Hello World” der britischen Mathematikerin Hannah Fry las Sander auch unseren Titel “Wir und die intelligenten Maschinen”, verfasst von Jörg Dräger und Ralph Müller-Eiselt. Als Erkenntnisse nennt Sander in seinem Text unter anderen den von unserem Autorenduo verwendeten “Algorithmus der Algorithmen” zur Identifizierung von gesellschaftsrelevanten Anwendungen Künstlicher Intelligenz sowie die Forderung nach einem “Vermummungsverbot für Algorithmen”.

?Casinos nutzen KI, um risikofreudige Spieler:innen zu identifizieren 

(China’s Big Brother Casinos Can Spot Who’s Most Likely to Lose Big), 25. Juni 2019, Bloomberg

Menschen, die beim Kartenglücksspiel Bakkarat besonders riskante Wetten eingehen, verlieren statistisch gesehen überdurchschnittlich viel Geld und sind somit für Casinos eine besonders gute Einnahmequelle. Mithilfe von Gesichtserkennung, Sensoren und Künstlicher Intelligenz wollen Betreiberunternehmen nun entsprechende Personen frühzeitig identifizieren – um sie zum längeren Verweilen anzuregen, etwa durch eine spontan angebotene kostenfreie Mahlzeit. Über diesen ethisch brisanten Trend schreibt Jinshan Hong, Wirtschaftsreporterin bei Bloomberg. Verschiedene Spielcasinos in der chinesischen Sonderverwaltungszone Macau würden entsprechende Technologie bereits einsetzen, andere eruieren sie laut Hong zumindest. Die Verfahren überwachen Besucher:innen der Casinos und erstellen ausgehend von ihrem Spielverhalten Profile über ihre individuelle Risikobereitschaft. Die simple statistische Kalkulation: Je größer der Appetit auf riskante Wetten und Züge, desto profitabler für den Betreiber.

?Wieso man einer künstlichen Intelligenz das Pizzabacken beibringt

(MIT built a neural network to understand pizza), 18. Juni 2019, The Next Web

Erst die Sauce, dann der Käse, dann weitere Zutaten – so belegen Profis eine Pizza. Für uns Menschen ist dieser Prozess nicht sonderlich kompliziert. Nun soll auch eine Künstliche Intelligenz (KI) dieses Verständnis entwickeln. Tristan Greene, Reporter bei The Next Web, berichtet über einen Algorithmus von Forscher:innen des MIT Massachusetts Institute of Technology sowie des Qatar Computing Research Institute, der beim Blick auf ein Foto einer fertigen Pizza dessen Zutaten erkennen könne. Er sei auch in der Lage, nachzuvollziehen, in welcher Reihenfolge die Pizza vor dem Backen belegt werden müsse, sowie ein neues Bild zu generieren, bei dem eine spezifische Ingredienz entfernt wurde. Der Einsatz des zugrunde liegenden KI-Modells wäre zukünftig auch für andere Speisen denkbar, schreibt Greene. Er fände es zudem spannend, zu sehen, ob das Verfahren für gänzlich andere Disziplinen anwendbar wäre, etwa die Kombination von Kleidungsstücken.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: lajla.fetic@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren.