Verbraucher:innenprodukte: Der Sog der Daten

Früher war Technik ein Ort der Freude für Shannon Vallor, Professorin für Datenethik und KI. Im Gastbeitrag kritisiert sie, dass viele Produkte heute hauptsächlich dafür da sind, einen gewinnbringenden Datenstrom für die Firmen zu produzieren.

Neulich* scrollte ich abends daheim durch meinen stets mit neuesten technischen Nachrichten gefüllten Twitter-Feed. Dafür sorgen mein Beruf als Philosophin und meine Beschäftigung mit Künstlicher Intelligenz (KI). Als ich darüber nachdachte, was ich mir zuletzt angesehen hatte, machte sich in meiner Magengrube ein flaues Gefühl breit.

„Das Traurigste an der Abwärtsspirale moderner Technik zu Nutzermanipulation und -überwachung ist, wie sie einfach langsam die Freude von Menschen wie mir an neuen Technologien getötet hat.“

Shannon Vallor

Ich hatte beispielsweise über die ästhetische Armut des jüngsten Vorschlags für Metas Horizon–Worlds-VR-Spiel geblinzelt. Es zeigt Mark Zuckerbergs totäugigen Cartoon-Avatar vor einem visuellen Hintergrund. Ich hatte mit den Zähnen geknirscht, als ich einen Screenshot des Text-zu-Bild-Modells von Stable Diffusion ansah, das KI-Kunstwerke im Stil Dutzender menschlicher Künstler anbot. Ihre kollektive Arbeit war in die Trainingsdaten des Modells geflossen, zermahlen und wieder ausgespuckt worden – ohne dass sie dafür bezahlt worden waren.

Ich identifizierte das flaue Gefühl im Magen: Es war Resignation. Das Feststecken an einem Ort, an dem man nicht sein möchte, den man aber nicht verlassen kann. Technik war früher ein Ort der Freude für mich. Ich hatte mein ganzes Leben lang Technik studiert, um diese Art von Gefühl zu vermeiden. Nun kanalisierte ich meine Emotionen in Tweets:

„Das Traurigste an der Abwärtsspirale moderner Technik zu Nutzermanipulation und -überwachung ist, wie sie einfach langsam die Freude von Menschen wie mir an neuen Technologien getötet hat.“

„Früher war das Gegenteil der Fall. Technik gehörte zu den Dingen, die ich am meisten liebte. Ich erinnere mich immer noch an das Gefühl, als ich das erste Mal in einem BART-Zug in San Francisco fuhr. Als ich meine erste Concorde sah, explodierte mein kleines Herz. Mein Commodore PET. Als Technik zum letzten Mal Freude bei mir auslöste, waren es diese Herrlichkeiten.“

„Was wird nötig sein, um dieses Gefühl zurückzubekommen? Ich glaube nicht, dass es nur meine Nostalgie ist, oder? Die Tech-Unternehmen versprechen uns nichts mehr, was wir wirklich brauchen oder wonach wir gefragt haben. Sondern immer mehr Überwachung, mehr Nudging, mehr Absaugen unserer Daten, unserer Zeit und unserer Freude.“

Ich traf einen Nerv. Eine Menge Leute saßen offenbar mit dem gleichen schweren Gefühl im Magen da. Etwas fehlt in unserem Leben und in unserer Technologie. Dieses Fehlen nährt ein wachsendes Unbehagen, das nicht nur viele Menschen äußern, die in der Technologiebranche arbeiten oder dafür studieren. Es treibt auch eine neue Generation von Doktoranden und Postdoktoranden an, mit denen ich an der Universität von Edinburgh zusammenarbeite. Sie bringen Wissen aus allen technischen, naturwissenschaftlichen und geisteswissenschaftlichen Disziplinen zusammen, um herauszufinden, was in unserem Tech-Ökosystem schiefgelaufen ist und wie man es reparieren kann. Um das zu schaffen, müssen wir allerdings zuerst verstehen, wie und warum sich die Prioritäten in diesem Ökosystem verändert haben.

Früher war das technische Entwicklungsziel für Verbraucherprodukte einfach: etwas von Wert zu schaffen, das den Menschen einen Grund gab, es zu kaufen. Ein neuer Kühlschrank glänzt, senkt meine Energierechnung und macht tolle Eiswürfel. Also kaufe ich ihn. Ein Roomba verspricht, die Katzenhaare unter meinem Sofa aufzusaugen, während ich ein Nickerchen mache. Gekauft!

Unternehmen begnügen sich nicht mehr mit einzelnen Transaktionen, wenn sie stattdessen Produkte entwickeln können, die von jedem Käufer einen auf Jahre hinaus gewinnbringenden Datenstrom erzeugen.

Shannon Vallor

Aber diese Vorstellung von Technik ist zunehmend überholt. Heutige Kühlschränke halten nicht mehr nur Lebensmittel kühl. Nun haben sie Kameras und Sensoren, die überwachen können, wie und was ich esse, während der Roomba jetzt eine Karte meines Hauses an Amazon senden kann. Das Problem geht weit über die offensichtlichen Risiken für die Privatsphäre hinaus. Das gesamte Innovationsmodell und seine Anreize haben sich grundlegend verändert.

Unternehmen begnügen sich nicht mehr mit einzelnen Transaktionen, wenn sie stattdessen Produkte entwickeln können, die von jedem Käufer einen auf Jahre hinaus gewinnbringenden Datenstrom erzeugen. Diesen schützen die Firmen um jeden Preis – zum Nachteil ihrer Kunden. Wenn sie nur genügend Marktanteile kaufen, können sie es sich leisten, den Ärger und die Frustration ihrer Kunden zu ertragen. Fragen Sie Mark Zuckerberg.

Diesen Wandel haben nicht nur Consumer-Tech- und Social-Media-Plattformen vollzogen. Auch die früher beliebte Agrartechnikmarke John Deere kämpft inzwischen gegen eine „Recht auf Reparatur“- Bewegung. Die Bewegung wurde von Landwirten gestartet, die sich darüber ärgern, dass sie ihre Maschinen nicht selbst reparieren dürfen. Denn das könnte die proprietäre Software stören, die Daten über das Land und die Ernten der Landwirte an den Hersteller zurücksendet.

Wie mehrere Kommentare zu meinem Twitter-Thread anmerkten, sind wir inzwischen der Inhalt und nicht länger Hauptnutznießer von Technik. Parallel dazu hat sich verschoben, für wen technische Innovationen heute gedacht sind. So großartig die Raspberry Pis, Open-Source-Software-Tools und programmierbaren Roboter auch für diejenigen sind, die Zeit, Fähigkeiten und Interesse daran haben, so sind sie letztlich doch nur für ein kleines Publikum gemacht.

Ingenieurwesen und Erfindungen waren einst darauf ausgerichtet, eine lebenswertere Infrastruktur zu erschaffen. Lebenswichtige Infrastrukturen wie Straßen, Stromnetze, Abwasserkanäle und Verkehrssysteme waren ein zentraler Bestandteil des Ingenieurwesens in den USA. Heute betrachten wir sie als eine Last für den Steuerzahler. Unsere besten Köpfe und Ressourcen werden stattdessen in datenhungrige Verbrauchergeräte und Apps gesteckt.

Angesichts von acht Milliarden Menschen, die am Rande der globalen Umweltzerstörung stehen, können wir uns keine Welt leisten, in der die Hauptaufgabe neuer Technologien darin zu bestehen scheint, „das Geld zu nehmen und zu verschwinden“. Wenn wir uns weiterhin von menschendienlichen Technologien abwenden, riskieren wir eine unkontrollierbare Rückkopplungsschleife: eine, die unseren kollektiven Willen in den Ausbau dieser Technologien schwächt.

* Der Text ist in der „MIT Technology Review – Das Magazin für Innovation von Heise“ in der Ausgabe 8/2022 von November 2022 erschienen und in der englischen Langfassung bei MIT Technology Review im Oktober 2022 veröffentlicht.