Meinungsbeitrag: Warum wir ein CERN für KI brauchen

Der kürzlich verstorbene theoretische Physiker und Visionär Stephen Hawking war nicht nur ein führender Wissenschaftler bei der Erforschung von schwarzen Löchern, der Quantenmechanik und Kosmologie, er hatte auch feste Überzeugungen zu Künstlicher Intelligenz (KI). KI, so warnte er, könnte „das Beste oder das Schlimmste werden, das der Menschheit jemals widerfahren ist. Wir wissen nur noch nicht, welches von beidem zutrifft.”  Hawkings Angst bestand nicht nur in der Überzeugung, dass KI weit mehr Arbeitsplätze zerstört, als sie entstehen lässt, sondern darin, dass durch “maschinelles LernenMachine Learning Ein Teilbereich der KI, bei dem Systeme aus Daten lernen und sich verbessern, ohne explizit programmiert zu werden.” eines Tages auch „ein eigener Wille entwickelt wird, der mit dem menschlichen Willen in Konflikt steht und uns zerstören könnte.“

Auch wenn andere hochrangige Wissenschaftler diese pessimistischen Einschätzungen nicht teilen, so bleibt im Zusammenhang mit KI eine ganz andere Gefahr: Die Gefahr, dass wir die Kraft dieser Technologie nicht optimal nutzen und somit ihr volles Potenzial nicht ausschöpfen. Eine Reihe führender Wissenschaftler kommt zu dem Schluss, dass den anhaltend ungleich verteilten Anstrengungen in der KI-Forschung – von China über Israel und Deutschland bis zum Silicon Valley, aus großen Unternehmenslaboren oder kleinen Universitäten heraus – eine Vision fehlt, die der Menschheit auf angemessene Weise dienen könnte. Ein Großteil der Forschung konzentriert sich auf eng begrenzte Aufgabenstellungen, wie die Maximierung von Werbeeinnahmen, und ist daher kein Impulsgeber für die Bewältigung der größten globalen Herausforderungen.

Die Wirkung der bekanntesten Anwendung von KI, die Algorithmen von Facebook, verdient eine nähere Betrachtung: Facebook überwacht unser Onlineverhalten, um personenbezogene Daten zu sammeln und so für jeden, der auf der Plattform registriert ist, ein Nutzerprofil zu erstellen. Das Ziel ist es, immer genauere, automatisierte Vorhersagen darüber zu treffen, für welche Werbung wir am anfälligsten sind. Anspruchsvolle Psychologie und „psychografisches Messaging” sind am Werk und erschaffen das, was der erste Präsident des Unternehmens, Sean Parker, kürzlich eine „durch soziales Verhalten begründete Feedbackschleife” nannte. Diese Architektur wurde durch Organisationen wie Cambridge Analytica und, angeblich, russische Cyberagenten dahingehend manipuliert, Fake News zu verbreiten und 2016 die Präsidentschaftswahl in den USA zu beeinflussen. Facebooks algorithmische Verfahren mögen in Bezug auf ihre Reichweite und Einfluss zwar beeindruckend sein, doch sie führen zu Verzerrungen und verleihen KI einen schlechten Ruf, anstatt aufzuzeigen, wie die Technologie der Menschheit dienen könnte.

Auch Google wurde beschuldigt, Nutzer mit seinen Algorithmen manipuliert zu haben, ob nun über YouTube oder seine Suchmaschine. Die Europäische Kommission verurteilte das Unternehmen zu 2,4 Mrd. Euro aufgrund der Manipulation von Suchergebnissen zugunsten bestimmter Unternehmen. Amazon wurde vorgeworfen, die Algorithmen für unlautere Preisabsprachen während des Hurrikans Irma zu nutzen und die Deals mit den niedrigsten Preisen zugunsten der eigenen Produkte vor den Kunden zu verbergen.

In den genannten Fällen wird die Macht der Algorithmen für sehr fragwürdige Ziele eingesetzt und kann tendenziell unvorhergesehene Folgen haben. Ihr Einsatz ist undurchsichtig und die Erklärungen des Unternehmens sorgen für wenig Transparenz. Die öffentliche Meinung in Bezug auf Algorithmen verschlechtert sich, zudem sind Experten zunehmend besorgt, dass die für KI-Algorithmen verwendeten riesigen Datensätze und das zur Datenauswertung notwendige maschinelle Lernen immer undurchsichtiger werden. Viktor Mayer-Schönberger, Professor an der Oxford University und Mitverfasser von Big Data: Die Revolution, die unser Leben verändern wird, schreibt: “Die Algorithmen und dahinterliegenden Datensätze werden zu Black Boxes, die uns „keinerlei Rechenschaftspflicht, Nachvollziehbarkeit oder Vertrauen” vermitteln. In der Vergangenheit konnten die meisten Computer-Codes entschlüsselt und untersucht werden, dadurch wurden sie transparent. Aber mit der KI und ihren riesigen Datenmengen wird diese Nachvollziehbarkeit sehr viel schwieriger.

Vertreter von Facebook und Google geben zwar vor, Maßnahmen gegen Manipulation und Missbrauch ihrer algorithmischen Systeme anzuwenden, doch selbst wenn diese Vorhaben gelingen sollten, so versuchen diese Unternehmen nach wie vor, sehr enggesteckte, vorrangig kommerziell orientierte Herausforderungen zu lösen. So wird beispielsweise Werbung optimiert oder versucht, die User so lange wie möglich auf ihrer Plattform zu halten. Riesige Internethändler wie Amazon nutzen prädiktive Analysenalgorithmen um vorherzusagen, was sich der User als nächstes kaufen könnte, sowie zur Bereitstellung von Rabatten und Coupons, die Konsumanreize geben sollen. Auf YouTube und anderen Unterhaltungswebseiten werden über Algorithmen Musik- und Filmempfehlungen bereitgestellt. Sicherlich halten weite Teile der Öffentlichkeit diesen Service tatsächlich für nützlich. Allerdings wird sehr viel Energie für die Erforschung und Produktentwicklung von KI für Dinge aufgewendet, die weder maßgebliche Akzente setzen, noch kommt deren Anwendung in großem Maße dem Gemeinwohl zugute. Der derzeitige Einsatz von KI wird der Menschheit nicht dabei helfen, die großen Herausforderungen des 21. Jahrhunderts zu meistern.

Zwar wird KI zunehmend für wichtige Ziele eingesetzt, wie beispielsweise medizinische Diagnosen, die vom maschinellen Lernen und seiner sehr leistungsstarken Mustererkennung profitiert. So hat das Unternehmen IBM mit der Nutzung künstlicher Intelligenz experimentiert, um Chinas Smogprobleme zu lindern. Das Feld der KI profitiert von kleinsten Erkenntnisbausteinen auf faszinierenden Gebieten, wie beispielsweise der Spracherkennung, der Bildklassifizierung, dem autonomen Fahren, der zweibeinigen Fortbewegung und der Frage-Antwort-Systeme. Doch angesichts der großen und komplexen globalen Themen der Menschheit, handelt es sich hier nach wie vor um relativ kleine, begrenzte Projekte.

Dr. Gary Marcus, Forscher und Professor für Psychologie und Neurowissenschaft an der Universität New York, meint, es konzentrierten sich nicht nur große Teile der KI auf wenig ambitionierte Ziele, auch scheitere die Technologie weiterhin an der realen Welt. Einige der besten Bilderkennungssysteme können beispielsweise erfolgreich Hunderassen unterscheiden, und sind dennoch zu „groben Fehlern fähig, und halten ein einfaches Muster aus gelben und schwarzen Streifen für einen Schulbus”. „Weder verstehen solche Systeme, was in komplexen visuellen Szenen vorgeht („Wer jagt wen und warum?“), noch können sie einfache Anweisungen befolgen („Lies diese Geschichte und fasse sie zusammen.“).”

Bei Google Translate werden beispielsweise Übersetzungen durch das statistische Zuordnen von Sätzen in unterschiedlichen Sprachen einander angeglichen. Das System kann jedoch nicht verstehen, was es da gerade übersetzt. Stattdessen, ist Dr. Marcus der Ansicht, dass solche KI-Systeme sehr begrenzt sind und bezeichnet sie als „tendenziell passive Behälter, die sich auf der Suche nach statistischen Korrelationen durch die Daten graben”.

Professor Michael Feindt, Gründer des Softwareunternehmens Blue Yonder, ist zwar der Meinung, maschinelles Lernen sei auf dem Vormarsch, aber bis wir eine wahre künstliche Intelligenz erreichen, sei es noch ein langer Weg. „Von einer Maschine, die nach unserem Verständnis im weitesten Sinne des Wortes „intelligent” ist, sind wir noch weit entfernt”, erklärt er. „Auch die besten Algorithmen denken nicht, fühlen nicht und leben nicht, sie haben kein Selbstbewusstsein und keinen freien Willen.”

KI-Forschungsmethoden: Enger Fokus und isoliertes Denken

Für Dr. Marcus wird das Thema der KI überhöht. Für den Wissenschaftler und Gründer des Start-up Geometric Intelligence besteht das schmutzige kleine Geheimnis darin, „dass die KI noch einen sehr sehr weiten Weg vor sich hat.” Das Problem liege darin, dass KI-Forschung unzureichend sei. Es gäbe zwei grundlegende Ansätze. Einer wird in größeren Labors der Privatindustrie, der andere in den Labors der Universitätsforschung genutzt. Keiner von beiden sei so gut positioniert, dass er wirklich bahnbrechenden Forschung hervorbringen kann, so Marcus.

Universitätslabore sind häufig zu klein. Die Entwicklung von automatischer Maschinenmessung als Grundlage für den Aufbau eines jeden wirklich intelligenten Systems erfordert Expertise in unterschiedlichen Teilbereichen der KI. Dies bedeute für jedes einzelne Universitätslabor „eine lebenslange Forschungsarbeit“, sagt Marcus. Ein Labor alleine kann eine solche Aufgabenstellung schlichtweg nicht meistern.

Andererseits stehen Unternehmenslabore wie jenen bei Google und Facebook beträchtlich mehr Ressourcen zur Verfügung, jedoch liegt deren eng fokussierte gewinnorientierte Ausrichtung tendenziell auf automatisierter Werbung oder dem Content Monitoring. Obwohl diese Art von Forschung auch ihre Berechtigung hat, werden die Ergebnisse wohl kaum zu bahnbrechenden Erkenntnissen führen.

Dr. Philipp Slusallek, wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), sagt, dass die meisten Aktivitäten im Bereich der KI “größtenteils unabhängig voneinander erfolgen, isoliert durch Gruppen, die ihre eigenen Methoden, Infrastrukturen und Datensätze entwerfen. Es gibt derzeit weder einen systematischen Ansatz, noch eine gemeinsame Plattform, um diese unterschiedlichen Teilbereiche zusammenzubringen.”

Die beschriebene Komplexität wird dadurch verstärkt, dass der Wettbewerb zwischen unterschiedlichen Staaten einem modernen Wettrüsten gleicht. Dies wiederum bestimmt mittlerweile die ParameterParameter Werte in einem KI-Modell, die während des Trainings angepasst werden und die Leistung des Modells bestimmen. der KI-Forschung. Wie seinerzeit im Kalten Krieg hüten sowohl Privatwirtschaft als auch öffentlicher Sektor, die Forschung wie ihren Augapfel. Sie gilt als Handelsvorteil des jeweiligen Staates und wird teilweise sogar in den Rang nationaler Sicherheit und Militärgeheimnisse erhoben. Somit ist die Forschung in bestimmten Ländern und privaten Unternehmen höchst nebulös und daher schwierig zu verfolgen. Die momentane Form der Beschäftigung mit der KI birgt das Risiko, dass globale Ungerechtigkeiten reproduziert und Spannungen zwischen Großmächten verschärft werden.

Die USA sind weiterhin Weltmarktführer, doch andere Länder, insbesondere China, holen auf. Was China genau für die KI aufwendet, ist schwer zu schätzen, denn die dortigen Behörden veröffentlichen diesbezüglich nur wenige Zahlen. Eine Datenauswertung für das in London erscheinende Magazin Times Higher Education hat ergeben, dass in China derzeit nahezu doppelt so viele Dokumente in Bezug auf die künstliche Intelligenz veröffentlicht werden, als in den USA. Japan steht diesbezüglich an dritter und Großbritannien an vierter Stelle. China belegt allerdings lediglich Rang 34 in Bezug auf Zitierhäufigkeit. Daher ist zu vermuten, dass die meisten Dokumente nicht denselben hohen Qualitätsstandards entsprechen wie jene, die aus den USA oder vielen anderen Ländern stammen. Die nordamerikanischen Universitäten, allen voran das MIT und Carnegie Mellon, waren bei der Zahl der Zitierungen weltweit führend. Auch bei der Finanzierung der KI-Entwicklung holt China auf. Im privaten Sektor investiert das chinesische Unternehmen Alibaba allein $15 Milliarden für die KI-Forschung und das Quantencomputing – ein Betrag, der die Ausgaben der meisten Regierungen, einschließlich der vor Kurzem angekündigten €1,5-Milliardeninitiative der Europäischen Kommission, in den Schatten stellt.

Obwohl die chinesischen Forschungstätigkeiten in den letzten Jahren sprunghaft zugenommen haben, werden sie doch von Kräften der nationalen Sicherheit und ihrer kommerziellen Ausrichtung bestimmt. Sie sind weiterhin als Black Box zu betrachten. Neueste Entwicklungen der Gesichtserkennungssoftware, allgegenwärtige Bewertungsalgorithmen und weitere Technologien zementieren ein “Social Credit System” mit besorgniserregendem Potenzial für den Aufbau hoher Standards in der Überwachung von Konsumenten und sozialer Kontrolle. Idealerweise sollte die Entwicklung der KI nicht national abgeschottet stattfinden, sondern eher zum Nutzen der gesamten Menschheit eingesetzt werden.

Wettbewerb oder Zusammenarbeit: Ein CERN für KI?

Angesichts der Einschränkungen in der aktuellen Forschungslandschaft gelangen Wissenschaftler sowie politische Akteure zunehmend zu dem Schluss, dass eher kollaborative und internationale Anstrengungen notwendig sind, um die Macht der KI wirklich nutzen zu können und zu gewährleisten, dass sie für gemeinnützige Zwecke eingesetzt wird. Im Juni 2017 nahmen KI-Experten, politische Entscheidungsträger und führende Unternehmen an dem dreitägigen Gipfel “AI for Good” zusammen mit Vertretern der Weltgesundheitsorganisation und zahlreichen Sonderorganisationen der Vereinten Nationen in Genf teil. Ein Forum für eine unabhängige und nichtkommerzielle Evaluierung der durch die KI-Forschung geschaffenen Möglichkeiten zum Vorteil für die gesamte Menschheit sollte etabliert werden. Die Teilnehmer diskutierten über die Möglichkeiten einer KI-Forschung, deren Fokus auf Entwicklungen liegt, die dem Gemeinwohl dienen – vom Abbau der Ungleichheit und Verbesserung der Umwelt bis hin zum Aufbau von Dienstleistungen für Schwellenländer, in denen die Menschen zunehmend Zugang zu Smartphones haben. Facebook erreicht mittlerweile beispielsweise nahezu 800 Millionen Nutzer in den Entwicklungsländern, in denen das Unternehmen seine App für Verbindungen mit niedriger Bandbreite und weniger teuren Android-Telefonen angepasst hat.

„Genau in diesem Punkt kann KI von anderen Disziplinen lernen”, sagt Slusallek. „Beispielsweise hat das Humangenomprojekt Forscher aus der ganzen Welt zusammengebracht, um gemeinsam und systematisch an der Humangenomforschung zu arbeiten. Als Ergebnis haben wir in nur wenigen Jahren große Fortschritte erzielt, was ohne diese koordinierten Anstrengungen unmöglich gewesen wäre.”

Auch Gary Marcus unterstreicht diese Beobachtung und bringt dabei sogar die Gründung einer Art CERN für KI ins Gespräch. Die Europäische Organisation für Kernforschung CERN, ist eines der weltweit größten und renommiertesten Zentren für Physik und Teilchenbeschleunigung. Tausende von Wissenschaftlern arbeiten hier auf internationaler Ebene zusammen und das Finanzierungskapital in Höhe von mehreren Milliarden Dollar wird von zahlreichen Ländern bereitgestellt. Vor dem Hintergrund dieses Modells fordern Wissenschaftler und Experten wie Marcus ein internationales Konsortium, das sich mit dem Ziel, dem Gemeinwohl zu dienen, auf die reine KI-Forschung konzentriert. Dies wäre eine enorme interdisziplinäre Anstrengung, die Wissenschaftler aus vielen unterschiedlichen Bereichen zusammenbringen würde, in enger Zusammenarbeit und Interaktion mit der Industrie, der Politik und der Öffentlichkeit. Ein wesentliches Element läge darin, die vielen Forschungsstränge in diesem Gebiet voranzubringen. Dies kann durch Diskussion über allgemeine Ansätze, Methoden, Algorithmen, Daten und deren Anwendungen geschehen und würde die elementare grundlegende Architektur für KI fördern, auf die andere, kleinere Projekte an Universitäten und privaten Laboren aufsetzen könnten. Ein sehr pragmatischer und praxisorientierter Vorschlag, der viele unterschiedliche Organisationen, Führungskräfte und Nationen zusammenbringen könnte.

Nach Ansicht von Slusallek sollte „die entsprechende integrierte Plattform so offen und flexibel wie möglich sein, damit sowohl die Forschung, als auch die Erprobung beschleunigt werden könnte”. Zugleich müsse der Transfer von Ergebnissen und Datensätzen zwischen Forschung und Industrie ermöglicht werden, damit sich kommerzielle Anwendungen und Ausgliederungen weiterentwickeln. „Neue Fähigkeiten sollten nicht hinter verschlossenen Türen, sondern vollkommen transparent, wenn möglich einschließlich Open Data Ansätzen, entwickelt werden,” erklärt er. „Der Fortschritt in der KI muss einen Nutzen für alle Menschen bringen, eine KI für den Menschen schaffen.”

Die Richtung, in die sich die KI-Forschung derzeit bewegt, ist jedoch eine ganz andere. Es gibt zwar einige kleinere interdisziplinäre Projekte in der KI, wie beispielsweise OpenAI von Elon Musk, allerdings sind dort lediglich 50 Mitarbeiter beschäftigt. Allgemein herrschen stattdessen die Paradigmen Geheimhaltung, Nicht-Kooperation und wirtschaftlicher Wettbewerb vor. Privatwirtschaft versus Öffentlichkeit, Nation versus Nation – bei diesem Rennen geht es nicht nur darum, die Architektur der digitalen Zukunft und der kommenden KI zu bestimmen, sondern es geht darum, wer zukünftig wirtschaftlich, wissenschaftlich, militärisch und auf der Ebene der nationalen Sicherheit die Kontrolle behält.

Anstelle eines Rennens um die KI-Vormachtstellung könnte eine Art CERN für KI eine Entwicklung von Forschung und Grundlagenarchitektur entstehen lassen, von der mehr Nationen und ihre Bevölkerungen profitieren könnten. Die Welt könnte sich zu gemeinsamer, internationaler Anstrengung für die Entwicklung dieser machtvollen KI-Technologien für die Menschheit einsetzen. Die Alternativen wären ein Handelskrieg – oder, sogar noch schlimmer, ein Rüstungswettlauf. In den letzten Jahren war ein Rückzug aus der Globalisierung hin zu eher nationalistischen Einstellungen und Strategien zu beobachten. Die Renaissance einer auf die KI konzentrierten Internationalität könnte genau das sein, was die Welt braucht.