Anlässlich der Europawahl am 9. Juni haben wir heute eine Fokusausgabe zusammengestellt, die sich mit dem Themenkomplex Künstliche Intelligenz (KI) im Kontext von Wahlen beschäftigt. Viel wird über das Thema gesprochen und eine reißerische Überschrift jagt die nächste. Ist es aber wirklich so schlimm? Welche Rolle spielt KI in der Praxis – etwa im Globalen Süden, im deutschen Wahlkampf oder bei den kommenden US-Wahlen? Wirken sich Ängste über die Auswirkungen von KI nachteiliger aus als die tatsächlichen Effekte des KI-Einsatzes? Außerdem: ChatGPT goes Wahl-O-Mat!?
Eins ist sicher: Demokratie ist keine Selbstverständlichkeit. Geht wählen und verteidigt sie!
Viel Spaß beim Lesen wünschen
Elena und Teresa
P.S. Sie wollen Erlesenes alle zwei Wochen als Newsletter im Postfach haben? Hier geht es zum Abo: https://www.reframetech.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de, bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl oder bei Bluesky unter @reframetech.bsky.social.
Unbekanntes Terrain: KI im Einsatz bei globalen Wahlen
‘Uncharted terrain’: How officials, campaigners and fact-checkers tackle AI’s influence on elections around the world, Politico, 21.5.2024
Mehr als zwei Milliarden Wahlberechtigte weltweit werden dieses Jahr zu den Wahlurnen gerufen. Überall scheint die Nutzung von KI – von Deepfakes bis zu Empfehlungssystemen in sozialen Medien – eine Herausforderung für demokratische Wahlen darzustellen. Während viele den Blick auf den Westen richten, sind es die Länder des Globalen Südens – die sogenannte „globale Mehrheit“ – wo sich KI mit wenig regulatorischer Aufsicht oder gar keiner am schnellsten durchgesetzt hat. Die Geschichten dreier Frauen aus Südafrika, Pakistan und Argentinien zeigen diese Herausforderungen aus unterschiedlicher Perspektive. Im jüngsten Wahlkampf in Pakistan war etwa die Wahlaufforderung von Imran Khan, der u. a. wegen der Weitergabe von Staatsgeheimnissen hinter Gittern sitzt, sehr erfolgreich. Diese Aufforderung erfolgte allerdings über teils KI-generierte Videos. Besonders gefährlich, vor allem für marginalisierte Gruppen, waren die Fälle, bei denen mehrere Frauen mit sexualisierten Deepfakes auf sozialen Medien angegriffen wurden. Ob aus regulatorischer, aktivistischer oder aus Sicht der Faktenprüfung: Alle Akteurinnen wollen den Missbrauch durch KI-Systeme verhindern, gleichzeitig aber auch deren Potenzial nutzen. Eine schwierige Gratwanderung, bei der Wichtiges auf dem Spiel steht: die demokratischen Prozesse.
Im Zeitalter der KI: Ruhe bewahren und wählen gehen!
How Rest of World is tracking AI use around elections worldwide, Reuters Institute, 13.5.2024
Nach dem Boom von KI-Tools wie ChatGPT und KI-Bildgeneratoren gibt es viele Diskussionen darüber, wie diese Technologien in Wahlkampagnen genutzt oder missbraucht werden können. Das Onlinemagazin „Rest of World“ hat das Projekt 2024 AI Elections Tracker ins Leben gerufen, um konkrete Beispiele für den Einsatz von KI bei Wahlen zu erfassen und damit über die rein theoretischen Bedenken hinauszugehen und Evidenz zu schaffen. Journalist:innen unterschiedlichster Landessprachen, die ihren jeweiligen lokalen Kontext kennen, werden beteiligt, um der Vielfalt der Inhalte gerecht zu werden. KI-generierte Inhalte werden von Expert:innen verifiziert und einem lokalen Faktencheck unterzogen. Entstanden ist eine Datenbank von weltweiten Beispielen, die laufend aktualisiert wird. Wie steht es nun um KI im Kontext von Wahlen? Der Journalist Mark Scott wagt ein erstes Fazit: Obwohl Deepfakes und andere KI-generierte Unwahrheiten häufiger auftreten, hat dies noch nicht unbedingt für grundlegenden Änderungen gesorgt. Bei Wahlen werden leider oft Lügen über soziale Medien verbreitet, mit oder ohne KI. Sein Ratschlag: bezüglich der diesjährigen Wahlen ist es, am besten wachsam zu bleiben, ohne sich vom Hype um KI mitreißen zu lassen.
Verzerrte Realitäten: die dunkle Seite der Wahlen
Germany’s Far-Right Party Is Running Hateful Ads on Facebook and Instagram, WIRED, 28.5.2024
Besorgniserregend im Vorfeld der Europawahlen ist der Einsatz von KI zur Manipulation von Bildern und zur Verbreitung von rassistischen Botschaften. In einem aktuellen Bericht von WIRED wurde aufgedeckt, dass die rechtspopulistische und in Teilen rechtsextreme Partei Alternative für Deutschland (AfD) weiterhin KI-generierte Werbeanzeigen auf Facebook und Instagram schaltet. Die gemeinnützige Organisation Ekō identifizierte mindestens drei Anzeigen, bei denen offenbar generative KI zur Bildmanipulation eingesetzt wurde, um Desinformation zu verstärken. Diese Anzeigen verstoßen damit auch gegen die Richtlinien von Meta – dem Unternehmen hinter Facebook und Instagram – in Bezug auf Hassrede. Meta entgegnete, dass es Maßnahmen ergreife, um die Verbreitung von Hassrede und gefälschten Inhalten zu bekämpfen. Expert:innen bekräftigen, dass gerade bei der Erkennung von KI-generierten Inhalten die Herausforderungen groß sind, und sehen es als einen Beweis dafür, dass Eigenverantwortung nicht ausreicht und Unternehmen in die Verantwortung gezogen werden müssen. Die EU gab bereits bekannt, dass sie gegen Meta wegen unzureichender Maßnahmen zur Bekämpfung von Desinformation im Zusammenhang mit Wahlen ermittelt.
Testergebnis Wahlberatung? Durchgefallen
Erfundene Kandidaten und Schweigen: Wie Chatbots in Politikfragen vor der EU-Wahl versagen, Correctiv, 8.5.2024
Wie wäre es mit einer Wahlberatung durch KI-Chatbots? Ein aktuelles Experiment von Correctiv, einer gemeinnützige Organisation zur Unterstützung von investigativem Journalismus, hat bloßgelegt, wie drei bekannte Chatbots – Googles Gemini, Microsofts Copilot und OpenAIs ChatGPT – bei der Beantwortung politischer Fragen zur EU-Wahl versagen. Googles Chatbot kann die einfache Frage zum Wahltermin nicht beantworten. Microsofts Copilot kennt die Spitzenkandidat:innen der Parteien nicht und ChatGPT „halluziniert“ sogar regelrecht und „erfindet“ Fakten, indem es z. B. erfundene Telegram-Kanäle als Informationsquellen vorschlägt. Diese „Halluzinationen“ sind eine große Schwäche dieser KI-Modelle; dazu kommen auch sprachenabhängige Unterschiede (Erlesenes berichtete). Ob China demokratisch ist, sei demnach bloß eine Frage der Spracheingabe und Definition. Die Erkenntnisse verstärken die Forderung nach Systemen, die in der EU entwickelt wurden, und nach einer wirkungsvolleren Regulierung. Mit einer gesunden Skepsis ist man gut beraten: denn für politische Informationen sind Chatbots aktuell eine denkbar schlechte Quelle.
KI, Wahlen und Missverständnisse
Misunderstood mechanics: How AI, TikTok, and the liar’s dividend might affect the 2024 elections, Brookings, 22.1.2024
Zuallerletzt werfen wir einen Blick Richtung USA. Dort haben sich zwei Lager herausgebildet: Eines warnt vor einer Flut von Desinformation, besonders in den sozialen Medien, während das andere die Ängste als übertrieben ansieht und darauf verweist, dass Desinformation nur begrenzte Auswirkungen haben dürfte. Welche Sichtweise ist nun die richtige? Beide könnten teilweise korrekt sein. Obwohl Desinformationen einen kleinen Teil des täglichen Medienkonsums ausmachen und eine fragmentierte Nutzer:innengruppe erreichen, können KI-Systeme ihre Verbreitung verstärken, besonders auf Plattformen wie TikTok, die Inhalte auf Basis von Algorithmen verbreiten. Insgesamt könnte also der Einsatz von KI demokratische Wahlen sowohl untergraben als auch unterstützen, z. B. durch verbesserte Inhaltsmoderation oder kosteneffizientere Kampagnen. Entscheidend wird sein, wie die Medien darüber berichten – und welche Rolle darin Forschung und Fakten einnehmen. Andernfalls könnten sich die Ängste über die Auswirkungen von KI nachteiliger auswirken als die tatsächlichen Folgen.
Follow-Empfehlung: Martin Fuchs
Martin Fuchs, Wahlbeobachter, bekannt aus X, jetzt auf Bluesky.
Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Kommentar schreiben