Science Fiktion trifft Realität: Dank automatischer Gesichtserkennung ist es in den USA nun möglich, seine Waffenmunition am Automaten zu kaufen. „Was könnte da schon schiefgehen“, müssen sich die Anbieter:innen gefragt haben. Die Antwort: so einiges. Solche Technologien werfen ernsthafte Fragen zu Sicherheit und Missbrauch auf. An Ähnliches muss man bei einem Beispiel aus Japan denken: Dort möchte man in Zukunft verstärkt KI im Militär einsetzen. Was das mit der zunehmend alternden Bevölkerung zu tun hat, lesen Sie in dieser Erlesenes-Ausgabe. Außerdem: Von Känguru-Ratten, die ohne Wasser auskommen, sprachlicher Vielfalt in Sprachmodellen und KI-generierten Stimmen – diese Beispiele zeigen sehr anschaulich, wie Künstliche Intelligenz (KI) bereits in verschiedenen Lebensbereichen eingesetzt wird.

In eigener Sache: Erlesenes macht Sommerpause und erscheint wieder am 12. September. 

Wir wünschen Ihnen eine schöne Sommerzeit
Elena und Teresa 

P.S. Sie wollen Erlesenes alle zwei Wochen als Newsletter im Postfach haben? Hier geht es zum Abo: https://www.reframetech.de/newsletter/

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de, bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl oder bei Bluesky unter @reframetech.bsky.social.

KI-Stimmenklone im Anmarsch

Cheap AI voice clones may wipe out jobs of 5,000 Australian actors, The Guardian, 29.6.2024

Wer schon einmal ein Hörbuch gehört oder einen synchronisierten Film gesehen hat, weiß, wie wichtig eine gute Stimme ist – wie viele Emotionen wir mit einer Stimme verbinden. Doch gerade diese unverwechselbaren Stimmen drohen zu verstummen. Dazu blicken wir heute nach Australien: Das Softwareentwicklungsunternehmen „Replica Studios“ hat 120 Stimmen von Schauspieler:innen lizenziert, um sie in Videospielen zu verwenden. Der australische Verband der Synchronsprecher:innen (AAVA) warnte daraufhin, dass etwa 5.000 Arbeitsplätze auf dem Spiel stünden, da Radiosender und Unternehmen zunehmend KI-Technologien einsetzten, um menschliche Sprecher:innen zu ersetzen, und forderte faire Regeln wie Zustimmung, Kontrolle und Entschädigung im Zusammenhang mit der Verwendung von KI-generierten Stimmen. Simon Kennedy, Präsident der AAVA, betonte, dass er nicht gegen KI sei, es aber an Menschlichkeit und Kreativität mangele, wenn KI-generierte Stimmen zur Gestaltung von Dialogen eingesetzt würden. Auch hier, wie in anderen Branchen, ist es letztlich eine Gratwanderung zwischen Qualität und Kosteneffizienz. 

Regulierung

Japans militärische KI-Offensive

Japan’s Defense Ministry unveils first basic policy on use of AI, Japan Times, 2.7.2024

Stellen Sie sich vor, Sie stehen im Berufsalltag vor einer großen Herausforderung – die Arbeit häuft sich, aber die Kolleg:innen fehlen. So geht es derzeit dem japanischen Militär: Um den Arbeitskräftemangel durch eine zunehmend alternde Bevölkerung zu überwinden (und mit China und den USA Schritt halten zu können), setzt das Land jetzt auf KI. Das Verteidigungsministerium hat kürzlich seine erste umfassende Strategie für den Einsatz von KI im militärischen Bereich vorgestellt. Ziel ist es, die Entscheidungsfindung zu beschleunigen und die Informationsbeschaffung zu optimieren. Interessant ist, dass in der Erklärung betont wird, dass der Einsatz von KI mit Risiken wie Fehlern und Verzerrungen verbunden ist. KI soll demnach nur „das menschliche Urteilsvermögen unterstützen“, was darauf hindeutet, dass Japan eine ethische Perspektive einbezieht und derzeit nicht plant, autonome Waffensysteme zu entwickeln. Neben militärischen Anwendungen wird KI auch in anderen Bereichen wie Cybersicherheit, Logistik und Verwaltung eingesetzt. Ob die erhoffte Effizienzsteigerung aber wirklich unter ethischen Gesichtspunkten stattfinden wird, bleibt abzuwarten. 

Diversität & KI in Afrika: Kann man die digitale Kluft schließen?

Language diversity key to unlocking artificial intelligence in Africa, TWeb, 2.7.2024

Führende Technologieexpert:innen versammelten sich in Shanghai (China) beim Mobile World Congress (MWC) 2024, einer der weltweit größten Messen für die Mobilfunkindustrie, um über KI zu diskutieren. Ein zentrales Thema war der Zugang zu digitalen Inhalten in Afrika: Angesichts der Vielsprachigkeit des Kontinents wird befürchtet, dass die rasanten Fortschritte in den KI-Technologien viele der 1,2 Milliarden Afrikaner:innen zurücklassen könnten. Tatsächlich werden in Afrika Tausende von Sprachen gesprochen, die meisten Internetinhalte sind aber nur auf Englisch verfügbar. Eine stärkere Vielfalt der KI-Sprachmodelle sei also entscheidend, um die digitale Kluft zu überbrücken, so der Tenor der Konferenz. In der Realität sehen wir aber, dass die neuen Technologien eher die digitale Spaltung vertiefen. Dazu kommen hohe Gerätekosten und mangelnde digitale Kompetenz, die nach wie vor große Hürden darstellen (Erlesenes berichtete). Neue Technologien können ein Puzzleteil sein, diese Barrieren zu überwinden, sind aber auch kein alleiniges Allheilmittel.

KI im Klassenzimmer

AI Can’t Replace Teaching, but It Can Make It Better, WIRED, 10.7.2024

Ein ganz gewöhnlicher Morgen an der Ron Clark Academy in Atlanta (USA), wo Naturwissenschaftslehrer Daniel Thompson zwischen seinen Sechstklässler:innen hin– und hergeht. Plötzlich stellt ein:e Schüler:in die Frage: „Gibt es Tiere, die kein Wasser brauchen?“ Thompson stellt die Frage einem sprachgesteuerten KI-System, das ein Bild der Känguru-Ratte auf dem Smartboard zeigt: ein Tier, dass tatsächlich ohne frisches Wasser auskommen kann. Lernen mit interaktiven Werkzeugen ist ein klarer Trend im Klassenzimmer. Von der Möglichkeit, Quizfragen zu erstellen und komplexe Konzepte zu erklären, bis hin zur individuellen Unterstützung bei der Lösung von Problemen – diese Technologien zeigen Potenzial für den Schulunterricht. Dennoch bleibt die Frage nach der richtigen Balance zwischen technischer Unterstützung und menschlicher Interaktion zentral. Die Kompetenzen der Lehrer:innen, zum Beispiel auf subtile Signale und Emotionen der Schüler:innen reagieren zu können, ist nach wie vor unersetzlich. Unternehmen und gemeinnützige Organisationen experimentieren jedoch mit KI-gestütztem Feedback, um Lehrer:innen bei ihrer Arbeit zu unterstützen und das Engagement der Schüler:innen zu fördern.

Bad Practice

Science-Fiction trifft Realität

In Fresh Hell, American Vending Machines Are Selling Bullets Using Facial Recognition, Futurism, 8.7.2024

Wer einen Automaten aufsucht, möchte oft schnell und unkompliziert einkaufen. Wer dabei an einen Snack oder ein Getränk denkt, liegt in diesem besonderen Fall falsch. In einer skurrilen Fusion von Hightech und Einzelhandel bietet die texanische Firma „American Rounds“ jetzt Patronen für Waffen über KI-gesteuerte Automaten an – eine Szene, die aus einem Science-Fiction-Film stammen könnte. Diese „AARM“-Geräte (Automated Ammo Retail Machines, auf Deutsch: Automatisierte Munitionsverkaufsautomaten) nutzen Gesichtserkennungstechnologie zur Identitätsüberprüfung. Sie sind so konzipiert, dass sie die traditionellen Einschränkungen beim Munitionskauf umgehen, indem sie rund um die Uhr zugänglich sind. Der Besuch eines solchen Automaten könnte bald so einfach sein wie das Einschieben eines Ausweises und das Scannen des Gesichts. Abgesehen von grundsätzlichen Problemen mit Gesichtserkennungstechnologien, die z. B. Frauen und ethnische Minderheiten signifikant schlechter identifizieren (Erlesenes berichtete), sind diese bizarren Automaten auch rechtlich umstritten, nicht zuletzt wegen fragwürdiger Datenschutzbestimmungen. Während einige lokale Beamt:innen ihre Zulässigkeit bestätigen, untersuchen andere Städte ihre Rechtmäßigkeit. Die Zukunft dieser Geräte bleibt also unsicher, während das Interesse von Einzelhändler:innen und potenziellen Käufer:innen weiter wächst. 

Follow-Empfehlung: Raymond Sun

Raymond Sun schreibt über Künstliche Intelligenz – vor allem in Bezug auf Recht und globale Regulierung.

Verlesenes: Passend zum Start der Olympischen Sommerspiele: Turnen, wie es sich ein KI-System vorstellt

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.