50 werden ist für manche eine Krise, für uns ein Fest! Deswegen feiern wir heute Teresas 50. Ausgabe „Erlesenes“ so, wie wir es am besten können: Eine Insel der kuratierten Impulse im Sturzbach der KI-Nachrichten schaffen. Los geht’s mit der Ironie einer Geschichte: Was verbittet sich gerade ein KI-Unternehmen bei Bewerbungen? Richtig: die Nutzung eines Chatbots oder anderer KI-Systeme.
Auch wenn uns dieses Beispiel schmunzeln lässt und schon an die Rubrik „Verlesenes“ erinnert, folgen weitere Artikel: vom Erdbeben, dass DeepSeek ausgelöst hat (oder soll man sagen: Talfahrt der Aktienkurse bekannter Unternehmen und was das für die europäische Technologieunabhängigkeit bedeutet) über schwammige Regelungen für biometrische Überwachung und Social Scoring – trotz EU AI Act – bis hin zu KI-Regulierung „Made in Brasilien“.
Wir freuen uns, wenn Sie uns auch für die nächsten 50 Ausgaben treu bleiben und Erlesenes in Ihrem Freundes- und Kolleg:innenkreis weiterempfehlen.
Viel Spaß bei der Lektüre
Elena und Teresa
P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: https://www.reframetech.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl.
Verbieten, was man selbst verkauft?
AI Company Asks Job Applicants Not to Use AI in Job Applications, 404 Media 3.2.22025
Der Arbeitsmarkt verändert sich rasant – auch durch den Einsatz von KI. Ein aktuelles Beispiel zeigt, wie selbst die KI-Industrie vor paradoxen Herausforderungen steht. Demnach werden Bewerber:innen, die sich bei Anthropic bewerben, dem KI-Unternehmen, welches das Sprachmodell Claude anbietet, ausdrücklich aufgefordert, keine KI-gestützten Tools für ihre Bewerbungen zu nutzen. Anthropic will damit sicherstellen, dass die Bewerber:innen ihre eigenen Gedanken ausdrücken können. Gerade Berufe in den Bereichen Kommunikation und Programmierung, für die Anthropic Mitarbeiter:innen sucht, geraten zunehmend unter Druck. Denn KI-Modelle wie Claude ersetzen diese Jobs sukzessive. Diese Sprachmodelle werden hierfür mit großen Mengen menschlicher Texte trainiert – oft ohne Zustimmung der Urheber:innen. Anthropic selbst steht in der Kritik, weil sein „Data Scraper“ (ein Programm, das automatisch Daten aus Webseiten extrahiert) systematisch Webseiten ausgelesen hat, obwohl diese den Zugriff untersagt hatten. Dieses Beispiel zeigt einmal mehr, wie widersprüchlich der Umgang mit KI sein kann – und dass gerade Unternehmen, die diese Technologien vorantreiben, vor ungeklärten ethischen und praktischen Fragen stehen.
A pioneering AI project awarded for opening Large Language Models to European languages, European Commission, 3.2.2025
Europa setzt mittlerweile stärker auf eigene KI-Modelle. Während viele große Sprachmodelle von US-Unternehmen dominiert werden, will das Projekt OpenEuroLLM eine Alternative schaffen: Open-Source-Modelle, die alle EU-Sprachen abdecken und in Europa trainiert werden. Für diesen Ansatz wurde OpenEuroLLM nun von der EU-Kommission mit dem „Strategic Technologies for Europe-Platform“-Siegel (STEP-Siegel) ausgezeichnet. Dieses Gütesiegel erleichtert den Zugang zu weiteren Fördermitteln und unterstreicht die Bedeutung des Projekts für die digitale Souveränität Europas. Der Ansatz von OpenEuroLLM basiert auf Transparenz, Offenheit und Zugänglichkeit: Im Gegensatz zu geschlossenen Systemen großer Technologiekonzerne will das Projekt seine Modelle offen zur Verfügung stellen und so die Entwicklung innovativer Anwendungen für Verwaltung, Wirtschaft und Gesellschaft fördern. Das Besondere: Nicht nur sollen der Modellcode, die zugehörige Software und Evaluierungsmetriken vollständig offengelegt werden, sondern auch die Trainingsdaten – eine Seltenheit. Die Förderung von wirklicher Open-Source-KI ist nicht nur eine technologische, sondern auch eine politische Entscheidung. Sie stärkt die digitale Unabhängigkeit Europas und könnte langfristig eine Alternative zu den dominierenden Anbietern aus den USA und China bieten.
Der DeepSeek-Moment: Weckruf für Europas KI-Politik
DeepSeek and Trump 2.0: Can Europe Keep Up in AI? EU AI Industrial Policy Monitor, 20.1.2025
Der Durchbruch von DeepSeek, dem neuen KI-Sprachmodell aus China, hat eine Debatte neu entfacht, die Erlesenes-Leser:innen bereits kennen: Ist größer gleich besser? Die Autorinnen Frederike Kaltheuner und Leevi Saari argumentieren, dass diese Annahme längst infrage gestellt ist. Der vermeintliche Erfolg von DeepSeek entlarvt die bisherigen Milliardeninvestitionen in Rechenzentren und Chips als spekulative Wette. Und der Blick nach Europa zeigt, dass die strukturelle Abhängigkeit von US-Technologieunternehmen weiter besteht, wie das Beispiel des französischen KI-Unternehmens Mistral AI zeigt: Obwohl es seine Modelle auf europäischer Infrastruktur trainiert, musste es für den Kundenservice eine Partnerschaft mit Microsoft eingehen. Die politische Dimension wird durch die Wiederwahl von Donald Trump noch deutlicher. Seine Ankündigung einer 500 Milliarden Dollar schweren Partnerschaft für KI-Infrastruktur erhöht den Druck auf Europa. Die Autor:innen warnen jedoch davor, in blinden Aktionismus zu verfallen. Stattdessen sollten wir uns fragen: Welche digitale Zukunft wollen wir in Europa? Wie können KI-Innovationen dem Gemeinwohl dienen? Wir brauchen eine eigene Strategie, die Werte wie Umweltschutz, Datenschutz und Gemeinwohl in den Mittelpunkt stellt.
Regeln für Biometrie-Überwachung bleiben unscharf, Netzpolitik.org, 05.02.2025
Eine Kamera scannt Ihr Gesicht auf dem Marktplatz, während Sie einkaufen – ist das erlaubt? Ab dem 2. Februar 2025 gelten in der EU neue Regeln für KI-Systeme. Vor allem bei der biometrischen Überwachung, also der Gesichtserkennung durch Kameras, bleiben die Grenzen fließend. Die Polizei darf solche Systeme nur in Ausnahmefällen in „Echtzeit“ einsetzen, etwa bei Entführungen oder zur Identifizierung von Verdächtigen bei schweren Verbrechen. Für die nachträgliche Auswertung gelten lockerere Regeln – aber wann genau ist etwas „nachträglich“? Grauzonen gibt es auch beim Social Scoring, also der umfassenden Bewertung von Menschen durch KI, wie im Fall der deutschen Schufa: Deren Bonitätsbewertungen könnten unter das Verbot fallen, wenn sie KI-Systeme einsetzen würde und Menschen dadurch benachteiligt würden. Die vagen Formulierungen könnten dazu führen, dass der Schutz unserer Grundrechte vom Ermessen einzelner Behörden abhängt. Die kommenden Monate werden zeigen, wie Mitgliedstaaten und Unternehmen diese Spielräume nutzen – und ob die EU-Kommission noch nachschärfen muss.
Brasilien setzt auf KI-Regulierung
Brazil’s push for comprehensive AI regulation, Rest of World, 31.01.2025
Brasilien hat sich in den letzten Jahren als Vorreiter der Schwellenländer bei der Regulierung digitaler Technologien hervorgetan. Das brasilianische KI-Gesetz von 2023 sieht unter anderem die Einrichtung einer neuen KI-Aufsichtsbehörde vor, die für Transparenz und Ethik bei der Nutzung von KI-Systemen sorgen soll. So soll beispielsweise sichergestellt werden, dass Algorithmen in sozialen Medien keine Fehlinformationen verstärken und biometrische Systeme nicht diskriminierend wirken. Besonders hervorzuheben sind das Verbot autonomer Waffen und der Schutz vor der Verbreitung von Material über sexuellen Kindesmissbrauch. Doch wie so oft bei Regulierungsvorhaben gab es auch Widerstand, vor allem in Bezug auf die Frage, ob das brasilianische KI-Gesetz Innovation fördern oder eher bremsen würde. Befürworter:innen einer strengen Regulierung argumentieren, dass Brasilien mit diesem Gesetz ein Modell für andere Länder schaffen könnte, um KI verantwortungsvoll zu gestalten. Kritiker:innen hingegen befürchten, dass zu starke Einschränkungen das Land in eine „technologische Isolation“ führen könnten – eine Debatte, die derzeit auch in Deutschland und anderswo geführt wird.
Follow-Empfehlung: netzpolitik.org
Der Bluesky-Account von netzpolitik.org, berichtet über digitale Freiheitsrechte.
Verlesenes: “KI per Fax-Gerät”
Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Kommentar schreiben