Künstliche Intelligenz ist in aller Munde. Für ihren gelingenden Einsatz braucht es Kompetenzen. Doch wer braucht eigentlich welche KI-Kompetenzen in der Verwaltung? Dieser Frage widmen wir uns in einer Workshopreihe. Im ersten Workshop kamen Teilnehmer:innen aus Verwaltung, Beratung und Wissenschaft zusammen und entwickelten erste Personas und Kompetenzprofile.

Effizientere Prozesse durch künstliche Intelligenz – aber auf Kosten der Mitarbeiter:innen? Unterstützung bei der alltäglichen Arbeit – aber blindes Vertrauen in die Ergebnisse von KI? Offene Haltung gegenüber KI oder doch Vorbehalte und Berührungsängste, weil Wissen fehlt? Der Einsatz von KI in der Verwaltung ist bei Weitem kein Selbstläufer. Es bedarf guter Planung, Umsicht und Reflektiertheit und zu Beginn überhaupt erst die Offenheit gegenüber Veränderungen. Kurz gesagt, für einen verantwortungsvollen Einsatz von KI in der Verwaltung braucht es Kompetenzen auf allen Ebenen – seien es Entscheider:innen und Führungskräfte oder Anwender:innen auf Sachbearbeitungsebene.

Dabei geht es nicht nur um technisches Wissen oder Prozessoptimierung, auch nicht nur um das viel gehypte Prompting. KI-Kompetenzen sind vielfältiger: Das haben wir mit unserem im letzten Jahr veröffentlichten KI-Kompetenzraster für die Verwaltung aufgezeigt. Es gibt einen umfassenden Überblick über die verschiedenen Kompetenzen im Umgang mit KI in der Verwaltung. Diese allgemeine Übersicht wollen wir nun weiter konkretisieren. Denn nicht jeder braucht alle Kompetenzen im gleichen Ausmaß. Je nach Rolle gibt es unterschiedliche Schwerpunkte. Um die Frage zu beantworten, wer nun welche KI-Kompetenzen benötigt, entwickeln wir in einer Workshopreihe Personas und Kompetenzprofile und diskutieren Anwendungsmöglichkeiten der Kompetenzprofile (z. B. in der Personalentwicklung oder Schulungsplanung) mit Vertreter:innen aus der Verwaltungspraxis.

Im ersten Workshop der Reihe kam eine diverse Gruppe aus Verwaltung, Beratung, Wissenschaft und Zivilgesellschaft in einem hybriden Setting zusammen und erarbeitete vier Personas und dazugehörige Kompetenzprofile. Zunächst definierten die Teilnehmer:innen unterschiedliche Rollen in der Verwaltung, die mit KI interagieren, und priorisierten sie für die Bearbeitung im Workshop. Die Gruppe fokussierte sich dabei auf Rollen, die den Einsatz von KI in der Verwaltung unterstützen (KI-Manager:in und Change-Manager:in) oder konkret umsetzen und steuern (Anwender:in und Product Owner:in). Anschließend erarbeiteten die Teilnehmer:innen in Kleingruppen für jede Rolle je eine Persona (mit u. a. Aufgaben, Herausforderungen und Verantwortlichkeiten im Hinblick auf KI). Für diese Persona wurde dann diskutiert, welche der Kompetenzen am relevantesten sind und ein Ranking aller KI-Kompetenzen erstellt. Für jede Kompetenz erörterten die Teilnehmer:innen zudem, auf welchem Level die Persona diese benötigt (von Einsteiger:in bis Experte/Expertin).

Im Folgenden werden die im Workshop erarbeiteten Personas und ihre Kompetenzprofile kurz skizziert und dargestellt. Die acht am relevantesten bewerteten Kompetenzen sind in der Reihenfolge des Relevanz-Rankings aus dem Workshop dargestellt. Eine Beschreibung der einzelnen Kompetenzen findet sich am Ende des Textes.

 

Im Anschluss an den ersten Workshop werden nun Interviews mit Rolleninhaber:innen durchgeführt (zunächst Anwender:innen), um zu erfahren, wie sich die relevanten Kompetenzen in der Praxis zeigen, mit welchen Verhaltensweisen sie einhergehen und welches Wissen über KI angewendet wird. Damit werden dann die einzelnen Kompetenzen aus den Profilen mit konkreteren Informationen unterfüttert und so noch besser verständlich.

Am 26. November findet dann der zweite Workshop in Berlin statt. Dort diskutieren wir mit Personaler:innen, Führungskräften und Schulungsplaner:innen, wo und wie Kompetenzprofile in der Verwaltung wirkungsvoll eingesetzt werden können (z. B. als Grundlage für die Schulungsplanung oder Personalentwicklung) und wie die Profile dafür weiterentwickelt werden müssen.

Sind Sie Anwender:in von KI in der Verwaltung und möchten unsere Arbeit durch ein Interview unterstützen oder sind Sie Personaler:in, Führungskraft oder Schulungsplaner:in in der Verwaltung und haben Interesse am Workshop, dann wenden Sie sich gern an Sarah Fischer (sarah.fischer@bertelsmann-stiftung.de).

Kategorien der Kompetenzen


Funktionsweise von KI-Systemen kennen
Diese Kompetenz beinhaltet das technische Verständnis, welche Komponenten ein KI-System umfasst (Trainingsdaten, Algorithmen), wie diese zusammenspielen und im Einsatz ineinandergreifen.

Möglichkeiten und Grenzen von KI kennen
Diese Kompetenz umfasst das Verständnis, welche Funktionen zum jeweiligen Zeitpunkt durch KI-Systeme geleistet werden können und wo die technischen Grenzen liegen.

KI-Systeme entwickeln und technisch kontrollieren
Diese Kompetenz umfasst technische Kenntnisse und Fähigkeiten in der Entwicklung von KI-Systemen und ihrer technischen Kontrolle zur Erkennung und Vermeidung von Fehlern.


Werte bei der Gestaltung von KI-Systemen berücksichtigen
Die Kompetenz befähigt dazu, Werte aus anderen Bereichen (z. B. gesellschaftliche Werte wie Gerechtigkeit) im Prozess des Designs von Technik abzubilden, abzuwägen und mit entsprechender Gewichtung in jeder Phase der Gestaltung von KI-Systemen (Planung, Entwicklung, Einsatz) zu berücksichtigen. So kann beispielsweise der Wert „Gerechtigkeit“ durch das Festlegen von Fairnesszielen für die Optimierung des KI-Systems in dessen Gestaltung abgebildet werden.

Rechte und Normen umsetzen
Diese Kompetenz befähigt dazu, mit rechtlichen Vorgaben umzugehen, diese im Rahmen von KI-Systemen zu berücksichtigen und zu gestalten, um die rechtmäßige Entwicklung und den Betrieb zu gewährleisten.

Arbeitskontext kennen
Diese Kompetenz umfasst fachliche Voraussetzungen für die Nutzung von KI-Systemen in der eigenen konkreten Fachdisziplin bzw. im konkreten Amt. Das beinhaltet Kenntnisse über den Anwendungskontext selbst und relevante aktuelle Entwicklungen. Für ein KI-System zur Gefahrenabwehr wäre es beispielsweise wichtig zu verstehen, um welche Gefahren es geht, welche Faktoren diese Gefahren bedingen oder was die Gefahren für Auswirkungen für Betroffene haben können. Diese Kompetenz stellt das Bindeglied zwischen eigenen Fachkompetenzen (z. B. Brandschutz) und technischen KI-Kompetenzen (z. B. KI-gestützte Gefahrenprognose im Bereich der Brandbekämpfung), indem erstere auf den KI-Kontext angewendet werden.


Prozesse mit KI optimieren
Diese Kompetenz befähigt dazu, Prozesse dahingehend zu optimieren, dass ein zielgerichteter Einsatz von KI effektiv möglich wird.

Organisation strategisch ausrichten
Diese Kompetenz befähigt zur strategischen Ausrichtung von Organisationen auf den Einsatz von KI.

KI-Gestaltung managen und steuern
Diese Kompetenz befähigt zu koordinativen Aufgaben bei der Gestaltung des Einsatzes von KI.


KI-Systeme anwenden
Diese Kompetenz befähigt dazu, KI-Systeme tatsächlich einzusetzen (je nach Phase: implementieren, anwenden, evaluieren, simplifizieren usw.).

Daten nutzen und beurteilen
Diese Kompetenz umfasst Wissen, Fähigkeiten und Fertigkeiten, die zum Umgang mit Daten (z. B. Trainingsdaten, Testdaten/Validierungsdaten, Betriebsdaten (Eingabe und Ausgabe des KI-Systems)) im Rahmen des KI-Einsatzes und zur Bewertung der Daten befähigen.

Daten technisch und rechtlich sichern
Die Kompetenz befähigt dazu, Datenschutz und -sicherheit zu gewährleisten.


KI-ethische Fragen identifizieren
Diese Kompetenz befähigt dazu, Konzepte und Methoden der Ethik zu kennen und anzuwenden und damit ethische Fragen im Rahmen des Umgangs mit KI zu identifizieren und zu diskutieren, um ggf. Grundkonzepte der KI-Ethik in Form von Leitlinien zu formulieren.

Gesellschaftlichen Kontext von KI berücksichtigen
Diese Kompetenz vermittelt ein Verständnis für das Zusammenspiel von soziotechnischen Faktoren im Rahmen von KI-Systemen. Dies meint insbesondere, welche direkten und indirekten Auswirkungen der Einsatz des KI-Systems auf den größeren gesellschaftlichen und behördlichen Kontext haben sowie wie dieser Kontext die Gestaltung des KI-Systems bedingen kann. Beispielsweise kann der Einsatz eines KI-Systems diskriminierende Strukturen verstärken, die aber auch die Gestaltung des KI- Systems prägen können.

Teilhabeaspekte berücksichtigen
Diese Kompetenz befähigt dazu, die Teilhabe von Menschen bei der Gestaltung von KI-Systemen (Planung, Entwicklung und Einsatz) zu berücksichtigen. Dies umfasst insbesondere, spezielle Bedürfnisse von Menschen in unterschiedlichen Lebenslagen zu erfassen (Nutzer:innenzentrierung, Einbeziehung der Betroffenenperspektive), das KI-System entsprechend zugänglich zu gestalten (Barrierefreiheit) und diese Menschen in den Gestaltungsprozess einzubeziehen (Beteiligung).


Andere bei der Arbeit mit KI begleiten
Diese Kompetenz befähigt dazu, Menschen auf den Einsatz von KI-Systemen vorzubereiten, sie bei der Interaktion mit KI- Systemen zu aktivieren und zu unterstützen. Das umfasst etwa auch, Bedarfe von Teammitgliedern innerhalb der eigenen Behörde zu erfragen und zu adressieren.

Über KI-Systeme kommunizieren
Diese Kompetenz befähigt dazu, in Bezug auf KI-Systeme mit verschiedenen Personen Informationen auszutauschen. Dies kann, je nach Fall, im Kontext eines konkreten KI-Systems (z. B. Kommunikation mit Dienstleister:innen) oder übergreifend mit Bezug auf den Einsatz von KI durch die Behörde insgesamt (z. B. gegenüber Politik, Bürger:innen, Zielgruppen der Behörde) geschehen.

KI-Systeme nachvollziehen und erklären
Diese Kompetenz umfasst die Fähigkeit, die Ausgabe von KI-Systemen (anhand von begleitenden Erklärungen) zu verstehen und sie für andere Personen und Institutionen nachvollziehbar zu machen. Dabei kann auch Explainable AI (XAI) zum Einsatz kommen. Dies bezeichnet Methoden, die auf technischer Grundlage dabei helfen, die Funktionsweise eines KI-Systems oder deren Ausgabe zu erklären. Sie sollen für Menschen verständlich machen, warum ein System ein bestimmtes Ergebnis ausgegeben hat, und es der Verwaltung ermöglichen, auch beim Einsatz von KI-Systemen sachgerechte Entscheidungen zu treffen, die frei von sachfremden Erwägungen sind.


Souverän mit KI interagieren
Diese Kompetenz vermittelt die inneren Anlagen zum souveränen und resilienten Umgang mit unvorhergesehenen Situationen, Fehlern und Problemen im Umgang mit KI-Systemen.

Offen mit KI interagieren
Diese Kompetenz umschreibt die inneren Anlagen zum offenen, unvoreingenommenen Umgang mit KI-Systemen und den damit einhergehenden Innovationen sowie die dafür nötige innere Haltung.

Reflektiert mit KI interagieren
Diese Kompetenz befähigt, die Rolle des Menschen und der eigenen Person in der Interaktion mit KI-Systemen zu reflektieren. Das soll insbesondere ermöglichen, sich den Menschen eigene kognitive Verzerrungen zu erfassen und daraus mögliche Auswirkungen in der Interaktion mit dem KI-System zu verringern, insbesondere bei der konkreten Mensch-Maschine- Interaktion wie der Interpretation der Ausgabe beim Einsatz eines KI-Systems.

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.