Die Chance: Verringerung der Fachkräftelücke um ein Drittel
Der öffentliche Sektor steht in den kommenden Jahren vor enormen Herausforderungen. Bis 2030 scheiden mehr als 1,5 Millionen Beschäftigte altersbedingt aus dem öffentlichen Dienst aus, gleichzeitig steigen die Erwartungen an Effizienz, Service und Personalisierung. GenAI bietet hier eine vielversprechende Chance: Nach aktuellen McKinsey-Analysen kann der flächendeckende Einsatz intelligenter Anwendungen die Fachkräftelücke in der öffentlichen Verwaltung um ein Drittel reduzieren.
Tatsächlich hält GenAI bereits Einzug in die Behörden. Viele Organisationen haben Pilotprojekte gestartet und experimentieren mit Tools zur Verbesserung von Kommunikation und Arbeitsprozessen – mit Erfolg:
Bürgernahe Chatbots. Zahlreiche Städte und Staaten, von Heidelberg bis Singapur, haben erfolgreich GenAI-Assistenten pilotiert, die Antworten auf Bürgeranfragen in natürlicher Sprache liefern und so Mitarbeitende in der Verwaltung entlasten. GenAI-gestützte Textassistenten. Für interne Arbeitsprozesse nutzen öffentliche Organisationen, wie z.B. die Verwaltung der Stadt Hamburg, zunehmend GenAI, etwa um Wissen aus verschiedenen Quellen zugänglich zu machen und dynamisch auf den Kontext abgestimmte Textbausteine zu generieren.
Erste Proofs of Concept (PoCs) und Pilotprojekte sind ein wichtiger Schritt, um künstliche Intelligenz in staatlichen Institutionen nutzbar zu machen. Noch aber bleiben die Projekte allzu oft in der Erprobungsphase stecken. Meist sind es unklare Governance-Strukturen, fehlende Skalierungsstrategien und mangelnde Integration in bestehende Systeme, die eine flächendeckende Einführung verhindern. Auch die besonderen Anforderungen an den Datenschutz im Kontext sensibler Bürgerdaten stellen häufig eine Hürde dar, etwa bei der Auswahl der geeigneten Technologien. Damit GenAI sein Potenzial nachhaltig entfalten kann, müssen öffentliche Organisationen deshalb jetzt den Übergang von isolierten Use Cases hin zu einer breiten, strukturierten Anwendung meistern.
Der Weg: in sechs Schritten zur flächendeckenden GenAI-Nutzung
Die effektive Skalierung von GenAI erfordert ein ebenso strategisches wie strukturiertes Vorgehen auf allen Ebenen. Denn nur als integraler Bestandteil der organisationalen Zusammenarbeit und des Tech Stacks können die smarten Tools echten Nutzen für Behörden und Bürger:innen entfalten.
Zu einem solchen ganzheitlichen Skalierungsansatz gehört zunächst die Entwicklung einer strategischen Roadmap, die den Fahrplan vorgibt und potenzielle Anwendungsfälle sowie deren Einsatzbereiche (Domänen) nach ihrer Relevanz priorisiert. Anschließend gilt es, die Organisation über spezifische Wegbereiter (Enabler) GenAI-fit zu machen und Mitarbeitende durch effektives Change-Management für die Nutzung zu mobilisieren.
1. Strategische Roadmap: Fahrplan entwickeln
Damit GenAI kein Stückwerk bleibt, ist ein Fahrplan für die flächendeckende Einführung erforderlich. 59% der Organisationen, die GenAI erfolgreich in ihre Wertschöpfungskette integriert haben, setzten dabei auf eine organisationsweite Roadmap. Von den übrigen Unternehmen verfügt nur jedes vierte über einen solchen Fahrplan.
Nach Wirkung und Machbarkeit priorisieren. Nicht jeder Anwendungsfall hat die gleiche Relevanz für die Organisation. Bei der Sondierung hilft ein strukturiertes Bewertungsmodell, das die Potenziale, etwa zur Effizienz- und Qualitätssteigerung, mit technischer und regulatorischer Machbarkeit kombiniert. Dabei lohnt es sich, über einzelne Use Cases hinaus in Domänen zu denken: Ein Anwendungsfall mag für sich genommen noch keine große Wirkung erzielen; ist aber die zugrunde liegende Modelllogik auf andere Bereiche der Organisation übertragbar, kann der Ressourceneinsatz dennoch sinnvoll sein.
Ganzheitlich denken statt punktuell automatisieren. GenAI sollte nicht nur einzelne Prozesselemente verbessern, sondern komplette Abläufe optimieren. Ein Beispiel: Ein GenAI-gestütztes Tool für Bürgeranfragen ist nützlich, entfaltet aber noch größeres Potenzial, wenn es direkt mit Fachverfahren interagiert und Vorgänge automatisch weiterbearbeitet. Statt singuläre Use Cases zu betrachten, kann die Skalierung von GenAI zum Anlass genommen werden, größere strukturelle Veränderungen wie etwa die Neugestaltung von Genehmigungsprozessen oder des Personalmanagements gleich mitzudenken.
2. Fähigkeitenaufbau: Mitarbeitende mit GenAI-Kompetenzen ausstatten
Fast acht von zehn Führungskräften in deutschen Unternehmen räumen ein, dass ihren Beschäftigten grundlegende KI-Kompetenzen fehlen – ein Weckruf auch an den öffentlichen Sektor: Das Potenzial von GenAI kann nur dann ausgeschöpft werden, wenn Mitarbeitende über die nötigen Fähigkeiten zur effektiven Nutzung von GenAI verfügen. Häufiger Grund für die Defizite sind falsch ausgerichtete Schulungskonzepte und -inhalte. Zwei Aufgaben stehen daher im Vordergrund:
GenAI-Schulungen rollenspezifisch gestalten. Beim Aufbau von GenAI-Fähigkeiten sind „One size fits all“-Lösungen keine Option. Die Anforderungen an die Technologie variieren je nach Rollenprofil, sodass spezifisch darauf abgestimmte Trainings benötigt werden. In der Sachbearbeitung beispielsweise geht es darum, ein Verständnis für GenAI-gestützte Arbeitsabläufe zu entwickeln, zielführende Prompts zu vermitteln und für die kritische Bewertung von GenAI-generierten Inhalten zu sensibilisieren. Für IT-Fachkräfte wiederum stehen Kompetenzen zur Sicherstellung einer technisch robusten, datenschutzkonformen und nutzerfreundlichen Implementierung im Vordergrund.
Digitale Schlüsselkompetenzen vermitteln. Über die rollenspezifischen Anforderungen hinaus sind grundlegende digitale Kompetenzen aufzubauen, damit Mitarbeitende sicher und souverän mit GenAI arbeiten können. Zu den wichtigsten zählen der sorgsame Umgang mit persönlichen Daten und die Befolgung von Sicherheitsregeln (Digital Literacy), die Fähigkeit zur Deutung und Einordnung digitaler Informationen und deren Quellen (Digital Learning) sowie die effektive Nutzung digitaler Tools im Team (Digital Collaboration).
3. Daten, Technologie und Systemintegration: leistungsfähige Grundlagen schaffen
Erfolgreich skalieren lassen sich GenAI-Anwendungen nur, wenn die Daten- und IT-Basis stimmt. Dabei sollten Designentscheidungen zu Betrieb und Integration von Anwendungen frühzeitig mitgedacht werden, damit der GenAI-Einsatz keine Insellösung bleibt und Kosten effektiv gesteuert werden können. Vier Aufgaben stehen dabei im Vordergrund:
Hochwertige Inputdaten bereitstellen. Wesentlicher Erfolgsfaktor für die Skalierung von GenAI ist die Verfügbarkeit großer Datenmengen in hoher Qualität. Dafür kann es sich lohnen, in spezielle Softwarelösungen oder Prozesse zur Verwaltung behördeneigener Daten zu investieren, um beispielsweise unstrukturierte Daten nutzbar zu machen.
Passende GenAI-Modelle wählen. Das Spektrum möglicher GenAI-Modelle reicht von proprietären über spezialisierte Lösungen kommerzieller Anbieter wie OpenAI bis hin zu Open- Source-Alternativen, die mehr Kontrolle und Anpassungsmöglichkeiten bieten. Für öffentliche Organisationen empfiehlt sich ein sorgfältiger Abwägungsprozess – insbesondere, weil die meisten GenAI-Modelle aus den USA oder China stammen. Die Wahl des richtigen Modells hängt letztlich vom Einsatzzweck ab: Geht es um die automatisierte Erstellung von Texten für die Bürgerkommunikation, das Erkennen und Strukturieren großer Datenmengen oder das Generieren von Code in der Softwareentwicklung? Für die meisten Anwendungsfälle reichen Standardmodelle aus, doch für spezifische Verwaltungsprozesse können domäneneigene Lösungen die bessere Wahl sein.
Den Betrieb sicher und effizient gestalten. Eine GenAI-taugliche IT-Architektur muss Datenschutz, Skalierbarkeit und Kosten berücksichtigen. Hochsensible Daten, wie sie in der Sozial- oder Finanzverwaltung anfallen, erfordern hauseigene (On-Premise-) oder Private-Cloud-Lösungen. Für weniger kritische Anwendungen wie Bürger-Chatbots kann hingegen eine Public Cloud wirtschaftlicher sein. Moderne Anonymisierungsservices ermöglichen es hier, auch sensible Daten sicher in der Cloud zu nutzen, indem personenbezogene Informationen vor der Verarbeitung entfernt oder verschlüsselt werden. Eine hybride Architektur kann die Vorteile beider Ansätze kombinieren – mit Tools für sensible Daten im lokalen System und skalierbaren KI-Diensten in der Cloud.
GenAI nahtlos integrieren. Ein reibungsloser Datenaustausch zwischen verschiedenen Systemen setzt geeignete Schnittstellen und offene Standards voraus. Zusätzliches Nutzenpotenzial entfalten die Anwendungen, wenn sie sinnvoll mit anderen Technologien kombiniert werden. So kann GenAI etwa eingesetzt werden, um Abfragen in SQLDatenbanken in natürlicher Sprache auszuführen und damit auch Mitarbeitenden ohne Kenntnisse in Programmiersprachen den Zugriff auf wichtige Daten zu ermöglichen.
4. Operating Model: Teams und Prozesse zukunftsfähig aufstellen
Mehr als 40% der Vorreiter bei der Skalierung von GenAI haben ihre internen Verantwortlichkeiten und Prozesse neu ausgerichtet, um die Technologie über die gesamte Organisation hinweg effektiv zu steuern und ihren Nutzen zu maximieren.9 Im Folgenden sind die wesentlichen Aspekte aufgeführt, die bei diesen Anpassungen berücksichtigt werden sollten:
Verantwortlichkeiten regeln. Mit der breitflächigen Einführung von GenAI gehen auch neue Rollen und Verantwortlichkeiten einher – von der strategischen Ausrichtung über die technische Entwicklung bis zum Risikomanagement. Diese Rollen – auch neu entstehende – sind klar zu definieren und in einer Governance zu verankern. Die Koordinierung und Vernetzung innerhalb der Organisation erfolgt idealerweise zentral, während sich für das Qualitätsmanagement der einzelnen Anwendungen meist eine dezentrale Aufstellung nach Domänen empfiehlt.
Prozesse anpassen. Durch den KI-Einsatz verändern sich viele Arbeitsabläufe – sie gilt es jetzt auf ihre GenAI-Tauglichkeit zu prüfen: Wo entfallen manuelle oder repetitive Tätigkeiten? Wo ändern sich Schnittstellen? Wo braucht es neue Kontrollmechanismen? Solche Prozessanpassungen sind keine einmalige Maßnahme, sondern ein kontinuierlicher Prozess. Sie sollten daher als fester Bestandteil der Organisation etabliert und gemanagt werden.
5. Datenschutz: Risiken managen
Öffentliche Einrichtungen haben eine besondere Verantwortung für Datenschutz und IT-Sicherheit. GenAI-Anwendungsfälle müssen daher von Anfang an datenschutzkonform konzipiert werden. Dies umfasst drei Aufgaben:
Datenschutzverantwortliche einbinden. In enger Zusammenarbeit mit den verantwortlichen Stellen in der Organisation ist sicherzustellen, dass relevante Richtlinien (z.B. DSGVO)
bereits bei der Auswahl von GenAI-Modellen und ihren Einsatzgebieten in vollem Umfang berücksichtigt werden. GenAI Governance etablieren. Mit klaren Rahmenbedingungen können Organisationen ihren Mitarbeitenden bestmögliche Orientierung geben. Fragen, die in diesem Kontext beantwortet werden sollten, sind z.B.: Welche Modelle darf ich nutzen? Wie werden die von mir genutzten Daten verarbeitet und gespeichert? Wie werden die KI-Ergebnisse validiert?
Piloterfahrungen nutzen. Organisationen, die bereits Pilotprojekte und PoCs durchgeführt haben, sollten die gewonnenen Erkenntnisse systematisch auswerten und in enger Abstimmung mit den Datenschutzverantwortlichen in übergreifende Datenschutzrichtlinien einfließen lassen.
6. Kommunikation: Kulturwandel fördern
Die Skalierung von GenAI ist weit mehr als eine technologische Transformation – sie greift tief in die bestehende Arbeitskultur ein. Überzeugende Kommunikation und ein effektives Change-Management sind daher entscheidend, um potenzielle Widerstände abzubauen und Vertrauen zu schaffen. Hierbei gilt es, folgende Aspekte zu beachten:
Nutzen und Ziele von GenAI klar kommunizieren. Die flächendeckende Einführung von GenAI sollte nicht als Selbstzweck oder bloßer Ausweis des eigenen digitalen Reifegrads dargestellt, sondern als echter Mehrwert für Mitarbeitende und Bürger:innen vermittelt werden. Die organisationsweite Kommunikation sollte daher auf zentrale Fragen eingehen: Welche Ziele wollen wir mit GenAI-Anwendungen erreichen? Welchen Nutzen bietet GenAI? Und nicht zuletzt: Wie gehen wir mit Risiken um? Organisationen, die GenAI erfolgreichskaliert haben, geben mehr als doppelt so häufig an, dass ihre Mitarbeitenden den Nutzen wie auch die Risiken der Technologie erkannt und verinnerlicht haben.
Positive Change-Story schaffen. Damit die Einführung von GenAI in der Organisation von einer positiven und zukunftsorientierten Grundhaltung begleitet wird, braucht es gezielte Change-Formate: Leuchtturmprojekte sollten frühzeitig erfahrbar gemacht, positive Anwender- und Kundenfeedbacks geteilt und Gamification-Elemente wie Zertifizierungen und Badges für die Nutzung eingeführt werden. Eine positive Change-Story trägt überdies dazu bei, eine Kultur der Offenheit für technologische Innovationen zu entwickeln und zu fördern.
Aufruf zum Handeln: was jetzt zählt
Öffentliche Verwaltungen in anderen Ländern machen bereits vor, wie die Skalierung von GenAI-Anwendungen in Behörden gelingen kann. Ein Beispiel dafür ist die Stadtverwaltung Tokio: Hier haben sich die Priorisierung geeigneter Domänen, die frühe Einbindung der Nutzenden und klare Richtlinien als entscheidende Erfolgsfaktoren für die flächendeckende Einführung von GenAI erwiesen.
Öffentliche Organisationen in Deutschland sollten diesem Beispiel folgen, denn die Zeit drängt: Effizienz und Bürgernähe werden zu einem zunehmend entscheidenden Faktor im öffentlichen Sektor. Die Phase des Testens und Erprobens einzelner Use Cases ist damit vorbei – jetzt gilt es, GenAI strategisch, technologisch und organisatorisch auf das nächste Level zu heben. Die neue Regierung kann hier wichtige Impulse setzen und mit gezielten Investitionen unterstützen, um die Digitalisierung insgesamt und die Skalierung von GenAI im Besonderen voranzutreiben. Öffentliche Organisationen, die jetzt strukturiert vorgehen und ihre GenAI-Strategie konsequent umsetzen, sichern sich einen klaren Vorteil: Sie steigern die Effizienz, verbessern die Bürgerdienste und gestalten eine zukunftsweisende Verwaltung. Eines steht heute schon fest: Die Skalierung von GenAI ist kein Selbstläufer – sie erfordert den gezielten Einsatz geeigneter Hebel, um erfolgreich zu sein.
Download Artikel "Raus aus dem Testlabor: Skalierung von GenAI im öffentlichen Sektor" (inkl. Schaubildern und Beispielen)
Alle Publikationen der Artikelserie #ZehnMalZukunft über die Zukunft der öffentlichen Verwaltung in Deutschland finden Sie hier: mck.de/zehnmalzukunft
Autor:innen: Björn Münstermann, Julia Klier, Matthias Roggendorf, Katharina Sickmüller, Luca Flora und Annika Götz