Generative künstliche Intelligenz in der öffentlichen Verwaltung – sieben Erfolgsfaktoren für eine flächendeckende Nutzung

Generative künstliche Intelligenz (GenAI) kann dabei helfen, Effizienzlücken zu schließen, den Prozess der Digitalisierung zu beschleunigen und die Verwaltung effektiver zu machen. Mit GenAI lassen sich unstrukturierte Daten wie Text, Sprache und Bilder nutzbar machen und Prozesse automatisieren, bei denen das vormals kaum möglich war. GenAI hat das Potenzial, Beschäftigte in der Verwaltung merklich zu entlasten und so mehr Zeit für wertstiftende Tätigkeiten wie die Kundenberatung zu schaffen. Eine aktuelle McKinsey-Analyse zeigt, dass durch den Einsatz von GenAI und anderen Technologien Tätigkeiten automatisiert werden können, die derzeit rund 60 bis 70% des Zeitaufwands von Beschäftigten ausmachen – beispielsweise durch die Synthese und Erstellung von Inhalten, intelligente Unterstützung bei Programmierungstätigkeiten und in der Bürgerinteraktion.

Weltweit arbeiten Administrationen daran, die Potenziale von GenAI nutzbar zu machen, indem sie nationale Strategien entwickeln und den Einsatz gezielt fördern. So auch in Europa: Dänemark fördert mit seiner Digitalstrategie den Aufbau eines privat-öffentlichen Exzellenz-Clusters für künstliche Intelligenz (KI) und Großbritannien fördert die private und öffentliche Forschung sowie die Entwicklung von KI, die erforderliche digitale Infrastruktur und die Ausbildung entsprechender Fachkräfte. Die italienische KI-Politik hat das Ziel, KI in das Regierungs- und Verwaltungshandeln zu integrieren, ethische Fragen zu klären und die notwendigen Fähigkeiten bei den Beschäftigten aufzubauen.

Die Bundesregierung hat den „Aktionsplan KI“ vorgelegt. Darin sind Investitionen in Höhe von 1,5 Mrd. EUR bis 2025 geplant, um den KI-Standort Deutschland auszubauen und das mit KI verbundene Potenzial für Beschäftigte und Unternehmen in Deutschland zu erschließen. Bislang nutzt die öffentliche Verwaltung GenAI-Lösungen nahezu ausschließlich in Form von Pilotprojekten, als Proof of Concepts (PoC) für begrenzte Anwendungszwecke. Diese Leuchtturmprojekte sollen Akzeptanz schaffen und die Wirksamkeit der Anwendungen beweisen. PoCs lassen sich relativ aufwandsarm und zügig entwickeln und da es Bedarf gibt, arbeiten zurzeit etliche Einrichtungen an ähnlich gelagerten Anwendungsfällen wie beispielweise der Synthese von umfangreichen Berichten. Das wahre Potenzial von generativer KI liegt jedoch in der skalierten, flächendeckenden Nutzung, insbesondere wenn funktionierende Modelle über die Grenzen einzelner Behörden hinweg genutzt werden. Vor allem die folgenden sieben Faktoren ermöglichen die schnelle Skalierung und flächendeckende Nutzung.

Erfolgsfaktoren für die Vorbereitung der Skalierung

1. Schaffung des notwendigen Rahmens für die breite Nutzung von GenAI

Damit GenAI-Anwendungsfälle in Deutschland skaliert werden können, bedarf es eines verlässlichen (regulatorischen) Rahmens, sowohl für Anbieter als auch für Nutzende von GenAI-Lösungen. Mit dem Verordnungsvorschlag zur Festlegung harmonisierter Vorschriften für KI hat die EU-Kommission auf europäischer Ebene bereits erste Eckpfeiler geschaffen. Nun gilt es, diese national auszugestalten und zu konkretisieren. Dies betrifft zum Beispiel Datenschutzanforderungen oder den notwendigen rechtlichen Rahmen offizieller, KI-unterstützter Kommunikation der Verwaltung. Ein entsprechender Rahmen sollte insbesondere die Nutzung und das Teilen von Daten (zum Beispiel mit Drittanbietern) sowie die Qualitätssicherung von KI-Modellen und ihren Ergebnissen (zum Beispiel Verifizierungsverfahren) regeln. Zudem benötigen die Beschäftigten in den Verwaltungen eine verlässliche Orientierung zur Anwendung von GenAI, etwa in Form von klaren Verfahrensregeln. Länder wie die USA, China und Australien verfügen bereits über entsprechende Regelwerke.

2. Förderung von Transparenz und gesellschaftlicher Akzeptanz von GenAI

Für eine nachhaltige Etablierung von GenAI-Lösungen in der öffentlichen Verwaltung ist sowohl in der Verwaltung selbst als auch in der Gesellschaft die Akzeptanz entsprechender Lösungen zu fördern.Dies erfordert geeignete Kommunikationsmaßnahmen, die über die Einsatzmöglichkeiten und Vorteile, aber auch über Grenzen und Risiken von GenAI informieren und Transparenz schaffen, in welcher Form GenAI eingesetzt werden darf und wird. Behördenintern kann man berechtigten Bedenken mit edukativen und transparenzschaffenden Maßnahmen begegnen, zum Beispiel hinsichtlich der Qualität und Passgenauigkeit von angewandten GenAI-Lösungen. Zudem ist ein umfassender Fähigkeitsaufbau vonnöten, um Sicherheit in der Anwendung von GenAI-Lösungen zu fördern, zum Beispiel durch Schulungen zum Prompting, dem Interagieren mit Sprachmodellen durch kurze Sprachbefehle und Fragen. Auch gilt es mögliche Sorgen von Beschäftigten aufzugreifen, etwa hinsichtlich der Auswirkungen auf den eigenen Tätigkeitsbereich. Die Einbeziehung von etablierten Vorreitereinheiten, wie beispielsweise den Datenlaboren der Bundesministerien, und ein behördenübergreifender Austausch zu KI können als Vehikel zur Vertrauensbildung dienen. Bürger:innen sollten transparent über die Ziele, die die Verwaltung mit der Nutzung von generativer KI verfolgt, positive Auswirkungen, aber auch Grenzen der  Technologie informiert werden. Es gilt, Transparenz hinsichtlich Datenschutz und -sicherheit zu schaffen, damit GenAI in einem sicheren Rahmen als verlässliche Technologie wahrgenommen wird.

Erfolgsfaktoren für die technische Skalierung

3. Förderung einer zentralen Bereitstellung von GenAI-Lösungen

Ein Kernelement zur Förderung einer flächendeckenderen Nutzung von GenAI kann die Bündelung und zentrale Bereitstellung von funktionalen GenAI-Lösungen für Verwaltungsorganisationen sein. Ein eigenes Hosting von GenAI-Modellen stellt viele Behörden sowohl hinsichtlich der benötigten Fähigkeiten als auch der entsprechenden Infrastruktur vor große Herausforderungen. Außerdem wäre eine komplett dezentrale Erschließung von Modellen und Anwendungsfällen in vielen Fällen ineffizient und redundant. Eine möglichst zentrale und niedrigschwellige Bereitstellung von Modellen mit einem sicheren und zügigen Zugriff würde insbesondere kleineren Behörden eine Erschließung der Potenziale von GenAI ermöglichen. Eine solche Bündelung sollte sowohl die Beschaffung und Verfügbarmachung von in der Cloud gehosteten Modellen als auch die Bereitstellung von On-Premise-Modellen umfassen. Eine zentrale Bündelung von Angeboten birgt wesentliche Vorteile:

Möglichkeit zur Vereinheitlichung von technischen Schnittstellen, Datenformaten, Anfragen (Prompts) und technischen Architekturlösungen.

Schaffung einer einheitlichen Governance für den flächendeckenden Einsatz von GenAI-Lösungen inklusive technischer „Risikoleitplanken“, sogenannter Guardrails.

Zentrale Bündelung von Fachwissen zur Bereitstellung von Modellen und zur Umsetzungsbegleitung.

Vorteilhaftere Positionierung durch Skaleneffekte in der Verhandlung mit Anbietern von GenAI-Lösungen.

4. Ausbau der bestehenden technischen Infrastruktur

Für die Skalierung von GenAI-Lösungen in der öffentlichen Verwaltung bedarf es einer geeigneten technischen Infrastruktur. GenAI-Lösungen benötigen über den Zugriff auf ein passendes Sprachmodell hinaus eine Vielzahl von Komponenten wie Datenplattformen, Vektordatenbanken, Frontend- und Backend-Infrastruktur sowie Prompt Libraries. Insbesondere Lösungen zur Verwaltung von behördeneigenen Daten, wie Software oder Prozesse zur Gewährleistung einer hohen Datenqualität, sind angesichts der Relevanz qualitativ hochwertiger Inputdaten für GenAI-Modelle von hoher Bedeutung.

Die genannten Infrastrukturelemente sollten von IT-Dienstleistern des Bundes flexibel einsetzbar angeboten werden und kurzfristig skalierbar sein. Alternativ können Behörden eine solche Infrastruktur von Drittanbietern beziehen. Entscheidend ist, dass die Lösungen aufeinander abgestimmt sind und Verwaltungen sie als „Paketlösung“ beziehen können. Dies begrenzt nicht nur die Komplexität der Systeme, sondern erlaubt auch, Bedarfe besser und schneller zu erfüllen. Erforderliche Ressourcen sollten verlässlich und schnell bezogen werden können, ohne lange Vorlaufzeiten und durch effektive, aber schlanke Genehmigungsverfahren.

Erfolgsfaktoren für die beschleunigte Skalierung

5. Systematischer Ausbau von Fähigkeiten sowie Gewinnung von GenAI-Talent

Um GenAI-Lösungen flächendeckend entwickeln und einsetzen zu können, ist der Aus- bzw. Aufbau relevanter Fähigkeiten innerhalb der Verwaltung notwendig. Es werden zusätzliche Fachkräfte wie Data- und Software Engineers benötigt und ein Großteil der Beschäftigten muss über Fähigkeiten zur sicheren Interaktion mit KI-Modellen verfügen. Wegen des starken Wettbewerbs ist die Rekrutierung von Fachkräften mit relevanten Fähigkeiten eine große Herausforderung. Zielgerichtete Recruiting-Veranstaltungen und Partnerschaften mit Universitäten können die Erfolgsaussichten verbessern. Im Wettbewerb mit der Privatwirtschaft muss die öffentliche Verwaltung für neue Talente attraktiver werden, etwa durch spezielle Vergütungsmodelle, klare Weiterentwicklungspfade, modern ausgestattete Arbeitsplätze und flexible Arbeitsmodelle. Es bedarf erheblich kürzerer Bewerbungs- und Einstellungsprozesse und effektiver Bindungsprogramme. In Anbetracht des Wettbewerbs um neues Talent gilt es vor allem auch, die vorhandene Belegschaft systematisch zu schulen und zu befähigen. Adäquate Lernmodule und -reisen, interne Rotationsprogramme und externe Angebote können als niedrigschwelliger Einstieg dienen, um erste GenAI-Erfahrungen zu sammeln. So wie bei GenAI Prompt – einer Testumgebung zur Nutzung von Open-Source-Sprachmodellen für Beschäftigte der öffentlichen Verwaltung.

6. Förderung des Austauschs von GenAI-Lösungen

Erste GenAI-Lösungen wurden bereits erfolgreich pilotiert und umgesetzt, etwa in Form von Chatbots zur Beantwortung von Bürgeranfragen und Synthesewerkzeugen für Förderberichte. Zurzeit erfolgen Entwicklung und Pilotierung von Lösungen meist dezentral in einzelnen Einrichtungen; erfolgsversprechende Anwendungen sind oft nicht behördenübergreifend bekannt und können kaum niedrigschwellig geteilt werden. Es gilt, einen unkomplizierten und aufwandsarmen Austausch von GenAI-Lösungen zu ermöglichen, um Mehrfachaufwände für sehr ähnliche Anwendungsbedarfe zu vermeiden. Hierfür bieten sich verschiedene technische Ansätze an, zum Beispiel die Bereitstellung einer gemeinsamen technischen Plattform, auf welcher der Code von Anwendungsfällen ausgetauscht werden kann. Denkbar wäre auch ein zentrales System beziehungsweise eine Wissensdatenbank, die behördenübergreifende Transparenz über bestehende Anwendungen schafft und so den Austausch fördert. Vermehrter Austausch von funktionalen Lösungen kann außerdem den Aufwand für Betrieb und Wartung senken, etwa bei der technischen und rechtlichen Prüfung sowie Zertifizierung. Überdies fördert der Austausch von funktionalen und abgenommenen Lösungen die Einhaltung von technischen und regulatorischen Standards.

7. Etablierung eines effektiven Risikomanagements von GenAI

Die Nutzung von GenAI-Lösungen ist mit Risiken verbunden. Ein adäquates Risikomanagement hilft, relevante Risiken zu identifizieren und gesamthaft zu bewerten. Vorteile und Risiken werden abgewogen und bei Bedarf aktiv mitigiert. Einheitliche Standards zur Risikobewertung technischer Lösungen und übergreifende Kontroll-mechanismen wie Risiko-Audits können helfen, Risiken zu vermeiden. Ein effektives Risikomanagement sollte unter anderem die folgenden Elemente beinhalten:

Input-Monitoring. Bereinigung beziehungsweise Anonymisierung von persönlichen oder anderweitig sensiblen Input-Daten, bevor diese durch GenAI-Lösungen genutzt oder über Schnittstellen bereitgestellt werden (sogenannte „Scrubber“ für persönliche Daten).

Output-Monitoring und Leitplanken (Guardrails). Verankerung einer systematischen Prüfung des Outputs von GenAI-Lösungen, etwa auf anstößige Inhalte und rechtskonforme Formulierungen, sowie Etablierung von Methoden zur besseren Nachvollziehbarkeit von GenAI-generierten Ergebnissen (beispielsweise durch Kenntlichmachung von Quellen).

Protokollierung. Schaffung von Transparenz und Nachvollziehbarkeit hinsichtlich der Nutzung von GenAI-Lösungen durch automatisierte, zentrale Dokumentierung ihrer Inputs und Outputs.

Sicherstellung von Flexibilität. Vermeidung einseitiger Abhängigkeiten (etwa von einem Anbieter) durch technische Abstraktionen, Nutzung von anbieteragnostischer Software und bewusstes Management von Verträgen.

Gelingt so die flächendeckende Skalierung von GenAI, kann dies ein echter Gamechanger sein – für eine schlankere, schnellere und bürgernahe Verwaltung der Zukunft

Download Artikel "Generative künstliche Intelligenz in der öffentlichen Verwaltung – sieben Erfolgsfaktoren für eine flächendeckende Nutzung" (mit allen Infokästen und Schaubildern)