Carsten Maschmeyers naiver Wunschglaube? KI-Revolution in der deutschen Verwaltung: Das organisatorische Kernproblem

Schluss mit dem Behörden-Wahnsinn? Die Wahrheit hinter dem organisatorischen Kernproblem Deutschlands

Kann künstliche Intelligenz unsere Ämter wirklich retten?

Carsten Maschmeyer, bekannt als Investor aus der TV-Show “Die Höhle der Löwen”, hat im Januar 2026 im Interview mit der Neuen Osnabrücker Zeitung eine weitreichende Forderung aufgestellt: Die deutsche Verwaltung müsse durch Künstliche Intelligenz ersetzt werden, und zwar quasi komplett. Seine Argumentation folgt einer technokratischen Logik, die auf maximale Effizienzsteigerung abzielt. Maschmeyer verspricht, dass mit einem umfassenden KI-Einsatz Entscheidungen binnen Sekunden getroffen werden könnten. Deutschland würde damit seiner Ansicht nach endlich wieder weltweit zum Vorreiter bei innovativen Verwaltungsstrukturen.

Der Investor begründet seinen Vorschlag mit der gegenwärtigen Situation deutscher Behörden, die er als zu langsam, zu teuer und nicht mehr zeitgemäß charakterisiert. Besonders kritisiert er die wenig kreative Natur vieler Verwaltungstätigkeiten: Das Überprüfen, ob bei einem Antrag auf einen neuen Personalausweis alle Kästchen richtig angekreuzt sind, erfordere seiner Meinung nach keine menschliche Kreativität. Genehmigungen, Förderanträge und Verwaltungsakte könnten seiner Ansicht nach problemlos von einem Computer bearbeitet werden. Nur Sonderfälle sollten weiterhin von Menschen bearbeitet werden.

Die wirtschaftlichen Implikationen dieser Vision sind erheblich. Maschmeyer argumentiert, dass durch den drastischen Personalabbau in den Behörden langfristig auch die Pensionslasten deutlich reduziert würden. Ihm geht es nach eigener Aussage nicht primär um Entlassungen, sondern um Schnelligkeit und Effizienzsteigerung. Als konkretes Beispiel nennt er eine deutsche Großstadt, in der trotz eines Rückgangs der Bauanträge um 30 Prozent die Bearbeitungszeit sich verdoppelt habe. Diese Ineffizienz sei für niemanden mehr nachvollziehbar.

Passend dazu:

• Bürokratie-Falle „Gold Plating“: Warum Deutschland oft strenger ist, als die EU verlangt

Welches fundamentale Problem steckt hinter der deutschen Verwaltungsbürokratie?

Die eigentliche Ursache für die Probleme in der deutschen Verwaltung liegt nicht in böswilligem Handeln einzelner Beamter, sondern in der institutionellen Logik des Systems selbst. Jede Institution entwickelt strukturelle Eigeninteressen, die gegen Vereinfachung und Abbau von Bürokratie arbeiten. Dieses Phänomen ist in der Verwaltungswissenschaft gut dokumentiert und beschreibt die Tendenz von Organisationen zur Selbsterhaltung und zum Wachstum.

Die institutionellen Eigeninteressen manifestieren sich auf mehreren Ebenen. Erstens hat die Verwaltung als Ganzes ein Interesse daran, ihre Bedeutung und Ressourcenausstattung zu erhalten oder auszubauen. Zweitens profitieren einzelne Abteilungen und Mitarbeiter von komplexen Strukturen, die ihre spezielle Expertise unverzichtbar machen. Drittens schaffen gesetzliche Vorgaben und Prozesse Pfadabhängigkeiten, die sich nur schwer durchbrechen lassen. Die Verwaltung kann in erster Linie nur reagieren, nicht agieren, da sie an Gesetzesvollzug gebunden ist.

Ein oft übersehener Aspekt ist die Rolle externer Berater in diesem System. Beratungsunternehmen haben ein Geschäftsmodell entwickelt, das geradezu von der Komplexität der Bürokratie profitiert und langfristig darauf ausgerichtet ist. Je komplizierter die Verwaltungsstrukturen, desto höher der Beratungsbedarf. Diese Berater haben daher kein Interesse an radikaler Vereinfachung, sondern verdienen an der Optimierung bestehender komplexer Systeme. Dies schafft ein perverses Anreizsystem, in dem diejenigen, die Lösungen anbieten sollen, von der Existenz des Problems profitieren.

Das fehlende Korrektiv verschärft die Situation zusätzlich. Die politische Führung ist oft nicht in der Lage oder nicht willens, strukturelle Reformen durchzusetzen, da diese mit erheblichen Widerständen verbunden sind. Hinter fast jeder Verwaltungsstruktur und Rechtsvorschrift stehen spezielle Interessen, die vom Status quo profitieren. Die öffentliche Diskussion wird dadurch durch eine Art doppelte Moral geprägt: Alle fordern Bürokratieabbau und Deregulierung, aber wenn es konkret wird, verteidigen die Betroffenen ihre jeweiligen Regelungen.

Passend dazu:

• Der zentrale Widerspruch: Debürokratisierung, beraten von den Profiteuren der Bürokratie – Der Fehler im System Bürokratieabbau

Wie hoch sind die tatsächlichen Kosten der deutschen Bürokratie?

Die Dimension der Bürokratiebelastung in Deutschland ist immens. Nach aktuellen Zahlen des Statistischen Bundesamts vom Januar 2026 belaufen sich die Bürokratiekosten für deutsche Unternehmen allein durch Berichtspflichten auf 62,5 Milliarden Euro pro Jahr. Diese Zahl ist gegenüber dem Vorjahr leicht gesunken, liegt aber immer noch auf extrem hohem Niveau. Die Anzahl der Informationspflichten wurde von 12.390 im Januar 2025 auf 12.364 reduziert – eine nur marginale Verbesserung.

Das ifo Institut kommt in einer umfassenderen Studie zu noch dramatischeren Ergebnissen. Die Forscher berechneten sowohl direkte als auch indirekte Kosten der Bürokratie und kamen zu dem Schluss, dass Deutschland wegen überbordender Bürokratie bis zu 146 Milliarden Euro pro Jahr an Wirtschaftsleistung entgehen. Diese Schätzung berücksichtigt nicht nur die direkten Erfüllungskosten, sondern auch die indirekten Folgekosten und Opportunitätskosten, die durch verzögerte Projekte, gebundenes Kapital und Rechtsunsicherheit entstehen.

Besonders drastisch zeigt sich die Belastung im Mittelstand. Eine DIHK-Studie zum Gastgewerbe offenbart, dass Unternehmen in dieser Branche mit 125 gesetzlichen Verpflichtungen konfrontiert sind, von denen 43 Prozent branchenspezifisch sind. Erschreckend ist, dass 40 bis 70 Prozent dieser Verpflichtungen nicht im Zusammenhang mit dem eigentlichen Unternehmensprozess stehen, sondern lediglich behördlichen Anforderungen dienen. Mittelständische Unternehmen im Gastgewerbe müssen durchschnittlich 2,5 Prozent ihres Jahresumsatzes für Bürokratie aufwenden, was zwischen 12.000 und 60.000 Euro pro Jahr entspricht. Viele Unternehmer leisten durchschnittlich 14 Überstunden pro Woche, nur um staatlichen Pflichten nachzukommen.

Im internationalen Vergleich schneidet Deutschland besonders schlecht ab. Bei der Dauer von Genehmigungs- und Planungsverfahren liegt Deutschland nach OECD-Daten regelmäßig im oberen Drittel der Industrieländer, insbesondere bei Bau- und Infrastrukturprojekten. Der Erfüllungsaufwand für Steuererklärungen ist in Deutschland mit 218 Stunden pro Jahr fast doppelt so hoch wie in Schweden mit 122 Stunden.

Warum ist Maschmeyers Forderung als plakativ zu bewerten?

Ja, plakativ, aber ein Anstoß in die Öffentlichkeit! Da müssen die Medien mehr draus machen!

Maschmeyers Aussagen mögen auf den ersten Blick bestechend einfach erscheinen, sind aber bei genauerer Betrachtung als unrealistisch und gefährlich vereinfachend einzustufen. Die Forderung nach einer quasi vollständigen Ersetzung der Verwaltung durch KI ignoriert grundlegende rechtliche, technische und gesellschaftliche Realitäten. Es handelt sich nicht um eine durchdachte Reformstrategie, sondern um einen frommen Wunsch, der die Komplexität moderner Staatlichkeit verkennt.

Die technischen Limitationen werden in Maschmeyers Darstellung völlig ausgeblendet. KI-Systeme können zwar strukturierte Aufgaben mit klaren Regeln effizient bearbeiten, stoßen aber bei komplexen Einzelfallentscheidungen, Ermessensspielräumen und der Abwägung widerstreitender Interessen schnell an ihre Grenzen. Die öffentliche Verwaltung ist gerade durch solche komplexen Abwägungsentscheidungen geprägt, die nicht einfach in Algorithmen übersetzt werden können. KI kann unter Umständen Texte klassifizieren, Dokumente prüfen, Fälle vorsortieren und Hinweise auf Unstimmigkeiten liefern, aber die Verantwortung für Entscheidungen mit Rechtswirkung kann nicht einfach an Maschinen delegiert werden.

Die rechtlichen Hürden sind erheblich. Die öffentliche Verwaltung unterliegt strengen Datenschutz- und Regulierungsanforderungen. Die Datenschutz-Grundverordnung stellt hohe Anforderungen an automatisierte Entscheidungen, insbesondere wenn diese rechtliche Wirkungen entfalten oder betroffene Personen erheblich beeinträchtigen. Nach Artikel 22 DSGVO haben Betroffene grundsätzlich das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden. Dies gilt besonders für Entscheidungen mit erheblicher Bedeutung.

Die mangelnde Transparenz vieler KI-Systeme widerspricht rechtsstaatlichen Grundsätzen. Verwaltungsentscheidungen müssen nachvollziehbar und begründbar sein. KI-Systeme arbeiten aber oft als “Black Box”, deren Entscheidungswege nicht transparent sind. Dies führt zu erheblichen Problemen bei der rechtlichen Kontrolle und bei der Wahrung von Grundrechten. Falsche Ergebnisse der KI, sogenannte Halluzinationen, und mögliche Voreingenommenheit bei Ergebnissen durch Bias in den Trainingsdaten stellen zusätzliche Risiken dar.

Welche konkreten Herausforderungen verhindern den flächendeckenden KI-Einsatz in der Verwaltung?

Die Liste der Hindernisse für einen umfassenden KI-Einsatz in der öffentlichen Verwaltung ist lang und fundamental. An erster Stelle steht die fehlende regulatorische Klarheit. Viele KI-Projekte scheitern bereits in der Planungsphase, weil unklar ist, wie sich gesetzliche Vorgaben einhalten lassen. Die Unsicherheit in Bezug auf die DSGVO sowie weitere Vorschriften führt dazu, dass Behörden oft zögerlich bei der Einführung von KI-Lösungen handeln. Oft mangelt es an standardisierten Richtlinien oder Erfahrungen im Umgang mit sensiblen Daten. Behörden haben berechtigte Sorge vor Datenschutzverstößen, die mit hohen Strafen bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Jahresumsatzes verbunden sein können.

Die Datenqualität stellt eine weitere zentrale Herausforderung dar. KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. In der öffentlichen Verwaltung sind Daten oft fragmentiert, nicht standardisiert und über verschiedene Systeme verteilt. Die föderale Struktur Deutschlands mit verteilten Zuständigkeiten auf Bundes-, Landes- und Kommunalebene verschärft dieses Problem erheblich. Uneinheitliche Vorgaben auf verschiedenen Ebenen erschweren die Umsetzung von KI-Projekten zusätzlich.

Der Fachkräftemangel und fehlende technische Expertise in den Behörden behindern die Implementierung erheblich. Viele Kommunen haben weder die finanziellen Mittel noch die personellen Kapazitäten, um KI-Projekte umzusetzen. Bis 2035 wird nach Daten des Statistischen Bundesamts ein Drittel der Beschäftigten im öffentlichen Dienst altersbedingt ausscheiden. Dies führt zu einem dramatischen Wissensverlust und verschärft den Personalmangel. Gleichzeitig fehlt es an Nachwuchs, insbesondere mit digitalen und KI-Kompetenzen.

Die politische und organisatorische Trägheit ist ebenfalls nicht zu unterschätzen. Verwaltungsreformen sind in Deutschland traditionell schwer durchzusetzen. Die fragmentierte Staatsarchitektur und die föderal stark zersplitterten Zuständigkeiten sind kein gutes Pflaster für eine zielorientierte Verwaltungsreform. Es gibt in Deutschland keine kohärente Verwaltungspolitik, die die unterschiedlichen Verwaltungsebenen zusammenführt. Das Interesse der Parlamente an Verwaltungspolitik ist bislang unzureichend entwickelt.

Unsere EU- und Deutschland-Expertise in Business Development, Vertrieb und Marketing - Bild: Xpert.Digital

Branchenschwerpunkte: B2B, Digitalisierung (von KI bis XR), Maschinenbau, Logistik, Erneuerbare Energien und Industrie

Mehr dazu hier:

• Xpert Wirtschaft Hub

Ein Themenhub mit Einblicken und Fachwissen:

• Wissensplattform rund um die globale wie regionale Wirtschaft, Innovation und branchenspezifische Trends
• Sammlung von Analysen, Impulsen und Hintergründen aus unseren Schwerpunktbereichen
• Ein Ort für Expertise und Informationen zu aktuellen Entwicklungen in Wirtschaft und Technologie
• Themenhub für Unternehmen, die sich zu Märkten, Digitalisierung und Brancheninnovationen informieren möchten

Welche Risiken birgt eine überstürzte Automatisierung der Verwaltung?

Die Gefahren einer zu schnellen und umfassenden Automatisierung sind vielfältig und potenziell gravierend. An erster Stelle steht das Risiko systematischer Diskriminierung. KI-Systeme können Vorurteile und Verzerrungen aus ihren Trainingsdaten übernehmen und diese in großem Maßstab reproduzieren. Wenn beispielsweise historische Verwaltungsentscheidungen, die diskriminierende Muster enthielten, als Trainingsdaten verwendet werden, perpetuiert die KI diese Diskriminierung. Besonders problematisch ist, dass solche systematischen Fehler oft schwer zu erkennen sind und bestimmte Bevölkerungsgruppen strukturell benachteiligen können.

Der Verlust menschlicher Einzelfallgerechtigkeit ist ein weiteres zentrales Problem. Verwaltungsentscheidungen erfordern oft die Berücksichtigung individueller Lebensumstände, Härtefälle und besonderer Situationen. Eine standardisierte algorithmische Bearbeitung kann diesen Besonderheiten nicht gerecht werden. Die Reduktion komplexer sozialer Realitäten auf binäre Entscheidungen führt zu Ungerechtigkeit und sozialen Härten. Dies widerspricht dem Grundsatz der Einzelfallgerechtigkeit, der ein Kernprinzip des Rechtsstaats ist.

Die mangelnde Nachvollziehbarkeit automatisierter Entscheidungen untergräbt das Vertrauen in staatliche Institutionen. Wenn Bürger nicht verstehen, warum eine Behörde eine bestimmte Entscheidung getroffen hat, und keine menschlichen Ansprechpartner zur Verfügung stehen, führt dies zu Frustration und Entfremdung. Das Gefühl, einer undurchschaubaren Maschinerie ausgeliefert zu sein, kann demokratiegefährdend wirken. Die Verwaltung verliert ihre menschliche Dimension und wird zu einem unpersönlichen technokratischen Apparat.

Die Abhängigkeit von Technologieanbietern schafft neue Risiken. Wenn kritische Verwaltungsfunktionen von proprietären KI-Systemen abhängen, gerät der Staat in Abhängigkeit von privaten Unternehmen. Dies betrifft sowohl die technische Abhängigkeit als auch die Datensouveränität. Systemausfälle, Sicherheitslücken oder wirtschaftliche Probleme der Anbieter können dann unmittelbar die Handlungsfähigkeit des Staates beeinträchtigen. Die zunehmende Integration von KI in den Alltag führt zu wachsender Abhängigkeit, wobei das Verständnis der Grenzen der KI oft fehlt.

Passend dazu:

• Bürokratie und die „Black Box“ der EU: Wo Gesetze wirklich entstehen – und warum wir nicht zusehen dürfen

Was zeigt die bisherige Erfahrung mit KI-Projekten in der Verwaltung?

Die Realität der KI-Implementation in der öffentlichen Verwaltung ist ernüchternd. Während KI im privaten Sektor bereits in vielen Unternehmen für die Optimierung von Prozessen eingesetzt wird, steckt die Anwendung in der öffentlichen Verwaltung oft noch in den Kinderschuhen. Die Mehrheit der Organisationen befindet sich in einer experimentellen oder explorativen Phase, in der grundlegende Fragen zu Technologie, Datenschutz und Anwendungsmöglichkeiten noch geklärt werden müssen.

Viele Verwaltungsprozesse sind stark standardisiert und bieten wenig Raum für innovative Ansätze. Während Unternehmen agil auf neue Technologien reagieren können, sind Behörden häufig an strengere gesetzliche Rahmenbedingungen gebunden, die Veränderungen verlangsamen. Studien zeigen zwar, dass theoretisch bis zu 82 Prozent der Verwaltungsmitarbeitenden durch KI-Technologien entlastet werden könnten, doch erfolgreiche KI-Projekte in der öffentlichen Verwaltung sind eine Seltenheit. Die Kluft zwischen theoretischem Potenzial und praktischer Umsetzung ist enorm.

Die wenigen existierenden Pilotprojekte bleiben oft Insellösungen, die nicht skaliert werden können. Sie sind gebremst durch Datenschutzauflagen, fehlende IT-Standards und politische Vorsicht. Ein Beispiel für ambitionierte Ansätze ist das Projekt KärntenGPT in Österreich, das zeigen soll, ob eine Verwaltung trotz massivem Personalabbau durch technologische Substitution handlungsfähig bleiben kann. Dieses Projekt gilt als erster Härtetest und demonstriert, dass die Vision einer weitgehend automatisierten Verwaltung zumindest technisch in Teilen umsetzbar ist, auch wenn die langfristigen Auswirkungen noch unklar sind.

Die Defizite bisheriger Digitalisierungsbemühungen sind struktureller Natur. Bei vielen Projekten hat sich gezeigt, dass nicht die einzelnen Instrumente und Maßnahmen ungenügend waren, sondern der Gesamtaufbau nicht stimmig ist. Ohne eine durchgängige Prozessbetrachtung, klare Datenstandards und nachvollziehbare Begründungsmechanismen entstehen neue Widersprüche, Gerichtsverfahren und Kontrollschleifen, die die erhoffte Beschleunigung wieder zunichtemachen. KI wird so zum Kostentreiber statt zur Entlastung.

Welche realistischen Einsatzszenarien gibt es für KI in der Verwaltung?

Trotz aller Herausforderungen gibt es durchaus sinnvolle und praktikable Anwendungsfälle für KI in der öffentlichen Verwaltung, die weit entfernt von Maschmeyers Maximalmaximalforderung liegen. Die erfolgversprechendsten Ansätze folgen einer Stufenlogik: Zunächst Assistenzsysteme und automatische Vorprüfung, dann teilautomatisierte Entscheidungen mit menschlicher Aufsicht, und erst zuletzt eine weitergehende Automatisierung in klar definierten Bereichen.

Standardisierte Chatbots und digitale Assistenten zur Unterstützung des Bürgerservices bieten gute Einstiegsmöglichkeiten. Sie können bei häufig gestellten Fragen zu Müllabfuhr, Formularen oder Öffnungszeiten unterstützen. Mit Open-Source-Lösungen oder durch Kooperation mit kommunalen IT-Dienstleistern lassen sich zudem Dokumentenklassifizierung, Terminmanagement oder einfache automatisierte Prozesse wie Antragsannahme kostengünstig umsetzen. Diese Anwendungen bieten echten Mehrwert ohne rechtliche oder ethische Risiken.

Das Auslesen von Dokumenten, die Plausibilitätsprüfung von Angaben, die Zuordnung zu Zuständigkeiten und die Priorisierung von Fällen nach Risiko sind weitere sinnvolle Einsatzgebiete. Hier kann KI tatsächlich entlasten, wenn sie als Assistenzsystem gebaut ist, das Entscheidungen vorbereitet und Abweichungen markiert, statt selbst finale Entscheidungen zu treffen. Die letzte Verantwortung und Entscheidungsgewalt muss bei Menschen bleiben, die die Vorschläge der KI kritisch prüfen und gegebenenfalls überstimmen können.

In einigen Bereichen kann KI auch bei der Erkennung von Mustern und Anomalien helfen, etwa bei der Betrugserkennung oder bei der Identifikation von Fällen, die besondere Aufmerksamkeit erfordern. Wichtig ist dabei, dass KI nicht als Ersatz für menschliche Expertise, sondern als Werkzeug zur Unterstützung verstanden wird. Die Systeme müssen transparent, nachvollziehbar und regelmäßig auf Bias überprüft werden. Eine systematische Übersicht über Chancen und Risiken betont, dass Wirkungsmessung, Governance und Risikomanagement oft über Erfolg oder Scheitern entscheiden.

Was muss geschehen, um echten Bürokratieabbau zu erreichen?

Der Schlüssel zu echter Verwaltungsreform liegt nicht in der technologischen Rundumerneuerung, sondern in der fundamentalen Aufgabenkritik und Prozessoptimierung. Bevor KI eingesetzt wird, muss zunächst geprüft werden, welche Regelungen, Nachweise und Dokumentationspflichten überhaupt noch sinnvoll und notwendig sind. Viele Vorschriften haben sich über Jahrzehnte angesammelt, ohne dass je eine systematische Prüfung ihrer Notwendigkeit erfolgte. Eine radikale Aufgabenkritik, die fragt, welche staatlichen Leistungen tatsächlich erbracht werden müssen und wie diese am effizientesten organisiert werden können, ist die Grundvoraussetzung.

Die Vereinfachung und Standardisierung von Prozessen muss Vorrang vor der Automatisierung haben. Es hilft nichts, ineffiziente analoge Prozesse einfach digital nachzubauen. Stattdessen müssen Verfahren grundlegend neu gedacht und vom Nutzer her konzipiert werden. Das Prinzip “Once Only” – Daten müssen nur einmal an den Staat übermittelt werden und können dann intern geteilt werden – ist hier zentral. Dies erfordert allerdings eine Überwindung von Silo-Denken und föderalen Grabenkämpfen.

Der politische Wille zur Durchsetzung ist entscheidend. Bürokratieabbau scheitert nicht an mangelndem Wissen über die Probleme, sondern an fehlender politischer Durchsetzungskraft gegen die institutionellen Widerstände. Es braucht verbindliche Mechanismen wie einen automatischen Regelungsabbau, bei dem für jede neue Vorschrift eine alte gestrichen werden muss. Die Einführung von Verfallsdaten für Regelungen, nach denen Vorschriften automatisch außer Kraft treten, wenn sie nicht aktiv erneuert werden, könnte helfen, den kontinuierlichen Anstieg der Regelungsdichte zu stoppen.

Die Schaffung gesellschaftlichen Drucks durch Information ist ebenfalls unverzichtbar. Die Bürger müssen verstehen, wie sehr die Bürokratie Innovation hemmt, Arbeitsplätze vernichtet und Wohlstand kostet. Nur wenn ein breites öffentliches Bewusstsein für die Dringlichkeit echter Reformen entsteht, wird die Politik gezwungen sein zu handeln. Transparenz über die tatsächlichen Kosten und Auswirkungen von Regulierungen ist dabei zentral. Es gilt aufzuwachen und gesellschaftlichen Druck auf dieses System über kontinuierliche Information aufzubauen, statt auf technologische Wunderlösungen zu hoffen.

Wie sollte eine verantwortungsvolle Digitalisierungsstrategie aussehen?

Eine sinnvolle Strategie zur Modernisierung der Verwaltung muss mehrere Prinzipien beachten. Erstens muss sie den Menschen in den Mittelpunkt stellen, nicht die Technologie. Der Einsatz von KI darf kein Selbstzweck sein, sondern muss an klaren Zielen, gesetzlichen Vorgaben und ethischen Prinzipien ausgerichtet werden. Nur durch eine kluge Kombination aus technischer Innovation, rechtlichem Rahmen und organisatorischer Verantwortung kann KI zur Stärkung der öffentlichen Verwaltung beitragen.

Zweitens braucht es eine realistische Einschätzung der Möglichkeiten und Grenzen von KI. KI ist ein Werkzeug, kein Allheilmittel. Die Systeme müssen so konzipiert werden, dass ihr Betrieb hinreichend transparent ist, damit die Nutzer die Ergebnisse angemessen interpretieren und verwenden können. Dies ist besonders wichtig, da KI-Einsatz in der Verwaltung als Hochrisiko-Anwendung gilt und strengen Auflagen unterliegt. Betroffene Mitarbeitende müssen geschult werden, die Grenzen und Fähigkeiten von KI-Systemen zu kennen, damit sie die Ausgaben regelmäßig prüfen können.

Drittens ist ein schrittweises, iteratives Vorgehen erforderlich. Statt großangelegter Transformationsprojekte sollten zunächst Pilotprojekte in klar definierten Bereichen durchgeführt, evaluiert und bei Erfolg skaliert werden. Diese Projekte müssen von Anfang an rechtssicher, transparent und unter Einbeziehung aller Stakeholder konzipiert werden. Die Erfolgsmessung muss nicht nur Effizienzgewinne, sondern auch Qualität der Entscheidungen, Bürgerzufriedenheit und Rechtssicherheit umfassen.

Viertens muss die digitale Souveränität gewahrt bleiben. Der Staat darf sich nicht in vollständige Abhängigkeit von privaten Technologieanbietern begeben. Dies erfordert Investitionen in eigene Kompetenzen, die Nutzung von Open-Source-Lösungen wo möglich, und klare vertragliche Regelungen zum Datenschutz und zur Kontrolle über kritische Systeme. Die Verwaltung muss in der Lage bleiben, ihre Kernfunktionen auch ohne KI zu erfüllen, um Resilienz zu gewährleisten.