Digitalisierung: Wie Verwaltung und Justiz automatisiert werden könnten

Dieser Artikel stammt von Netzpolitik.org.

Digitalisierung: Wie Verwaltung und Justiz automatisiert werden könnten

Wenn es nach der schwarz-roten Koalition geht, soll sogenannte Künstliche Intelligenz die deutsche Bürokratie vereinfachen. Aber wie nutzen Justiz und Verwaltung KI bereits? Und was kann eigentlich schiefgehen?

Einfacher und digitaler soll die Verwaltung werden, so steht es im Koalitionsvertragsentwurf zwischen Union und SPD. Dabei soll sogenannte Künstliche Intelligenz (KI) Deutschland zur „KI-Nation“ machen.

Doch wie können Verwaltung und Justiz KI einsetzen? Die Wissenschaftlichen Dienste des Deutschen Bundestags veröffentlichten dazu einen Kurzbericht, der auch Risiken bei KI-Nutzung aufarbeitet. Der Bericht definiert KI zwar breit, nutzt aber vorwiegend Beispiele in der Verwaltung, die nur aus dem Bereich generativer KI stammen. Die zunehmende Umdefinition der KI führt dazu, dass fast ausschließlich große Sprachmodelle beispielhaft angeführt werden.

Potentiale in der Verwaltung

Die Wissenschaftlichen Dienste beziehen sich in ihrem Kurzbericht auch auf Umfrageergebnisse. Im Auftrag von Google – selbst Anbieter im KI-Markt – führte die IW Consult eine Befragung durch, um die Möglichkeiten der KI-Nutzung in der Verwaltung zu ergründen. IW Consult ist ein arbeitgebernahes Wirtschaftsforschungsunternehmen, das von Wirtschaftsverbänden und Privatunternehmen finanziert wird.

Die Befragung bezog sich auf generative KI, also den Einsatz großer Sprachmodelle. Mehr als die Hälfte der Verwaltungsmitarbeiter*innen gab demnach an, generative KI bereits als Assistenz für Internetrecherchen, Übersetzungen und Datenanalysen zu nutzen. Der Studie nach könnte generative KI etwa 70 Prozent der Arbeitsplätze unterstützen und 12 Prozent teilweise oder vollständig automatisieren. Weiteres Potential sieht eine Fraunhofer-Studie in Verwaltungs-Chatbots, persönlichen KI-Assistenten und bei der Sachbearbeitung.

Generative KI in der Justiz

Auch in der Justiz interessiert man sich zunehmend für solche generativen KI-Systeme. Zum Beispiel forschen die Justizministerien Bayerns und Nordrhein-Westfalens gemeinsam an dem sogenannten Generativen Sprachmodell der Justiz. Es soll unter anderem Texte auf relevante Stellen durchsuchen und bei der Strukturierung von Gerichtsprozessen helfen. Die Ministerien wollen das Sprachmodell mit anonymisierten Daten aus beiden beteiligten Bundesländern füttern und nach erfolgreicher Entwicklung quelloffen zur Verfügung stellen.

In Niedersachsen wird an einem Werkzeug gearbeitet, das bei sogenannten Massenverfahren Routinearbeit übernehmen soll. Massenverfahren sind inhaltlich sehr ähnliche Prozesse wie zum Beispiel Asylverfahren oder Klagen wegen Flugverspätungen. Die generative KI soll diese Verfahren beschleunigen und den Gerichten helfen, schneller auf neue „Massenphänomene“ zu reagieren.

Die Friedrich-Alexander-Universität Erlangen-Nürnberg forscht daran, manuelle Anonymisierungsarbeiten überflüssig zu machen. Gerichte veröffentlichen teilweise ihre Urteile. Um die Privatsphäre der beteiligten Personen zu schützen, werden in den Urteilen persönliche Daten durch Kürzel ersetzt. Das neue KI-Modell der Friedrich-Alexander-Universität soll diese Arbeit automatisieren.

Risiken und Nebenwirkungen

Das am besten untersuchte Risiko generativer KI ist die hohe Fehleranfälligkeit und Unzuverlässigkeit im produktiven Einsatz. Im Bezug auf weitere Risiken der KI-Nutzung verweisen die Autor*innen auf den International AI Safety Report 2025 der Regierung des Vereinigten Königreichs. Dieser Bericht fokussiert wiederum auf generative KI. Demnach haben gefälschte Videos, Bilder und Tonaufnahmen das Potential, Personen beispielsweise durch Betrug gezielt zu schaden. Kriminelle könnten etwa die Stimme einer Person nachahmen, um Geld zu erpressen oder eine Überweisung zu verifizieren.

Generative KI-Systeme sind darauf spezialisiert, Muster in ihren Lerndaten zu erkennen und wiederzugeben. Die KI käut so diskriminierende Sprache und Verhaltensweisen einfach wieder, zum Beispiel gegenüber einem Geschlecht oder einer Kultur. Der „International AI Safety Report“ weist darauf hin, dass aktuelle generative KI-Systeme solche systematische Diskriminierung häufig reproduzieren.

Das Bundesamt für Sicherheit in der Informationstechnik weist auf inhaltliche Angriffe auf generative KI-Modelle hin. Sogenannte Poisoning Attacks der Trainingsdaten können bewusste Fehlfunktionen herbeiführen. Privacy Attacks hingegen zielen darauf ab, Rückschlüsse auf Trainingsdaten zu ziehen.

Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel

Author: Christoph Bock