NEGZ-Impulspapier: KI-Sprachmodelle für eine zukunftsfähige öffentliche Verwaltung

Der Round Table „Große Sprachmodelle für die öffentliche Verwaltung” wurde im September 2023 vom NEGZ Kompetenznetzwerk Digitale Verwaltung organisiert und unter der Leitung von Prof. Dr. Christian Djeffal und Philipp Mehl LL.M. (TU München) durchgeführt. Bei diesem Diskussionsformat kamen Expert:innen aus Wissenschaft, Verwaltung, Wirtschaft und Zivilgesellschaft zusammen, um über die Potentiale und Herausforderungen generativer KI-Assistenzmodelle für die öffentliche Verwaltung zu diskutieren. Im Fokus des Round-Table-Gesprächs stand die Frage, wie diese Dienste die Verwaltung effizienter und bürgernäher gestalten und gleichzeitig wichtige Aspekte wie Datenschutz, Transparenz und ethische Standards gewährleisten können. Die Diskussion gliederte sich in die drei Themenblöcke „Anwendung”, „Infrastruktur” und „Regulierung”.
 
Zentrale Erkenntnisse:

• Bürgerservice und Kommunikation: Elektronische Bürgerassistenten und Chatbots können Anfragen von Bürger:innen rund um die Uhr bearbeiten. Außerdem übersetzen sie Behördentexte in leicht verständliche Sprache und bauen durch Simultanübersetzungen Sprachbarrieren ab. Dadurch entlasten sie Mitarbeitende in Verwaltungen bei der Antragsbearbeitung, Kommunikation und bei komplexen Entscheidungsprozessen (Einspruch/Widerspruch). Erste Pilotprojekte, in denen generative KI-Anwendungen eingesetzt wurden, wie z. B. das Projekt F13 - Verwaltungsassistenzsystem im Staatsministerium Baden-Württemberg, konnten bereits positive Erfahrungen liefern und Vorbehalte abbauen.
• Infrastruktur: Große Sprachmodelle laufen auf unterschiedlichen Systemen, die je nach Anforderungen und Einsatzbereich in den Verwaltungen variieren können. Wer für die Implementierung großer Sprachmodelle zuständig ist (z. B: Softwareunternehmen oder IT-Abteilungen in der Verwaltung) und an welche Systeme diese Dienste in der bestehenden IT-Landschaft integriert werden können, muss vor dem Einsatz geklärt werden. Außerdem sind sowohl Cloud- als auch On-Premise-Lösungen bei sensiblen Daten in die Überlegungen miteinzubeziehen. Die Gewährleistung von Datenschutz, ethischen Standards sowie klar definierten Verantwortlichkeiten stellt dabei ein grundlegendes Erfordernis dar.
• Regulatorischer Rahmen: KI-Entscheidungen sollten nachvollziehbar und klar kommuniziert werden. Die Durchführung weiterer Implementierungsprojekte sowie die Einbindung verschiedener Interessengruppen sind von entscheidender Bedeutung, um Vorbehalte und Ängste zu nehmen und Vertrauen für diese Technologie zu schaffen und deren Akzeptanz zu fördern.

Das Impulspapier verdeutlicht, dass große Sprachmodelle als unterstützende Systeme dienen sollen, um Mitarbeitende bei Routineaufgaben zu entlasten und um Bürger:innen einen zeitnahen und personalisierten Service zu bieten. Eine schrittweise Einführung dieser Modelle und eine kontinuierliche Evaluation befürworten die Teilnehmer des NEGZ Round Table. Zudem ist der Einsatz von KI-Technologien nur zu empfehlen, wenn diese an den entsprechenden Verwaltungsbedarf zugeschnitten sind und bestehende Datenschutz- und Sicherheitsstandards eingehalten werden. In der Diskussion wird ein Kulturwandel hin zu mehr Offenheit und Partizipation als entscheidend erachtet, um die Akzeptanz und den effektiven Einsatz von großen Sprachmodellen in der Verwaltung zu fördern.
 
In ihrem Fazit halten die Autoren fest, dass der Einsatz großer Sprachmodelle in der öffentlichen Verwaltung noch am Anfang steht und von Grundsatzfragen wie Verantwortlichkeiten oder der Nachvollziehbarkeit von Entscheidungen geprägt ist. Gleichzeitig entwickelt sich die Technologie rasant weiter, während die EU mit dem KI-Gesetz die Grenzen auf regulatorischer Ebene neu definiert.
 
Die wesentlichen Erkenntnisse des Impulspapiers wurden am 24. Februar im Rahmen von „Digitaler Staat Online” des Behörden Spiegel und auf dem NEGZ YouTube-Kanal vorgestellt: https://www.digitaler-staat.online/events/grossesprachmodelle/
 
Das Impulspapier „Große Sprachmodelle in der öffentlichen Verwaltung” kann vollständig als Download auf der Website des NEGZ abgerufen werden.