Responsible AI in der öffentlichen Verwaltung: Theorie oder Praxis?

Das Thema

Generative KI wird in immer mehr Behörden genutzt und unterstützt bei der Dokumentenanalyse, erstellt Zusammenfassungen und Übersetzungen. Bei der Implementierung stehen oftmals Fragen der Anbindung von Informationsquellen, das Einfügen in ein Softwaresystem (Retrieval-Augmented Generation, RAG) und die Integration in andere Anwendungen im Vordergrund.  Je stärker KI bei Entscheidungen mitwirkt, desto mehr stellt sich die Frage, wie eine Behörde mit KI-basierten Vorentscheidungen oder Zwischenergebnissen umgeht. Hier kommt das Thema der sog. Responsible AI ins Spiel.

Zu einer verantwortungsvollen Nutzung von KI zählt ein systematischer Umgang mit Themen wie transparenten Regeln, nachvollziehbaren Entscheidungen, Kontrolle und Aufsicht über den Einsatz von KI-Tools sowie die organisationsinterne Entwicklung hinsichtlich einer Rollendefinition von Mitarbeiterinnen, ihrer Qualifizierung im Umgang mit KI und Anpassungen von Strukturen und Abläufen.

Wir möchten uns KI-Implementierung aus dieser organisationsinternen Perspektive näher anschauen und mit Euch über Eure Wege und Antworten verantwortungsvoll mit KI umzugehen, diskutieren. Zudem stellen wir Euch ein tool zur Selbsteinschätzung und Entwicklung eines verantwortungsvollen Umgangs mit KI vor.