Zum Inhalt

KI-Verwaltungsassistenz (KIVA) - Referenzarchitektur & -Implementierung für die Öffentliche Verwaltung

Chat-Frontend

Das Chat-Frontend fungiert als das "Gesicht" der KI-Plattform. Es ist eine benutzerfreundliche Web-Anwendung, die Verwaltungsmitarbeitenden den intuitiven Zugang zu großen Sprachmodellen (LLMs), Fachverfahren und Assistenten ermöglicht.

Anforderungen

An die Benutzerschnittstelle werden im Behördenumfeld hohe Anforderungen an Sicherheit, Integration und Barrierefreiheit gestellt:

  • SSL/TLS-Fähigkeit: Die Anwendung muss (nativ oder via Reverse Proxy) verschlüsselte Kommunikation erzwingen.
  • Authentifizierung & Provisionierung: Anbindung an zentrale Identity-Provider (z.B. Keycloak) via OIDC/OAuth2. Unterstützung von SCIM 2.0 zur automatisierten Synchronisation von Nutzern und Gruppen ist wünschenswert.
  • Cloud-Native Prinzipien: Einhaltung der Twelve-Factor App Methodik. Insbesondere Zustandslosigkeit (Statelessness) ist essenziell, um die Anwendung in Kubernetes beliebig skalieren zu können.
  • Mandantenfähigkeit: Logische Trennung von Daten verschiedener Dienststellen oder Abteilungen.
  • Look & Feel: Anpassbarkeit des Brandings (Corporate Design der Behörde) sowie Unterstützung für Dark/Light Mode.
  • Barrierefreiheit: Konformität mit BITV 2.0 / WCAG (Screenreader-Support, Tastaturnavigation).
  • Persistenz: Serverseitige Speicherung von Chat-Verläufen und Benutzereinstellungen.
  • Erweiterbarkeit (Pipelines): Implementierung des Pipes & Filter-Musters, um Prompts vor der Inferenz (z.B. Anonymisierung) und Antworten nach der Inferenz (z.B. Quellen-Validierung) zu bearbeiten.
  • Plugin-Architektur: Definition von Erweiterungspunkten (Extension Points), um spezifische Fachanwendungen (vertikale Assistenten) modular in die Oberfläche zu integrieren, ohne den Kern zu verändern.

image

Kandidaten für eine Implementierung

Die Landschaft der Open-Source Chat-UIs entwickelt sich rasant. Nachfolgend werden die vielversprechendsten Kandidaten evaluiert.

Open WebUI

Open WebUI (ehemals Ollama WebUI) ist eine der umfassendsten Lösungen am Markt. Sie bietet eine sehr moderne UX, Multi-Model-Support und RAG-Integration.

Anforderung Grad der Erfüllung
Lizenz MIT (<= 0.6.5) / Custom (Versionsabhängig, Prüfung erforderlich!)
Tech Stack Python (Backend), Svelte (Frontend)
SSL-Fähigkeit Nicht nativ. SSL-Terminierung muss zwingend über Reverse Proxy (Nginx/Traefik) erfolgen.
Authentifizierung OIDC via Env-Vars möglich. SCIM-Support vorhanden.
Mandantenfähigkeit Nativ nicht vorhanden. Workarounds über separate Instanzen notwendig.
Barrierefreiheit Basis vorhanden, aber kein offizielles BITV-Audit bekannt.
Erweiterbarkeit Starkes "Filter"-System (Pipelines) für Pre-/Post-Processing.

LibreChat

LibreChat gilt als eine der robustesten Alternativen und orientiert sich optisch und funktional stark an ChatGPT ("Clone"). Es bietet sehr starke Team-Features.

Anforderung Grad der Erfüllung
Lizenz MIT License
Tech Stack Node.js / TypeScript, MongoDB (Datenbank)
Authentifizierung Exzellenter Support für OIDC, Social Login und LDAP/AD.
Features Multi-Modal (Bilder/Dateien), Plugin-System, Code Interpreter.
Nachteil Benötigt MongoDB als Datenbank, was den operativen Stack (meist PostgreSQL) komplexer macht.

Lobe Chat

Lobe Chat ist ein sehr modernes, "Mobile-First" entwickeltes Frontend mit einem starken Fokus auf UI/UX und Plugin-Erweiterbarkeit.

Anforderung Grad der Erfüllung
Lizenz MIT License
Tech Stack Next.js, TypeScript (Vercel-optimiert, aber Docker-fähig)
Architektur "Local-First" Ansatz (viel Logik im Browser), Sync über WebRTC/Cloud möglich.
Plugins Sehr gut ausgebautes Plugin-Ökosystem (Function Calling).
Look & Feel Hochwertiges Design, PWA-Support (installierbar als App).
Eignung Hervorragend für schnelle, moderne Assistenten; weniger Fokus auf zentrale Enterprise-Governance als LibreChat.

HuggingChat UI

Dies ist der Open-Source-Code hinter dem offiziellen HuggingFace Chat.

Anforderung Grad der Erfüllung
Lizenz Apache-2.0 License
Tech Stack SvelteKit, MongoDB
Fokus Performance, Skalierbarkeit und Privacy.
Besonderheit "Theming" ist sehr einfach möglich. Sehr transparentes Datenschutz-Konzept.