Chat-Frontend
Das Chat-Frontend fungiert als das "Gesicht" der KI-Plattform. Es ist eine benutzerfreundliche Web-Anwendung, die Verwaltungsmitarbeitenden den intuitiven Zugang zu großen Sprachmodellen (LLMs), Fachverfahren und Assistenten ermöglicht.
Anforderungen
An die Benutzerschnittstelle werden im Behördenumfeld hohe Anforderungen an Sicherheit, Integration und Barrierefreiheit gestellt:
- SSL/TLS-Fähigkeit: Die Anwendung muss (nativ oder via Reverse Proxy) verschlüsselte Kommunikation erzwingen.
- Authentifizierung & Provisionierung: Anbindung an zentrale Identity-Provider (z.B. Keycloak) via OIDC/OAuth2. Unterstützung von SCIM 2.0 zur automatisierten Synchronisation von Nutzern und Gruppen ist wünschenswert.
- Cloud-Native Prinzipien: Einhaltung der Twelve-Factor App Methodik. Insbesondere Zustandslosigkeit (Statelessness) ist essenziell, um die Anwendung in Kubernetes beliebig skalieren zu können.
- Mandantenfähigkeit: Logische Trennung von Daten verschiedener Dienststellen oder Abteilungen.
- Look & Feel: Anpassbarkeit des Brandings (Corporate Design der Behörde) sowie Unterstützung für Dark/Light Mode.
- Barrierefreiheit: Konformität mit BITV 2.0 / WCAG (Screenreader-Support, Tastaturnavigation).
- Persistenz: Serverseitige Speicherung von Chat-Verläufen und Benutzereinstellungen.
- Erweiterbarkeit (Pipelines): Implementierung des Pipes & Filter-Musters, um Prompts vor der Inferenz (z.B. Anonymisierung) und Antworten nach der Inferenz (z.B. Quellen-Validierung) zu bearbeiten.
- Plugin-Architektur: Definition von Erweiterungspunkten (Extension Points), um spezifische Fachanwendungen (vertikale Assistenten) modular in die Oberfläche zu integrieren, ohne den Kern zu verändern.

Kandidaten für eine Implementierung
Die Landschaft der Open-Source Chat-UIs entwickelt sich rasant. Nachfolgend werden die vielversprechendsten Kandidaten evaluiert.
Open WebUI
Open WebUI (ehemals Ollama WebUI) ist eine der umfassendsten Lösungen am Markt. Sie bietet eine sehr moderne UX, Multi-Model-Support und RAG-Integration.
| Anforderung | Grad der Erfüllung |
|---|---|
| Lizenz | MIT (<= 0.6.5) / Custom (Versionsabhängig, Prüfung erforderlich!) |
| Tech Stack | Python (Backend), Svelte (Frontend) |
| SSL-Fähigkeit | Nicht nativ. SSL-Terminierung muss zwingend über Reverse Proxy (Nginx/Traefik) erfolgen. |
| Authentifizierung | OIDC via Env-Vars möglich. SCIM-Support vorhanden. |
| Mandantenfähigkeit | Nativ nicht vorhanden. Workarounds über separate Instanzen notwendig. |
| Barrierefreiheit | Basis vorhanden, aber kein offizielles BITV-Audit bekannt. |
| Erweiterbarkeit | Starkes "Filter"-System (Pipelines) für Pre-/Post-Processing. |
LibreChat
LibreChat gilt als eine der robustesten Alternativen und orientiert sich optisch und funktional stark an ChatGPT ("Clone"). Es bietet sehr starke Team-Features.
| Anforderung | Grad der Erfüllung |
|---|---|
| Lizenz | MIT License |
| Tech Stack | Node.js / TypeScript, MongoDB (Datenbank) |
| Authentifizierung | Exzellenter Support für OIDC, Social Login und LDAP/AD. |
| Features | Multi-Modal (Bilder/Dateien), Plugin-System, Code Interpreter. |
| Nachteil | Benötigt MongoDB als Datenbank, was den operativen Stack (meist PostgreSQL) komplexer macht. |
Lobe Chat
Lobe Chat ist ein sehr modernes, "Mobile-First" entwickeltes Frontend mit einem starken Fokus auf UI/UX und Plugin-Erweiterbarkeit.
| Anforderung | Grad der Erfüllung |
|---|---|
| Lizenz | MIT License |
| Tech Stack | Next.js, TypeScript (Vercel-optimiert, aber Docker-fähig) |
| Architektur | "Local-First" Ansatz (viel Logik im Browser), Sync über WebRTC/Cloud möglich. |
| Plugins | Sehr gut ausgebautes Plugin-Ökosystem (Function Calling). |
| Look & Feel | Hochwertiges Design, PWA-Support (installierbar als App). |
| Eignung | Hervorragend für schnelle, moderne Assistenten; weniger Fokus auf zentrale Enterprise-Governance als LibreChat. |
HuggingChat UI
Dies ist der Open-Source-Code hinter dem offiziellen HuggingFace Chat.
| Anforderung | Grad der Erfüllung |
|---|---|
| Lizenz | Apache-2.0 License |
| Tech Stack | SvelteKit, MongoDB |
| Fokus | Performance, Skalierbarkeit und Privacy. |
| Besonderheit | "Theming" ist sehr einfach möglich. Sehr transparentes Datenschutz-Konzept. |