KIVA KI-Plattform
Willkommen zur Dokumentation der Referenzimplementierung der KIVA KI-Plattform – einer souveränen, Open-Source KI-Infrastruktur für die öffentliche Verwaltung.
Was ist KIVA?
KIVA (KI-Verwaltungsassistenz) ist eine modular aufgebaute KI-Plattform, die speziell für die Anforderungen der öffentlichen Verwaltung entwickelt wurde. Die Plattform ermöglicht den sicheren, kontrollierten und souveränen Einsatz von Generativer Künstlicher Intelligenz in Behörden und Verwaltungseinrichtungen.
Mehr Informationen?
Die vollständige Dokumentation des Architektur-Konzeptes der landesweiten KI-Plattform finden Sie unter KIVA Architektur.
Referenzimplementierung
Die KIVA-Plattform wird als Referenzimplementierung bereitgestellt. Diese Beispielimplementierung zeigt, wie eine souveräne KI-Plattform für die öffentliche Verwaltung aufgebaut werden kann. Sie dient als Ausgangspunkt für eigene Deployments und kann an spezifische Anforderungen angepasst werden.
Kernkomponenten
-
LLM Gateway
Einheitlicher API-Zugang zu verschiedenen Sprachmodellen inkl. Monitoring, Logging und Tracing.
Features: OpenAI-API, Multi-Provider, Service Accounts, Rate Limiting
-
Inference Engine
Hochperformante Modell-Inferenz mit vLLM für Open-Source Sprachmodelle.
Features: GPU-Optimierung, Batch Processing, Streaming, Quantisierung
-
Infrastructure & Deployment
Kubernetes-basiertes Cloud-Native Deployment mit GitOps für Produktivbetrieb.
Features: Helm Charts, ArgoCD/Flux, Multi-Cloud, Auto-Scaling
-
IAM Provider (in Planung)
Zentrale Authentifizierung und Autorisierung für sichere Zugriffskontrolle.
Features: OpenID Connect, RBAC, Service Accounts