Zum Inhalt

KIVA nutzen

Hier erfahren Sie, wie Sie KIVA installieren, konfigurieren und betreiben.

Referenzimplementierung

Die KIVA-Plattform wird als Referenzimplementierung bereitgestellt. Diese Beispielimplementierung zeigt, wie eine souveräne KI-Plattform für die öffentliche Verwaltung aufgebaut werden kann. Sie dient als Ausgangspunkt für eigene Deployments und kann an spezifische Anforderungen angepasst werden.

Die aktuelle Referenzimplementierung besteht aus vier Hauptkomponenten:

  1. LLM Gateway: Einheitlicher API-Zugang zu verschiedenen Sprachmodellen
  2. Inference Engine: Hochperformante Modell-Inferenz mit vLLM
  3. Infrastructure & Deployment: Kubernetes-basiertes Cloud-Native Deployment mit integriertem Monitoring (Prometheus, Grafana)
  4. IAM Provider (in Planung): Zentrale Authentifizierung und Autorisierung

Dokumentation nach Komponenten

Wählen Sie die Komponente aus, die Sie nutzen möchten:

Für Integrationsmöglichkeiten siehe den Abschnitt Integration.