Admin Frontends

KI-Service Admin UI

Dieses Frontend richtet sich an Administratorinnen und Administratoren der KI-Dienste und bietet umfangreiche Konfigurations-, Steuerungs- und Überwachungsfunktionen, beispielsweise:

• Modell-Management: Hinzufügen, Bearbeiten und Entfernen von Modellen ohne Neustart der Plattform. 
• Kosten- und Nutzungsübersicht: Verfolgen von Ausgaben, Budgets und Token-Verbräuchen je Modell, Nutzer oder Team. 
• Authentifizierung & Rollen-/Rechte-Verwaltung: SSO-Integration, Rollen-Based-Access. 
• Schlüssel- und Zugangskontrolle: Verwalten von API-Keys, virtuellen Schlüsseln, Team-Keys, Zugriffsbeschränkungen. 
• Logging & Aktivitäten 

System Admin UI

Dieses Frontend ist für das gesamte Plattform-Management gedacht und bietet beispielsweise folgende Features:

• Plattform-Überblick: Health-Dashboard für Cluster, Dienste, Modell-Instanzen, Verfügbarkeit und Fehlzustände. 
• Infrastruktur-Überwachung: Metriken, Traces und Logs über alle Komponenten (Kubernetes, Modell-Proxies, Datenzugriffe) → unterstützt durch offene Standards wie OpenTelemetry.
• Sicherheits- und Compliance-Funktionen: Zugriffskontrollen, Audit-Logs, Richtlinien- und Rollenframework
• Budget- und Quotenverwaltung auf Plattform-Ebene: Festlegen von Gesamt-Budgets, Limits pro Dienst, Alerts bei Überschreitungen.
• Multi-Tenant / Team-Support: Verwaltung von Teams, Projekten, Mandanten, ggf. Mandanten-Isolierung.
• System-Konfigurations- und Deploy-Werkzeuge: Schnittstellen zu Infrastruktur-Komponenten (z. B. Kubernetes-Namespaces, Service-Mesh, Load-Balancer), Versionsverwaltung, Rolling Updates.
• Berichtswesen & Governance: Erzeugung von Reports (z. B. Nutzung, Kosten, Fehlerraten), historische Analyse, Dashboard-Widgets.
• Erweiterbarkeit & Integration: Plugin- bzw. Modul-Systeme für neue Dienste, Datenquellen, Monitoring-Tools und Datenpipelines.