KI Systeme und Use Cases

Gemäß der KI-Definition des Europäischen Parlaments ist

Künstliche Intelligenz die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.

Aufbauend auf obiger Definition teilen wir KI-Systeme in drei Kategorien ein. Sie weisen unterschiedliche Fähigkeiten auf, die bei der Umsetzung von KI Use Cases von Bedeutung sind. Die Kategorien sind nicht streng voneinander getrennt, sondern bauen oft aufeinander auf. So kann ein Copilot auf Technologien der Conversational AI basieren und ein Multi-Agent-System seinerseits einen Copiloten als Benutzerschnittstelle verwenden.

Je höher der Grad an Autonomie und Spezialisierung, desto komplexer gestaltet sich die Umsetzung des KI Use Cases und desto mehr Komponenten der KI Plattform werden für diese benötigt.

Conversational AI

Wir sprechen von einem Conversational AI Use Case, wenn eine KI in die Lage versetzt wird, eine möglichst natürliche, dialogbasierte Konversation mit einem Menschen zu führen.

Conversational AI bezieht sich somit auf Technologien, die es Maschinen ermöglichen, natürliche Gespräche mit Menschen zu führen. Diese Technologien nutzen Methoden der künstlichen Intelligenz, um Sprache zu verstehen, zu verarbeiten und zu generieren. Conversational AI Use Cases nutzen dabei folgende Technologien:

Sprachverarbeitung: Conversational AI verwendet Natural Language Processing (NLP), um gesprochene oder geschriebene Sprache zu interpretieren.
Dialogmanagement: Die Systeme können den Kontext eines Gesprächs verfolgen und relevante Antworten generieren, um eine flüssige Interaktion zu ermöglichen.
Lernfähigkeit: Viele Conversational-AI-Systeme nutzen maschinelles Lernen, um aus Interaktionen zu lernen und ihre Antworten im Laufe der Zeit zu verbessern.

Conversational AI Use Cases sind oft horizontale Use Cases, die auf eine breite Benutzergruppe zugeschnitten sind. Das Dialogmanagement (Chat Frontend) ist von zentraler Bedeutung. Es wird häufig mit einem starken LLM und einem RAG kombiniert, um intelligente Auskunftssysteme zu erstellen.

Im Folgenden zeigen wir einen konkreten Use Case für einen Mitarbeiter-Chatbot, der es dem Benutzer ermöglicht, auf einfache Weise Informationen zu einem komplexen Thema durch ein Chatbot zu erhalten.

Mitarbeiter-Chatbot

Ein einfacher Conversational AI Chatbot unterstützt Mitarbeiter der Landesverwaltung bei allgemeinen Fragen und bietet eine natürliche Gesprächsschnittstelle für grundlegende Interaktionen.

Der Chatbot funktioniert als eigenständige Anwendung ohne Anbindung an spezifische Datenquellen oder Fachverfahren und bietet folgende Funktionen:

Textverarbeitung: Unterstützt beim Formulieren von E-Mails, beim Umschreiben von Texten oder bei der Zusammenfassung von Inhalten.
Erklärungen: Erklärt allgemeine Konzepte, Begriffe oder Zusammenhänge in verständlicher Sprache.
Brainstorming: Hilft bei der Ideenfindung und beim strukturierten Durchdenken von Problemen.

Copilot

Ein Copilot unterstützt den Menschen in seinen Aufgaben. Ein Copilot integriert sich in den Arbeitsablauf und benötigt dazu Wissen über den Kontext des Benutzers bei seiner Aufgabe.

Er muss folgende Fähigkeiten besitzen:

Antizipation der Intentionen des Benutzers: Copiloten können Benutzerbedürfnisse vorhersehen und proaktiv Vorschläge oder Erinnerungen auf der Grundlage von Mustern und früheren Interaktionen anbieten.
Teilen des Arbeitsgedächtnisses: Copiloten können große Mengen an Daten analysieren und Erkenntnisse liefern, die den Nutzern helfen, fundierte Entscheidungen auf der Grundlage von Daten zu treffen.
Kontextbezogenes Verstehen: Copiloten können den Kontext einer Aufgabe oder eines Gesprächs verstehen, so dass sie relevante Vorschläge oder Informationen liefern können.
Automatisierung von Aufgaben: Copiloten können sich wiederholende Aufgaben automatisieren, z. B. die Planung von Besprechungen oder die Erstellung von Berichten, so dass sich die Benutzer auf komplexere Tätigkeiten konzentrieren können.
Lernen aus Interaktionen: Copiloten können im Laufe der Zeit aus den Interaktionen der Nutzer lernen, ihre Leistung verbessern und die Antworten auf individuelle Präferenzen abstimmen.
Integration mit Tools: Copiloten können in andere Softwareanwendungen und Tools integriert werden, um deren Funktionalität zu verbessern und die Arbeitsabläufe zu optimieren.

Ein Copilot kann ein Fachverfahren um KI Services erweitern. Dabei assistiert der Copilot den Benutzer in den Use Cases des Fachverfahrens mit dem Ziel diese effizienter abzuarbeiten.

Im Folgenden zeigen wir einen konkreten Use Case für einen Copilot in der Landesverwaltung, der die Fähigkeiten der natürlichen Sprachverarbeitung und des Dialogmanagements in den Arbeitsalltag integriert und den Benutzer aktiv unterstützt.

Copilot in der Landesverwaltung

Ein KI-Copilot für die Landesverwaltung könnte als intelligenter Assistent fungieren, der Sachbearbeiter in der öffentlichen Verwaltung bei der täglichen Arbeit unterstützt.

Der Copilot könnte in verschiedene Verwaltungssoftware integriert werden und folgende Funktionen bieten:

Automatisierte Dokumentenerstellung: Der Copilot könnte Vorlagen für häufig verwendete Dokumente wie Bescheide, Anträge und Berichte bereitstellen und diese automatisch mit den relevanten Daten ausfüllen.
Unterstützung bei der Entscheidungsfindung: Der Copilot könnte relevante Gesetze, Vorschriften und Richtlinien durchsuchen und den Sachbearbeitern helfen, fundierte Entscheidungen zu treffen.
Terminplanung und Erinnerungen: Der Copilot könnte Termine verwalten, Fristen überwachen und Sachbearbeiter an wichtige Aufgaben erinnern.
Bürgeranfragen: Der Copilot könnte Anfragen von Bürgern automatisch beantworten oder an die zuständigen Sachbearbeiter weiterleiten.
Datenanalyse: Der Copilot könnte Daten analysieren und Berichte erstellen, um Trends und Muster zu erkennen, die für die Verwaltung relevant sind.
Schulung und Weiterbildung: Der Copilot könnte Schulungsmaterialien bereitstellen und Sachbearbeiter bei der Einarbeitung in neue Prozesse oder Technologien unterstützen.

Multi Agent Problem Solver

Systeme zur Lösung von Problemen, bei denen mehrere autonome Agenten interagieren und zusammenarbeiten, um bestimmte Ziele zu erreichen, nennen wir Multi-Agent Problem Solver.

Agenten: Jeder Agent arbeitet unabhängig, mit eigenen Zielen, eigenem Wissen und eigenen Entscheidungsfähigkeiten. Sie sind spezialisierte Softwareprogramme.
Planung: In der Regel ist ein Agent für die Planung zur Lösungsfindung verantwortlich. Er muss den Problem-Kontext verstehen und eine Lösungsstrategie entwickeln, um dann andere spezialisierte Agenten mit Aufgaben zu versehen.
Kollaboration: Um komplexe Probleme zu lösen, die ein einzelner Agent nicht selbstständig lösen kann, müssen Agenten zusammenarbeiten, Informationen austauschen und ihre Aktionen koordinieren.
Kommunikation: Effektive Kommunikationsprotokolle sind entscheidend für Agenten, um Informationen auszutauschen, zu verhandeln und gemeinsame Entscheidungen zu treffen.
Verteiltes Lösen von Problemen: Multiagentensysteme verteilen den Problemlösungsprozess und ermöglichen so Skalierbarkeit und Flexibilität. Dies ist besonders in dynamischen Umgebungen nützlich, in denen sich die Bedingungen schnell ändern.
Lösung von Konflikten: Agenten können konkurrierende Interessen oder Ziele haben, was Konfliktlösungsstrategien erforderlich macht, um einen Konsens oder eine optimale Lösung zu erreichen.
Algorithmen: Verschiedene Algorithmen, wie z. B. Spieltheorie, Auktionsmechanismen und Konsensprotokolle, werden eingesetzt, um die Zusammenarbeit und Entscheidungsfindung zwischen Agenten zu erleichtern.

Treten innerhalb eines Fachverfahrens Problemstellungen auf, für die es keinen vordefinierten Lösungsweg gibt, bzw. sich der Lösungsweg erst aus der Analyse des Sachverhalts ergibt, kann ein Multi-Agent Problem Solver ein guter Kandidat für die Umsetzung eines KI Use Cases sein.

Nachfolgend wird ein spezifischer Anwendungsfall vorgestellt, der auf den Prinzipien des Multi Agent Problem Solving basiert: die IT-Modernisierung mit Generativer KI, bei der komplexe Migrationsprozesse automatisiert und effizient umgesetzt werden.

IT-Modernisierung mit Generativer KI

Die IT-Modernisierung mit Generativer KI hat zum Ziel, bestehende Legacy-Anwendungen automatisiert in moderne Zieltechnologien zu überführen und zu modernisieren. Dadurch sollen die Wartbarkeit, Skalierbarkeit und Funktionalität der Anwendungen nachhaltig verbessert werden.

Um den komplexen Migrationsprozess, der zahlreiche Teilschritte und spezialisierte Aufgaben umfasst, effizient zu bewältigen, eignet sich der Einsatz eines maßgeschneiderten Multi-Agenten-Systems mit dezentraler Architektur. In einem solchen System arbeiten mehrere spezialisierte Agenten – ähnlich wie in Software-Teams – zusammen, um die verschiedenen Aspekte der Migration, wie etwa Analyse, Transformation und Qualitätssicherung, koordiniert umzusetzen.

Ein zentraler Bestandteil dieses Ansatzes ist das Kontext-Engineering. Dabei wird sichergestellt, dass die Agenten mit dem erforderlichen Fachwissen und den notwendigen Kontextinformationen ausgestattet sind, um die Modernisierung automatisiert und erfolgreich durchzuführen. Dazu zählt zum Beispiel insbesondere die Fähigkeit, den Quellcode der Legacy-Anwendung zu lesen und zu analysieren, um die erforderlichen Migrationsschritte abzuleiten, sowie die Erkennung und Berücksichtigung von Abhängigkeiten innerhalb der Legacy-Anwendung.

Human-in-the-Loop (HITL) ist ein weiterer wichtiger Aspekt dieses Ansatzes. Während des Migrationsprozesses können menschliche Experten in den Workflow eingebunden werden, um kritische Entscheidungen zu treffen, die Qualität der Ergebnisse zu überprüfen oder um bei Bedarf Korrekturen vorzunehmen. Dies gewährleistet, dass die Modernisierung nicht nur automatisiert, sondern auch qualitativ hochwertig und den Anforderungen entsprechend erfolgt.

Eine Veröffentlichung der IT-Modernisierung mittels GenAI erfolgt in einem separaten Dokument, das einen vertieften Einblick in die zugrunde liegenden technologischen Konzepte sowie die methodischen Ansätze der Forschungsarbeit bietet. → Zur Dokumentation