Was sind AI Agents?

AI Agents können eine Vielzahl von Funktionen umfassen, die über die Verarbeitung natürlicher Sprache hinausgehen, einschließlich der Entscheidungsfindung, Problemlösung, der Interaktion mit externen Umgebungen und der Ausführung von Handlungen.

AI Agents lösen komplexe Aufgaben in Unternehmensanwendungen, darunter Software-Design, IT-Automatisierung, Codegenerierung und dialogorientierten Assistenten. Sie verwenden die fortschrittlichen Techniken der Verarbeitung natürlicher Sprache großer Sprachmodelle (LLMs), um Benutzereingaben zu verstehen und Schritt für Schritt darauf zu reagieren und zu bestimmen, wann externe Tools herangezogen werden müssen.

Das Herzstück von AI Agents sind Large Language Models (LLMs). Aus diesem Grund werden AI Agents oft als LLM-Agenten bezeichnet. Herkömmliche LLMs, wie IBM® Granite-Modelle, erstellen ihre Antworten auf der Grundlage der Daten, die zu ihrem Training verwendet wurden, und sind an Wissens- und Argumentationsbeschränkungen gebunden. Im Gegensatz dazu nutzt die Agententechnologie Tool-Aufrufe im Backend, um aktuelle Informationen zu erhalten, Workflows zu optimieren und eigenständig Teilaufgaben zu erstellen und so komplexe Ziele zu erreichen.

Dabei lernt der autonome Agent, sich im Laufe der Zeit an die Erwartungen der Benutzer anzupassen. Die Fähigkeit des Agenten, vergangene Interaktionen zu speichern und zukünftige Aktionen zu planen, fördert eine personalisierte Erfahrung und umfassende Antworten.¹ Dieser Tool-Aufruf kann ohne menschliches Eingreifen erfolgen und erweitert die Möglichkeiten für reale Anwendungen dieser KI-Systeme. Diese drei Phasen oder agentische Komponenten definieren, wie Agenten arbeiten:

Obwohl KI-Agenten in ihren Entscheidungsprozessen autonom sind, benötigen sie Ziele und vorgegebene Regeln, die von Menschen definiert werden.² Es gibt drei Haupteinflussfaktoren auf das Verhalten autonomer Agenten:

• Das Entwicklerteam, das das agentische KI-System entwirft und trainiert. 
• Das Team, das den Agenten bereitstellt und dem Benutzer Zugriff darauf gewährt.
• Der Benutzer, der dem KI-Agenten spezifische Ziele vorgibt und verfügbare Tools zur Verwendung festlegt.

Ausgehend von den Zielen des Benutzers und den verfügbaren Werkzeugen des Agenten führt der KI-Agent dann eine Aufgabenzerlegung durch, um die Leistung zu verbessern.³ Im Wesentlichen erstellt der Agent einen Plan mit spezifischen Aufgaben und Teilaufgaben, um das komplexe Ziel zu erreichen.

Für einfache Aufgaben ist eine Planung nicht notwendig. Stattdessen kann ein Agent seine Antworten iterativ überdenken und verbessern, ohne die nächsten Schritte zu planen.

AI Agents stützen ihre Aktionen auf die Informationen, die sie wahrnehmen. Allerdings fehlt ihnen oft das erforderliche Wissen, um alle Teilaufgaben eines komplexen Ziels zu bewältigen. Um diese Lücke zu schließen, greifen sie auf verfügbare Tools wie externe Datensätze, Websuchen, APIs und sogar andere Agenten zurück.

Sobald die fehlenden Informationen gesammelt sind, aktualisiert der Agent seine Wissensdatenbank und greift auf agentisches Denken zurück. Dieser Prozess beinhaltet die kontinuierliche Neubewertung des Aktionsplans und Selbstkorrekturen, was eine fundiertere und anpassungsfähigere Entscheidungsfindung ermöglicht.

Um diesen Prozess zu veranschaulichen, stellen wir uns einen Benutzer vor, der seinen Urlaub plant. Der Benutzer beauftragt einen KI-Agenten mit der Vorhersage, welche Woche im nächsten Jahr voraussichtlich das beste Wetter für seinen Surftrip in Griechenland bieten wird. 

Da das LLM-Modell, das den Kern des Agenten bildet, nicht auf Wetterverhältnisse spezialisiert ist, kann es sich nicht ausschließlich auf sein internes Wissen stützen. Daher sammelt der Agent Informationen aus einer externen Datenbank, die tägliche Wetterberichte für Griechenland aus den letzten Jahren enthält.

Trotz dieser neuen Informationen kann der Agent immer noch nicht die optimalen Wetterbedingungen zum Surfen bestimmen, daher wird die nächste Teilaufgabe erstellt. Für diese Teilaufgabe kommuniziert der Agent mit einem externen Agenten, der auf Surfen spezialisiert ist. Nehmen wir an, dass der Agent auf diese Weise erfährt, dass hohe Gezeiten und sonniges Wetter mit wenig bis gar keinem Regen die besten Surfbedingungen bieten.

Der Agent kann nun die Informationen, die er von seinen Tools gelernt hat, kombinieren, um Muster zu erkennen. Er kann vorhersagen, in welcher Woche des nächsten Jahres in Griechenland voraussichtlich hohe Gezeiten, sonniges Wetter und eine geringe Regenwahrscheinlichkeit herrschen werden. Diese Ergebnisse werden dann dem Benutzer präsentiert. Dank dieses Informationsaustauschs zwischen den Tools sind KI-Agenten allgemeiner einsetzbar als herkömmliche KI-Modelle.³

AI Agents verwenden Feedback-Mechanismen, wie andere KI-Agenten und Human-in-the-Loop (HITL), um die Genauigkeit ihrer Antworten zu verbessern. Kehren wir zu unserem vorherigen Surfbeispiel zurück, um diesen Prozess zu veranschaulichen. Nachdem der Agent seine Antwort an den Benutzer formuliert hat, speichert er die gelernten Informationen zusammen mit dem Feedback des Benutzers, um seine Leistung zu verbessern und sich an die Präferenzen des Benutzers für zukünftige Ziele anzupassen.

Wenn andere Agenten eingesetzt wurden, um das Ziel zu erreichen, kann auch deren Feedback verwendet werden. Feedback mehrerer Agenten kann besonders nützlich sein, um die Zeit zu minimieren, die menschliche Benutzer damit verbringen, Anweisungen zu geben. Benutzer können jedoch auch während der Aktionen und internen Überlegungen des Agenten Feedback geben, um die Ergebnisse besser auf das angestrebte Ziel abzustimmen.²

Feedback-Mechanismen verbessern das Denkvermögen und die Genauigkeit des KI-Agenten, was gemeinhin als iterative Verfeinerung bezeichnet wird.³ Um die Wiederholung derselben Fehler zu vermeiden, können KI-Agenten auch Daten über Lösungen für frühere Hindernisse in einer Wissensdatenbank speichern.

KI-Chatbots verwenden dialogorientierte KI-Techniken wie Natural Language Processing (NLP), um Benutzerfragen zu verstehen und automatisierte Antworten zu geben. Diese Chatbots sind eine Modalität, während die Agenten-Technologie ein technologisches Framework ist.

Nicht-agentenbasierte KI-Chatbots sind Chatbots ohne verfügbare Tools, Gedächtnis oder Denkvermögen. Sie können nur kurzfristige Ziele erreichen und nicht im Voraus planen. Wie wir sie kennen, benötigen nicht-agentenbasierte Chatbots eine kontinuierliche Benutzereingabe, um zu antworten.

Sie können Antworten auf allgemeine Aufforderungen geben, die höchstwahrscheinlich mit den Erwartungen des Benutzers übereinstimmen, schneiden jedoch bei Fragen, die für den Benutzer und seine Daten spezifisch sind, schlecht ab. Da diese Chatbots kein Gedächtnis haben, können sie nicht aus ihren Fehlern lernen, wenn ihre Antworten unbefriedigend sind.

Im Gegensatz dazu lernen agentenbasierte KI-Chatbots im Laufe der Zeit, sich an die Erwartungen der Benutzer anzupassen und bieten eine personalisierte Erfahrung sowie umfassende Antworten. Sie können komplexe Aufgaben erledigen, indem sie Teilaufgaben ohne menschliches Eingreifen erstellen und verschiedene Pläne in Betracht ziehen. Diese Pläne können bei Bedarf auch selbst korrigiert und aktualisiert werden. Agentische KI-Chatbots bewerten im Gegensatz zu nicht-agentischen Chatbots ihre Tools und nutzen ihre verfügbaren Ressourcen, um Informationslücken zu schließen.

Es gibt keine Standardarchitektur für die Erstellung von KI-Agenten. Mehrere Paradigmen existieren zur Lösung mehrstufiger Probleme.

Mit dem ReAct-Paradigma können wir Agenten anweisen, nach jeder durchgeführten Aktion und bei jeder Tool-Reaktion „nachzudenken“ und zu planen, um zu entscheiden, welches Tool als nächstes verwendet werden soll. Diese Think-Act-Observe-Schleifen werden verwendet, um Probleme Schritt für Schritt zu lösen und Antworten durch einen iterativen Entscheidungsprozess zu verbessern.

Durch die Struktur des Prompts können die Agenten angewiesen werden, langsam zu denken und jeden „Gedanken“ anzuzeigen.⁴ Das verbale Denken des Agenten vermittelt Erkenntnisse darüber, wie Antworten formuliert werden. In diesem Framework aktualisieren die Agenten ihren Kontext kontinuierlich mit neuen Überlegungen. Dieser Ansatz kann als eine Form des Gedankenketten-Promptings interpretiert werden.

Die ReWOO-Methode eliminiert im Gegensatz zu ReAct die Abhängigkeit von Tool-Outputs für die Maßnahmenplanung. Stattdessen planen die Agenten im Voraus. Die redundante Verwendung von Tools wird vermieden, indem bei der ersten Aufforderung durch den Benutzer vorweggenommen wird, welche Tools verwendet werden sollen. Dieser Ansatz ist aus einer auf den Menschen ausgerichteten Perspektive erwünscht, da der Benutzer den Plan bestätigen kann, bevor er ausgeführt wird.

Der ReWOO-Workflow besteht aus drei Modulen. Im Planungsmodul antizipiert der Agent seine nächsten Schritte anhand der Aufforderung eines Benutzers. Der nächste Schritt besteht darin, die durch den Aufruf dieser Tools erzeugten Outputs zu sammeln. Schließlich koppelt der Agent den ursprünglichen Plan mit den Outputs des Tools, um eine Antwort zu formulieren. Diese vorausschauende Planung kann die Token-Nutzung und die Rechenkomplexität sowie die Auswirkungen eines zwischenzeitlichen Ausfalls des Tools erheblich reduzieren.⁵

AI Agents können so entwickelt werden, dass sie über unterschiedliche Fähigkeitsstufen verfügen. Ein einfacher Agent kann für einfache Ziele bevorzugt werden, um unnötige Rechenkomplexität zu begrenzen. Es gibt 5 Haupttypen von Agenten, in der Reihenfolge vom einfachsten bis zum fortgeschrittensten:

Einfache Reflexagenten sind die einfachste Form von Agenten, die ihre Handlungen auf Wahrnehmung gründen. Diese Agenten haben kein Gedächtnis und interagieren nicht mit anderen Agenten, wenn Informationen fehlen. Sie funktionieren nach einer Reihe von sogenannten Reflexen oder Regeln. Dieses Verhalten bedeutet, dass der Agent darauf vorprogrammiert ist, Aktionen auszuführen, die bestimmten Bedingungen entsprechen.

Trifft der Agent auf eine Situation, für die er nicht vorbereitet ist, kann er nicht angemessen reagieren. Die Agenten sind in Umgebungen effektiv, die vollständig beobachtbar sind und Zugang zu allen notwendigen Informationen gewähren.⁶

Beispiel: Wenn es 20 Uhr ist, ist die Heizung aktiviert – zum Beispiel ein Thermostat, der die Heizung jede Nacht zu einer bestimmten Zeit einschaltet.

Modellbasierte Reflexagenten nutzen sowohl ihre aktuelle Wahrnehmung als auch ihr Gedächtnis, um ein internes Modell der Welt aufrechtzuerhalten. Wenn der Agent neue Informationen erhält, wird das Modell aktualisiert. Die Handlungen des Agenten hängen von seinem Modell, seinen Reflexen, früheren Wahrnehmungen und seinem aktuellen Zustand ab.

Diese Agenten können im Gegensatz zu einfachen Reflexagenten Informationen im Gedächtnis ablegen und in teilweise beobachtbaren und sich verändernden Umgebungen operieren. Sie sind jedoch immer noch durch ihre Regeln eingeschränkt.⁶

Beispiel: Ein Roboterstaubsauger. Während er einen schmutzigen Raum reinigt, erkennt er Hindernisse wie Möbel und passt sich diesen an. Der Roboter speichert auch ein Modell der Bereiche, die er bereits gereinigt hat, um nicht in einer Schleife wiederholter Reinigung zu geraten.

Zielbasierte Agenten haben ein internes Modell der Welt und verfügen zudem über ein Ziel oder eine Reihe von Zielen. Diese Agenten suchen nach Aktionssequenzen, die ihr Ziel erreichen, und planen diese Aktionen, bevor sie sie ausführen. Diese Suche und Planung verbessern ihre Effektivität im Vergleich zu einfachen und modellbasierten Reflexagenten.⁷

Beispiel: Ein Navigationssystem, das Ihnen den schnellsten Weg zum Ziel empfiehlt. Das Modell berücksichtigt verschiedene Routen, die zu Ihrem Ziel führen. In diesem Beispiel gibt die Bedingungs-Aktions-Regel des Agenten an, dass er die schnellere Route empfiehlt, sobald eine schnellere gefunden wird.

Nutzenbasierte Agenten wählen die Abfolge von Aktionen aus, die sowohl das Ziel erreichen als auch den Nutzen oder die Belohnung maximieren. Der Nutzen wird durch eine Nutzwertfunktion berechnet. Diese Funktion weist jedem Szenario einen Nutzwert zu, der als Metrik die Nützlichkeit einer Handlung oder, vereinfacht gesagt, wie „zufrieden“ der Agent mit dieser Handlung ist, misst.

Zu den Kriterien können Faktoren wie der Fortschritt in Richtung des Ziels, der Zeitaufwand oder die Komplexität der Berechnungen gehören. Der Agent wählt dann die Aktionen aus, die den erwarteten Nutzen maximieren. Solche Agenten sind nützlich, wenn mehrere Szenarien ein gewünschtes Ziel erreichen und das optimale ausgewählt werden muss.⁷

Beispiel: Ein Navigationssystem, das die Route zu Ihrem Ziel optimiert, indem es den Kraftstoffverbrauch minimiert und die Zeit im Verkehr sowie die Kosten für Mautgebühren reduziert. Dieser Agent misst den Nutzen anhand dieser Kriterien, um die günstigste Route auszuwählen.

Lernende Agenten verfügen über die gleichen Funktionen wie die anderen Agententypen, zeichnen sich jedoch durch ihre Lernfähigkeit aus. Neue Erfahrungen werden autonom zu ihrer anfänglichen Wissensbasis hinzugefügt. Dieses Lernen verbessert die Fähigkeit des Agenten, in unbekannten Umgebungen zu agieren. Lernende Agenten können sowohl nutzen- als auch zielbasiert in ihrem Denken sein und bestehen aus vier Hauptelementen:⁷

• Lernen: Dieser Prozess verbessert das Wissen des Agenten, indem er durch seine Vorgaben und Sensoren aus der Umgebung lernt.
• Kritiker: Diese Komponente gibt dem Agenten Feedback, ob die Qualität seiner Antworten dem Leistungsstandard entspricht.
• Leistung: Dieses Element ist für die Auswahl von Aktionen basierend auf dem Lernen verantwortlich.
• Problemgenerator: Dieses Modul erstellt verschiedene Vorschläge für durchzuführende Aktionen.

Beispiel: Personalisierte Produktempfehlungen auf E-Commerce-Websites. Diese Agenten verfolgen die Aktivitäten und Präferenzen der Benutzer in ihrem Gedächtnis. Diese Informationen werden verwendet, um dem Benutzer bestimmte Produkte und Dienstleistungen zu empfehlen. Der Zyklus wiederholt sich jedes Mal, wenn neue Empfehlungen gemacht werden. Die Aktivität des Benutzers wird zu Lernzwecken fortlaufend gespeichert, wodurch sich die Genauigkeit des Agenten im Laufe der Zeit verbessert.

Mit den kontinuierlichen Fortschritten in den Bereichen generative KI und Machine Learning wächst das Interesse an der Optimierung von Workflows durch KI, auch bekannt als intelligente Automatisierung. KI-Agenten sind KI-Tools, die komplexe Aufgaben automatisieren können, die ansonsten menschliche Ressourcen erfordern würden. Diese Veränderung bedeutet, dass Ziele kostengünstig, schnell und in großem Maßstab erreicht werden können. Diese Fortschritte bedeuten wiederum, dass menschliche Mitarbeiter dem KI-Assistenten keine Anweisungen mehr bei der Erstellung und Ausführung seiner Aufgaben geben müssen.

Multiagenten-Frameworks übertreffen in der Regel einzelne Agenten.¹¹ Das liegt daran, dass mit einer größeren Anzahl an Handlungsplänen die Fähigkeit der Agenten, zu lernen und ihre Vorgehensweise zu „überdenken“, verbessert wird.

Ein AI Agent der Wissen und Feedback von anderen AI Agents einbezieht, die auf verwandte Bereiche spezialisiert sind, kann für die Informationssynthese nützlich sein. Diese Zusammenarbeit im Backend von AI Agents und die Fähigkeit, Informationslücken zu schließen, sind einzigartig für agentenbasierte Frameworks und machen sie zu einem leistungsstarken Werkzeug und einem bedeutenden Fortschritt in der künstlichen Intelligenz.

AI Agents liefern Antworten, die umfassender, präziser und besser auf den Benutzer zugeschnitten sind als herkömmliche KI-Modelle. Diese Anpassungsfähigkeit ist für uns als Nutzer wichtig, da qualitativ hochwertigere Antworten in der Regel zu einer besseren Customer Experience führen. Wie bereits beschrieben, wird diese Funktion durch den Austausch von Informationen mit anderen Agenten, die Nutzung externer Tools und die Aktualisierung ihres Gedächtnisses ermöglicht. Diese Verhaltensweisen entwickeln sich von selbst und sind nicht vorprogrammiert.¹²

Komplexe Aufgaben erfordern oft das Wissen mehrerer KI Agents. Bei der Orchestrierung dieser Multiagenten-Frameworks besteht das Risiko von Fehlfunktionen. Systeme mit mehreren Agenten, die auf denselben Foundation Models aufgebaut sind, können gemeinsame Schwachstellen aufweisen. Solche Schwachstellen können zu einem systemweiten Ausfall aller beteiligten Agenten führen oder die Anfälligkeit für schädliche Angriffe erhöhen.¹³ Dies unterstreicht die Bedeutung der Data Governance für die Erstellung von Foundation Models und gründlichen Trainings- und Testprozessen.

Der Komfort des automatisierten Denkens für menschliche Nutzer, die durch KI Agents ermöglicht wird, birgt jedoch auch Risiken. Agenten, die keinen umfassenden Plan erstellen oder ihre Ergebnisse reflektieren können, können wiederholt dieselben Tools aufrufen und in unendlichen Feedback-Schleifen enden. Um diese Redundanzen zu vermeiden, kann ein gewisses Maß an Echtzeit-Überwachung durch Menschen hilfreich sein.¹³

Die Entwicklung von KI Agents von Grund auf ist sowohl zeitaufwändig als auch rechenintensiv. Die Ressourcen, die zum Training eines leistungsstarken Agenten erforderlich sind, können erheblich sein. Außerdem können die Agenten je nach Komplexität der Aufgabe mehrere Tage für die Erledigung von Aufgaben benötigen.¹²

Bei unsachgemäßer Handhabung kann die Integration von KI Agents in Geschäftsprozesse und Kundenmanagementsysteme zu ernsthaften Sicherheitsproblemen führen. Stellen Sie sich beispielsweise vor, KI-Agenten leiten den Softwareentwicklungsprozess, bringen Co-Piloten im Bereich der Programmierung auf die nächste Stufe oder legen Preise für Kunden fest – ohne jegliche menschliche Aufsicht oder Kontrollmechanismen. Die Ergebnisse solcher Szenarien könnten aufgrund des experimentellen und oft unvorhersehbaren Verhaltens von agentischer KI nachteilig sein.

Daher ist es für KI-Anbieter wie IBM, Microsoft und OpenAI wichtig, proaktiv zu bleiben. Sie müssen umfangreiche Sicherheitsprotokolle implementieren, um zu gewährleisten, dass sensible Mitarbeiter- und Kundendaten sicher gespeichert werden. Verantwortungsbewusste Einsatzpraktiken sind entscheidend, um Risiken zu minimieren und das Vertrauen in diese sich schnell entwickelnden Technologien aufrechtzuerhalten.

Um das Problem der Abhängigkeiten zwischen mehreren Agenten zu lösen, können die Entwickler den Benutzern Zugang zu Protokollen der Agenten-Aktionen gewähren.¹⁴ Die Maßnahmen können die Verwendung externer Tools umfassen und die zur Erreichung des Ziels eingesetzten externen Agenten beschreiben. Diese Transparenz gewährt den Benutzern Einblick in den iterativen Entscheidungsprozess, bietet die Möglichkeit, Fehler zu entdecken und fördert Vertrauen.

Es wird empfohlen, zu verhindern, dass autonome KI Agents über übermäßig lange Zeiträume laufen. Dies gilt insbesondere bei unbeabsichtigten unendlichen Feedbackschleifen, Änderungen beim Zugriff auf bestimmte Tools oder Fehlfunktionen aufgrund von Designfehlern. Eine Möglichkeit, dieses Ziel zu erreichen, ist die Implementierung von Unterbrechbarkeit.

Die Aufrechterhaltung der Kontrolle über diese Entscheidung erfordert, dass menschliche Benutzer die Möglichkeit haben, eine Abfolge von Aktionen oder den gesamten Vorgang kontrolliert zu unterbrechen. Die Entscheidung, ob und wann ein KI-Agent unterbrochen werden soll, erfordert sorgfältiges Vorgehen, da Abbrüche manchmal mehr Schaden als Nutzen anrichten können. Es könnte beispielsweise sicherer sein, einen fehlerhaften Agenten in einem lebensbedrohlichen Notfall weiterlaufen zu lassen, anstatt ihn vollständig abzuschalten.⁵

Um das Risiko zu mindern, dass Agentensysteme für böswillige Zwecke verwendet werden, können eindeutige Identifikatoren implementiert werden. Wenn diese Identifikatoren für den Zugriff von Agenten auf externe Systeme erforderlich wären, wäre es einfacher, die Herkunft der Entwickler, Bereitsteller und Benutzer des Agenten zurückzuverfolgen.

Dieser Ansatz fügt eine wesentliche Ebene der Verantwortlichkeit hinzu. Rückverfolgbarkeit hilft dabei, Verantwortliche zu identifizieren, wenn ein Agent böswillige Nutzung oder unbeabsichtigten Schaden verursacht. Letztendlich würde diese Art von Sicherheitsvorkehrung ein sichereres Betriebsumfeld für KI-Agenten schaffen.

Um den Lernprozess von AI Agents zu unterstützen, insbesondere in den frühen Phasen in einer neuen Umgebung, kann es hilfreich sein, ein gewisses Maß an menschlicher Aufsicht zu gewährleisten. Auf Grundlage dieser Vorgaben kann der KI-Agent seine Leistung mit dem erwarteten Standard vergleichen und Anpassungen vornehmen. Diese Form des Feedbacks verbessert die Anpassungsfähigkeit des Agenten an die Präferenzen des Benutzers.⁵

Abgesehen von dieser Sicherheitsmaßnahme empfiehlt es sich, die Zustimmung eines Menschen einzuholen, bevor ein KI-Agent äußerst schwerwiegende Maßnahmen ergreift. Beispielsweise sollten Aktionen wie das Versenden von Massen-E-Mails oder der Handel mit Finanzprodukten eine menschliche Genehmigung erfordern.⁷ Für solche Bereiche mit hohem Risiko wird ein gewisses Maß an menschlicher Überwachung empfohlen.