KI-Agenten

Der Unterschied zwischen einem Chatbot und einem Agenten ist nicht die Sprachfähigkeit, sondern der Handlungsspielraum. Ein Chatbot beantwortet eine Frage. Ein Agent bekommt ein Ziel, entscheidet selbst, welche Schritte dorthin führen, ruft dafür Werkzeuge auf - Datenbankabfragen, APIs, Dateizugriffe - und wertet die Ergebnisse aus, bevor er den nächsten Schritt wählt.

Das macht Agenten dort stark, wo eine Aufgabe zwar klar beschreibbar, aber nicht als starre Abfolge programmierbar ist: eine Rechnung prüfen, deren Format jeder Lieferant anders wählt; eine Recherche, deren nächster Schritt vom vorherigen Fund abhängt; ein Ticket, das je nach Inhalt in unterschiedliche Systeme gehört. Ein klassischer Workflow müsste jeden Fall vorher kennen, ein Agent nicht.

Genau dieser Handlungsspielraum ist auch das Risiko. Ein Agent, der Systeme verändern darf, kann das Falsche verändern. Produktionsreif wird er deshalb erst durch Leitplanken: klar abgegrenzte Werkzeuge statt allgemeiner Systemzugriff, Schreibrechte nur dort, wo sie nötig sind, eine Obergrenze für Schritte und Kosten, und eine Eskalation an einen Menschen, sobald der Agent unsicher ist oder etwas Irreversibles ansteht.

Der zweite Punkt ist Nachvollziehbarkeit. Wenn niemand rekonstruieren kann, warum ein Agent so gehandelt hat, lässt sich weder ein Fehler beheben noch ein Ergebnis verteidigen. Wir protokollieren deshalb jeden Werkzeugaufruf mit Eingabe und Ergebnis - das ist die Grundlage für Tests, für die Fehlersuche und für das Gespräch mit einem Prüfer.