Fehlerarten bei KI-Agenten und wie du jede erkennst
Fehlerarten bei KI-Agenten sind die typischen Wege, wie ein KI-Agent eine Aufgabe falsch erledigt. Ein KI-Agent ist ein Programm, das mit KI Aufgaben für dich erledigt. Er kann an der falschen Stelle suchen, falsche Angaben verwenden, auf halbem Weg aufhören oder sich im Kreis drehen. Es gibt nur eine Handvoll dieser Fehler, und jeder lässt sich mit einer einfachen Prüfung erkennen.
Warum Agenten leise scheitern
Normale Software scheitert laut. Sie zeigt eine Fehlermeldung und hält an. Ein Agent scheitert eher höflich. Er sagt dir in einem selbstsicheren Satz, die Arbeit sei erledigt, während ein Teil fehlt oder falsch ist.
Das ist wie bei einem eifrigen Azubi, der „alles fertig“ sagt, nachdem er vierzig von zweihundert Briefen abgelegt hat. Du erfährst es nicht, indem du auf eine Beschwerde wartest. Du erfährst es, indem du dir das Ergebnis ansiehst.
Sechs Fehlerarten im Überblick
| Fehlerart | Was du siehst | Wie du sie erkennst |
|---|---|---|
| Falsche Stelle | Er durchsucht Kontakte, obwohl du nach Rechnungen gefragt hast | Gib dem Agenten nur die Tools, die er braucht |
| Falsche Angaben | Die richtige Art von Eintrag, aber der falsche Kunde, das falsche Datum oder der falsche Betrag | Lass ihn die Werte zeigen, bevor sie gespeichert werden |
| Im Kreis drehen | Er wiederholt denselben Schritt und wird nie fertig | Setze ein Limit für Schritte und Zeit |
| Zu früh aufhören | „Erledigt“, nach drei von zehn Einträgen | Zähle, was hineinging und was herauskam |
| Verborgene Lücke | Eine Abfrage schlug fehl, und der Agent machte ohne sie weiter | Eine fehlgeschlagene Abfrage muss die Aufgabe anhalten |
| Erfundene Fakten | Ein glaubwürdiges Detail ohne Quelle | Verlange zu jedem Fakt die Quelle |
Erfundene Fakten nennt man oft Halluzinationen. Sie haben einen eigenen Artikel.
Die zwei, die sich am besten verstecken
Zu frühes Aufhören und die verborgene Lücke verdienen besondere Aufmerksamkeit, denn in beiden Fällen sieht die Antwort vollständig aus. Eine Zusammenfassung „aller offenen Anfragen“ liest sich genauso gut, wenn sie nur vierzig von zweihundert abdeckt.
Das Gegenmittel ist langweilig und es wirkt. Arbeitet ein Agent eine Liste ab, notiere am Anfang die Zahl der Einträge und vergleiche sie am Ende. Und sorge dafür, dass der Agent dir klar sagt, wenn er etwas nicht nachschlagen konnte. „Ich habe nichts gefunden“ und „Ich konnte nicht nachsehen“ dürfen nie gleich klingen.
Vom Symptom zur Ursache
Wenn eine Aufgabe schiefgeht, sagt dir die endgültige Antwort wenig. Drei Schritte führen zur Ursache.
- Sieh dir die Schritte an, nicht nur die Antwort. Was hat der Agent nachgeschlagen, in welcher Reihenfolge, und was kam zurück?
- Benenne die Fehlerart. Such die passende Zeile in der Tabelle. Passen zwei Zeilen, ist die Aufgabe wahrscheinlich zu groß für einen Agenten.
- Behebe die Art des Fehlers, nicht den Einzelfall. Hat der Agent an der falschen Stelle gesucht, nimm ihm die Tools weg, die er nicht braucht. Nach jedem Vorfall einen weiteren Satz in die Anweisungen zu schreiben, macht sie lang und nicht sicherer.
Welche Fehler am meisten zählen
Ein Fehler, der in einem falschen Satz auf dem Bildschirm endet, kostet einen Moment. Ein Fehler, der in einem geänderten Kundeneintrag, einer gesendeten E-Mail oder einer Zahlung endet, kostet mehr. Sortiere deine Agenten also danach, was ihre Arbeit berührt. Setze die strengsten Prüfungen dort an, wo ein Fehler in deinen Daten landen oder einen Kunden erreichen würde. Überall sonst reicht ein kurzer Blick.
So geht Worknano damit um
In Worknano hält das Audit-Log jeden Lauf eines Agenten fest: was hineinging, was herauskam, welches KI-Modell benutzt wurde und wie lange es dauerte. Ein Lauf, der schiefgegangen ist, lässt sich also hinterher nachlesen. Die Form der Antwort eines Agenten wird im Voraus festgelegt. Will ein Agent einen Datensatz ändern, zeigt er dir eine Vorschau, und du bestätigst. Wo die Entscheidung bei einer Führungskraft oder der Buchhaltung liegt, gibt das Modul Approvals sie entlang einer festen Kette von Personen weiter, mit Fristen und Eskalation.