Guardrails für KI-Agenten, mit Beispielen
Guardrails für KI-Agenten sind feste Grenzen um einen KI-Agenten, die einen Fehler klein halten. Ein KI-Agent ist ein Programm, das mit KI Aufgaben für dich erledigt. Guardrails bestimmen, was der Agent zu sehen bekommt, was er tun darf und wann er an einen Menschen übergeben muss. Gute Guardrails verlassen sich nicht darauf, dass die KI sich gut benimmt. Sie halten auch dann, wenn sie sich irrt.
Eine Anweisung ist kein Guardrail
Denk an eine Firmenkarte. Du kannst einem Mitarbeiter sagen: „Bitte gib nicht mehr als 500 Euro aus.“ Das ist eine Anweisung. Oder die Bank setzt ein Limit von 500 Euro auf die Karte. Das ist ein Guardrail. Das Erste hängt von der Person ab. Das Zweite wirkt, was auch passiert.
Bei einem Agenten ist es genauso. „Biete nie mehr als zehn Prozent Rabatt an“ in den Anweisungen ist eine Bitte. Der Agent wird sie fast immer befolgen. Ein Guardrail ist die Prüfung, die ein Angebot mit zwölf Prozent stoppt, was auch immer der Agent geschrieben hat. Schreib die Anweisung trotzdem hinein, aber zähle sie nicht als Schutz.
Vier Arten von Guardrails, mit Beispielen
- Was er sieht. Der Abrechnungs-Agent bekommt nur Fragen zu Rechnungen. Er kann Bestellungen und Rechnungen lesen. Die Gehaltsabrechnung kann er nicht lesen.
- Was er tun darf. Er kann eine Antwort vorbereiten. Er kann sie nicht senden. Er hat keine Möglichkeit, etwas zu löschen.
- Wie viel er tun darf. Höchstens zwanzig Einträge auf einmal. Eine Nachricht pro Kunde und Tag. Erstattungen nur bis zu einem festgelegten Betrag.
- Wann er übergibt. Erwähnt ein Kunde einen Anwalt, eine Kündigung oder eine Beschwerde über eine Person, gibt der Agent den Fall an einen Teamleiter und schreibt nichts.
Ein Guardrail-Set für einen Agenten
So kann ein vollständiges Set für einen Agenten aussehen, der Antworten auf Kundenanfragen entwirft.
- Er bekommt nur Anfragen, die über das Kontaktformular eingegangen sind.
- Er liest die Bestellungen und früheren Anfragen dieses Kunden sowie deine Hilfetexte. Sonst nichts.
- Er schreibt einen Entwurf. Senden kann er nicht.
- Der Entwurf muss den Hilfetext oder die Bestellung nennen, auf die er sich stützt.
- Er verspricht nie einen Termin, eine Erstattung oder eine Preisänderung. Wo eine nötig ist, lässt er eine markierte Lücke für den Menschen.
- Kann er aus dem Gelesenen nicht antworten, sagt er das und gibt die Anfrage weiter.
Sechs Regeln, und jede lässt sich prüfen. Keine verlangt vom Agenten, „vorsichtig zu sein“.
So schreibst du ein Guardrail, das funktioniert
- Es lässt sich mit Ja oder Nein prüfen. „Erstattungen über 100 Euro gehen an die Buchhaltung“ lässt sich prüfen. „Geh bei Erstattungen nach gutem Ermessen vor“ nicht.
- Es sagt, was dann passiert. Anhalten, nachfragen oder an eine benannte Rolle übergeben. Eine Regel, die nur blockiert, lässt Arbeit liegen.
- Es hat einen Grund. Jede Regel sollte auf einen Fehler zurückgehen, der passiert ist oder den du dir klar vorstellen kannst.
- Jemand kümmert sich darum. Limits und Listen veralten. Eine Person hält sie aktuell.
Wie viele Guardrails sind genug?
Fang streng an und lockere Schritt für Schritt, wenn der Agent sich bewährt. Mit zu wenigen Guardrails richtet ein schlechter Lauf Schaden an. Mit zu vielen gibt der Agent alles ab, und dein Team hat die alte Arbeit plus eine Warteschlange. Das Verhältnis stimmt, wenn Übergaben nur einen kleinen Teil der Arbeit ausmachen und sich die meisten als berechtigt erweisen.
So geht Worknano damit um
In Worknano kommt das, was ein Agent erreichen kann, aus zwei Quellen: den Tools, die du diesem Agenten gibst, und der Rolle der Person, die fragt. Änderungen an Datensätzen erscheinen als Vorschau zur Bestätigung. Für Limits, die von einem Betrag abhängen, können Freigabeketten einen Schritt enthalten, etwa eine Freigabe durch die Buchhaltung erst ab einem Betrag, den du wählst. Workflow-Bedingungen entscheiden, welche Datensätze überhaupt bei einem Agenten ankommen.
- Rollen und Berechtigungen: was jede Rolle sehen und tun kann
- Approvals: Ketten, Bedingungen und Eskalation
- Workflows: Bedingungen vor einem Agenten-Schritt
Erstelle einen kostenlosen Workspace und setze die ersten Limits für einen eigenen Agenten.