Worknano

Guardrails für KI-Agenten, mit Beispielen

Updated 2026-11-15

Guardrails für KI-Agenten sind feste Grenzen um einen KI-Agenten, die einen Fehler klein halten. Ein KI-Agent ist ein Programm, das mit KI Aufgaben für dich erledigt. Guardrails bestimmen, was der Agent zu sehen bekommt, was er tun darf und wann er an einen Menschen übergeben muss. Gute Guardrails verlassen sich nicht darauf, dass die KI sich gut benimmt. Sie halten auch dann, wenn sie sich irrt.

Eine Anweisung ist kein Guardrail

Denk an eine Firmenkarte. Du kannst einem Mitarbeiter sagen: „Bitte gib nicht mehr als 500 Euro aus.“ Das ist eine Anweisung. Oder die Bank setzt ein Limit von 500 Euro auf die Karte. Das ist ein Guardrail. Das Erste hängt von der Person ab. Das Zweite wirkt, was auch passiert.

Bei einem Agenten ist es genauso. „Biete nie mehr als zehn Prozent Rabatt an“ in den Anweisungen ist eine Bitte. Der Agent wird sie fast immer befolgen. Ein Guardrail ist die Prüfung, die ein Angebot mit zwölf Prozent stoppt, was auch immer der Agent geschrieben hat. Schreib die Anweisung trotzdem hinein, aber zähle sie nicht als Schutz.

Vier Arten von Guardrails, mit Beispielen

Ein Guardrail-Set für einen Agenten

So kann ein vollständiges Set für einen Agenten aussehen, der Antworten auf Kundenanfragen entwirft.

  1. Er bekommt nur Anfragen, die über das Kontaktformular eingegangen sind.
  2. Er liest die Bestellungen und früheren Anfragen dieses Kunden sowie deine Hilfetexte. Sonst nichts.
  3. Er schreibt einen Entwurf. Senden kann er nicht.
  4. Der Entwurf muss den Hilfetext oder die Bestellung nennen, auf die er sich stützt.
  5. Er verspricht nie einen Termin, eine Erstattung oder eine Preisänderung. Wo eine nötig ist, lässt er eine markierte Lücke für den Menschen.
  6. Kann er aus dem Gelesenen nicht antworten, sagt er das und gibt die Anfrage weiter.

Sechs Regeln, und jede lässt sich prüfen. Keine verlangt vom Agenten, „vorsichtig zu sein“.

So schreibst du ein Guardrail, das funktioniert

Wie viele Guardrails sind genug?

Fang streng an und lockere Schritt für Schritt, wenn der Agent sich bewährt. Mit zu wenigen Guardrails richtet ein schlechter Lauf Schaden an. Mit zu vielen gibt der Agent alles ab, und dein Team hat die alte Arbeit plus eine Warteschlange. Das Verhältnis stimmt, wenn Übergaben nur einen kleinen Teil der Arbeit ausmachen und sich die meisten als berechtigt erweisen.

So geht Worknano damit um

In Worknano kommt das, was ein Agent erreichen kann, aus zwei Quellen: den Tools, die du diesem Agenten gibst, und der Rolle der Person, die fragt. Änderungen an Datensätzen erscheinen als Vorschau zur Bestätigung. Für Limits, die von einem Betrag abhängen, können Freigabeketten einen Schritt enthalten, etwa eine Freigabe durch die Buchhaltung erst ab einem Betrag, den du wählst. Workflow-Bedingungen entscheiden, welche Datensätze überhaupt bei einem Agenten ankommen.

Erstelle einen kostenlosen Workspace und setze die ersten Limits für einen eigenen Agenten.