Wer haftet für Fehler der KI?
Wer haftet für Fehler der KI? Als Faustregel gilt: Das Unternehmen, das eine KI arbeiten lässt, steht für ihr Handeln ein, so wie es für seine anderen Werkzeuge und für seine Mitarbeiter einsteht. Eine KI ist keine Person und kann selbst keine Verantwortung tragen. Dieser Artikel gibt eine allgemeine Orientierung. Er ist keine Rechtsberatung, und die Einzelheiten hängen von deinem Land, deiner Branche und deinen Verträgen ab.
Warum „die KI war es“ keine Antwort ist
Ein Kunde hat es mit deinem Unternehmen zu tun, nicht mit deinen Werkzeugen. Druckt die Kasse einer Bäckerei den falschen Preis, spricht der Kunde mit dem Bäcker, nicht mit dem Hersteller der Kasse. Bei KI ist es genauso. Schickt ein KI-Agent, ein Programm, das mit KI Aufgaben für dich erledigt, einen falschen Preis, dann hat dein Unternehmen einen falschen Preis geschickt.
Ob du an diesen Preis gebunden bist und ob du dich hinterher an einen Lieferanten wenden kannst, sind rechtliche Fragen für einen Berater. Für die tägliche Praxis ist die sichere Annahme einfach: Was unter deinem Namen das Unternehmen verlässt, ist deins.
Was du heute klären kannst
Die rechtlichen Fragen kannst du nicht allein klären. Die interne Frage schon: wer in deinem Unternehmen wofür zuständig ist. Ein Agent, um den sich niemand kümmert, ist das eigentliche Risiko. Ein paar klare Rollen genügen. In einem kleinen Unternehmen kann eine Person mehrere davon übernehmen.
| Rolle | Verantwortet | Beispiel |
|---|---|---|
| Geschäftsführung | Welche Aufgaben die KI übernehmen darf und die Regeln dafür | „Agenten dürfen Kunden-Mails entwerfen. Senden dürfen sie sie nicht.“ |
| Agenten-Verantwortlicher | Wofür der Agent da ist und wie gut er funktioniert | Der Vertriebsleiter betreut den Nachfass-Agenten |
| Administrator | Was der Agent erreichen kann | Der Nachfass-Agent sieht Deals, nicht die Gehaltsabrechnung |
| Freigebender | Jeden Vorschlag, dem er zustimmt | Der Vertriebsmitarbeiter liest den Entwurf, bevor er rausgeht |
Drei Situationen, einsortiert
- Der Agent hat allein gehandelt, innerhalb seiner Regeln, und das Ergebnis war falsch. Die Regel hat zu viel erlaubt. Geschäftsführung und Agenten-Verantwortlicher ziehen sie enger.
- Ein Mensch hat einen falschen Vorschlag freigegeben. Der Freigebende steht für sein Ja ein. Sind die Vorschläge aber zu lang oder zu unklar zum Prüfen, hat auch der Agenten-Verantwortliche etwas zu tun.
- Jemand hat einen Agenten für etwas benutzt, wofür er nicht gedacht war. Diese Person steht zuerst dafür ein. Hätte der Agent diesen Zugriff nie haben sollen, gilt das auch für den Administrator.
Eine Seite, die du aufschreiben solltest
Ein kleines Unternehmen braucht keine dicke KI-Richtlinie. Eine Seite reicht.
- Welche Aufgaben die KI übernehmen darf und welche nicht.
- Welche Aktionen das Ja eines Menschen brauchen.
- Wer jeden Agenten betreut, mit Namen.
- Wie ein Fehler gemeldet wird, wer ihn korrigiert und wer es dem Kunden sagt.
- Ein Datum, an dem die Seite überprüft wird.
Zeig diese Seite einmal deinen Rechts- und Versicherungsberatern. Sie können dir sagen, was deine Branche hinzufügt. Lies außerdem, was deine Verträge mit Softwarelieferanten zu Fehlern sagen, bevor du dich bei etwas, das Geld kostet, auf einen Agenten verlässt.
Verantwortung ist nicht Schuld
Der Sinn, Verantwortliche zu benennen, ist, dass jemand handelt, wenn etwas schiefgeht. Heißt ein Ja zum Vorschlag eines Agenten, die ganze Schuld zu tragen, sagen Menschen irgendwann nicht mehr Ja, und der Agent wird nutzlos. Mach es normal, ein falsches Ergebnis schnell zu melden. Sieh jede Meldung als Anlass, die Einrichtung zu verbessern. Und halte fest, was der Agent getan hat, damit die Diskussion von Fakten handelt.
So geht Worknano damit um
In Worknano arbeitet ein Agent mit den Berechtigungen der Person, die ihn gefragt hat. Jede Aktion eines Agenten gehört also einem benannten Benutzer. Agenten schlagen Änderungen vor, und diese Person sieht die Werte und bestätigt sie. Entscheidungen, die einer Führungskraft zustehen, laufen über das Modul Approvals, in dem jede Freigabe und Ablehnung mit Uhrzeit und Benutzer protokolliert wird. Approvals folgen der Struktur deiner Organisation, sodass die Anfrage bei der richtigen Führungskraft ankommt.