Ein AI-Agent, unterschiedliche Befugnisse: Warum Autonomie dem Prozessschritt gehört, nicht dem Agenten

Bis zu 5 % Rabatt darf der Agent selbst geben. Und 30 %? Die Terminerinnerung kann er selbst verschicken. Und die Antwort auf eine Beschwerde?

Wenn ein Unternehmen einen KI-Agenten einführt, lautet die Frage meist: „Können wir ihm vertrauen?“ Darauf gibt es kein einfaches Ja oder Nein, denn Vertrauen hängt davon ab, an welcher Stelle im Prozess der Agent handelt. In diesem Beitrag zeigen wir, wie Sie einen Prozess in Schritte zerlegen und für jeden Schritt entscheiden: Was erledigt der Agent selbst, was bereitet er nur für einen Menschen vor, und was bleibt beim Menschen? Sie erhalten eine Skala mit fünf Autonomiestufen aus einer Studie, sieben Fragen, mit denen sich die Autonomie eines KI-Agenten pro Schritt festlegen lässt, ein Beispiel aus der Bearbeitung einer neuen Anfrage, typische Fehler und eine Checkliste.

Ein Agent, drei Schritte, drei unterschiedlich teure Fehler

Autonomie gehört nicht dem Agenten. Sie gehört einem konkreten Prozessschritt. Ein Agent darf eingehende Anfragen klassifizieren, aber kein Angebot verschicken. Er darf Kundendaten prüfen, aber keine Vertragsbedingungen ändern. Er darf eine Zahlung vorbereiten, aber nicht freigeben.

Nehmen wir dieselbe Aktion: „E-Mail an den Kunden senden“. Im Schritt „Terminerinnerung“ ist das eine Vorlage mit Datum und Uhrzeit, ein Fehler kostet eine Minute. Im Schritt „Antwort auf eine Beschwerde“ kann die E-Mail zur Position des Unternehmens werden, und wenn es um eine Rechnung geht, sogar zu einem Teil des Streits. Die Aktion ist dieselbe, der Preis des Fehlers ein anderer. Das Beispiel ist illustrativ, es ist kein dokumentierter Fall.

Die Regel „Der Agent darf E-Mails versenden“ ist deshalb zu grob: Sie sagt weder etwas über den Schritt noch über Bedingungen. Den Grad der Autonomie legt man für jeden Schritt einzeln fest, nicht einmal für den ganzen Agenten. Und festgelegt wird er nicht vom Agenten, sondern von der Architektur des Geschäftsprozesses.

Warum ein gelungener Schritt keine Befugnis für den nächsten schafft

Das Problem: Dass ein Schritt gelungen ist, heißt nicht, dass der Agent auch für den nächsten Schritt befugt ist.

KI kann eine Anfrage richtig auswerten. Das heißt nicht, dass sie dem Kunden selbstständig einen Rabatt anbieten darf.

Sie kann einen Fehler im CRM entdecken. Das heißt nicht, dass sie bestehende Einträge löschen oder ändern darf.

Sie kann eine überzeugende Antwort formulieren. Das heißt nicht, dass man diese Antwort ohne Prüfung versenden darf.

Eine technische Möglichkeit schafft keine Befugnis. Und selbst eine erteilte Erlaubnis sollte sich nicht automatisch auf den ganzen Prozess erstrecken. Gute Arbeit in einem Schritt sagt nichts darüber aus, was man dem Agenten im nächsten anvertrauen kann.

Wie viel Autonomie sollte ein AI-Agent haben? Fünf Autonomiestufen

Zwischen „Der Agent macht alles allein“ und „Ein Mensch bestätigt jede Aktion“ gibt es Abstufungen. In der Studie „Levels of Autonomy for AI Agents“ von Kevin Feng, David McDonald und Amy Zhang (Knight First Amendment Institute, 28. Juli 2025) sind es fünf. Sie unterscheiden sich durch die Rolle des Menschen:

• Der Mensch führt selbst. Er plant und entscheidet, der Agent hilft, wenn man ihn ruft.
• Mensch und Agent arbeiten zusammen. Sie planen gemeinsam und teilen die Aufgaben auf, oft parallel.
• Der Mensch berät den Agenten. Der Agent führt und setzt um und holt sich Rückmeldung und Richtung vom Menschen.
• Der Mensch genehmigt wichtige Aktionen. Der Agent arbeitet selbstständig und wendet sich an den Menschen, wenn er nicht weiterkommt oder wenn eine Aktion mit Folgen bestätigt werden muss.
• Der Mensch beobachtet. Der Agent handelt vollständig selbstständig. Der Mensch sieht das Protokoll und kann den Agenten stoppen, aber nicht steuern.

Die Autoren betonen, dass Autonomie eine Entscheidung beim Entwurf ist und nicht daraus folgt, wie leistungsfähig ein Agent ist. Einen sehr starken Agenten kann man bewusst auf einer niedrigen Stufe einsetzen. Sie schreiben auch, dass mehr Autonomie nicht automatisch „besser“ bedeutet: Man muss Effizienz, Verantwortung und Kosten abwägen.

Für jede Stufe beschreiben die Autoren, wo sie passt. Die erste eignet sich für Arbeit mit hohen Einsätzen und hoher Fachkenntnis. Die vierte für viele Entscheidungen mit geringem Fehlerpreis, die einen Menschen sonst überlasten würden. Zur fünften äußern sie sich vorsichtig: In den meisten Fällen überwiegen die Risiken wahrscheinlich den Nutzen. Gerechtfertigt sei sie eher dort, wo der Eingriff des Menschen selbst Fehler hineinbringt oder der Agent in einer abgeschotteten Umgebung arbeitet.

Eine Anmerkung: Die Skala der Studie ist für den Agenten insgesamt beschrieben, sie ist ein beschreibender Rahmen und keine fertige Anleitung. Ich empfehle, die Skala auf jeden Prozessschritt anzuwenden, nicht auf den ganzen Agenten. Das ist mein Ansatz, kein Ergebnis der Studie.

Ein Prozess, an dem wir alles durchgehen: die Bearbeitung einer neuen Anfrage

Damit es nicht bei der Theorie bleibt, nehmen wir einen Prozess und gehen ihn von Anfang bis Ende durch: die Bearbeitung einer neuen B2B-Anfrage, die über die Website eingegangen ist. Das Beispiel ist illustrativ, es sind keine Daten eines realen Projekts.

Der Prozess hat acht Schritte:

• Anfrage von der Website entgegennehmen.
• Prüfen, ob alle Daten ausgefüllt sind.
• Kategorie und potenziellen Wert des Kunden bestimmen.
• Informationen aus verfügbaren Quellen ergänzen.
• Kontakt im CRM anlegen oder aktualisieren.
• Angebot vorbereiten.
• Angebot an den Kunden senden.
• Status des Deals ändern.

Auf den ersten Blick lassen sich alle acht Schritte einem einzigen Agenten übertragen. Mit gleicher Selbstständigkeit sollte man sie aber nicht übertragen. Um zu entscheiden, welche Schritte der Agent ganz übernehmen kann und welche nicht, braucht es ein einfaches Bewertungssystem.

So legen Sie den Autonomiegrad für jeden Schritt fest

Bei jedem Schritt müssen Sie zwei Risiken bewerten. Erstens: Wie teuer wird ein Fehler? Zweitens: Wie wahrscheinlich ist es, dass der Agent einen Fehler macht? Damit das einfacher geht, habe ich die sieben Fragen in zwei Teile geteilt. Die vier Fragen des ersten Teils helfen, den Preis eines Fehlers einzuschätzen, die drei Fragen des zweiten Teils die Wahrscheinlichkeit. Danach werden die Antworten zusammengeführt: Je mehr Antworten ein hohes Risiko zeigen, desto näher sollte ein Mensch an diesem Schritt sein. So sieht eine einfache Risikobewertung für einen Schritt aus.

Bei der Formulierung der Fragen habe ich mich an der Methodik des Singapurer Rahmenwerks für Agenten orientiert (IMDA, Januar 2026, nach einer Zusammenfassung). Eine fertige Formel gibt es dort nicht: Das Rahmenwerk nennt, worauf man achten sollte, und überlässt dem Unternehmen die Entscheidung, welches Risiko akzeptabel ist.

Teil 1. Wie teuer wird ein Fehler?

Die ersten vier Fragen drehen sich darum, was passiert, wenn der Agent in diesem Schritt einen Fehler macht.

1. Lässt sich der Fehler korrigieren? Risiko niedrig: ein falsches Feld im CRM, das man in einer Minute korrigiert. Risiko hoch: Die E-Mail ist beim Kunden oder die Zahlung ist raus. Das lässt sich nicht zurückholen.

2. Was kann der Fehler kosten? Risiko niedrig: In der Terminerinnerung steht die falsche Uhrzeit, der Kunde fragt kurz nach. Risiko hoch: ein Rabatt auf einen Jahresvertrag oder die Antwort auf eine Beschwerde, die zur Position des Unternehmens wird.

3. Welche Daten nutzt der Agent? Risiko niedrig: öffentliche Daten, zum Beispiel Firmenname und Branche aus offenen Quellen. Risiko hoch: personenbezogene und vertragliche Daten: Kontaktdaten des Kunden, Vertragsbedingungen.

4. Schaut der Agent nur zu oder verändert er etwas? Risiko niedrig: Er liest nur. Risiko hoch: Er legt Einträge an oder ändert sie, er versendet E-Mails.

Teil 2. Wie wahrscheinlich ist ein Fehler?

Die letzten drei Fragen drehen sich darum, wie leicht man in diesem Schritt einen Fehler machen kann.

5. Ist der Schritt einfach, oder gibt es Ausnahmen? Ein Schritt ist einfach, wenn er eine Aktion, ein bis zwei Bedingungen und keine Ausnahmen enthält. Risiko niedrig: prüfen, ob ein Feld ausgefüllt ist. Risiko hoch: mehrere Bedingungen oder Ausnahmen, bei denen abgewogen werden muss, zum Beispiel die Frage, ob man für einen langjährigen Kunden eine Ausnahme macht.

6. Gibt es eine klare Regel? Risiko niedrig: Die Regel ist dort festgehalten, wo das System sie sieht, zum Beispiel im CRM, in den Einstellungen der Automatisierung oder in einem Dokument, auf das der Agent zugreift: „Rabatt bis 5 %, wenn der Kunde keine offene Beschwerde hat.“ Anhand einer solchen Regel lässt sich prüfen, ob der Agent sich geirrt hat. Risiko hoch: Die Regel steht nirgends, oder sie steht nur im Text der Anweisung für den Agenten, oder sie lebt in den Köpfen der Mitarbeitenden („je nach Situation“). Der Agent hat nichts zum Vergleichen, und Sie haben nichts zum Prüfen.

7. Wer hat geschrieben, worauf sich der Agent stützt? Risiko niedrig: die Felder Ihres Formulars und Ihr CRM. Risiko hoch: die E-Mail eines Kunden in seinen eigenen Worten oder Daten aus einem fremden System, das Sie nicht kontrollieren.

So bestimmen Sie den Autonomiegrad anhand der Antworten

Für jeden Schritt wählen Sie eine von drei Varianten. Das ist mein Ansatz, keine Formel:

• Der Agent erledigt es selbst. Wählen Sie das, wenn keine Antwort ein hohes Risiko zeigt.
• Der Agent bereitet vor, ein Mensch prüft und bestätigt. Wählen Sie das, wenn mindestens eine der Fragen 1 bis 4 ein hohes Risiko zeigt. Zum Beispiel lässt sich eine E-Mail an den Kunden nicht zurückholen.
• Der Mensch entscheidet. Wählen Sie das, wenn sowohl der Preis des Fehlers (Fragen 1 bis 4) als auch seine Wahrscheinlichkeit (Fragen 5 bis 7) ein hohes Risiko zeigen. Zum Beispiel gibt es keine klare Regel, und der Kunde schreibt in seinen eigenen Worten. Der Agent fasst die Situation im besten Fall kurz zusammen.

Drei Schritte des Prozesses, durchgespielt mit den sieben Fragen

Wir nehmen drei Schritte aus unserem Prozess und gehen sie mit diesen Fragen durch: erst nach dem Preis des Fehlers, dann nach seiner Wahrscheinlichkeit. Für jeden Schritt halten wir die Antworten fest und sehen, welche Variante herauskommt.

Schritt „Kontakt im CRM anlegen oder aktualisieren“.

• Korrigierbar, wenn das CRM den Änderungsverlauf speichert. Risiko niedrig.
• Kostet kaum etwas. Risiko niedrig.
• Der Agent nutzt den Kundenkontakt, ergänzt aber nur leere Felder. Risiko niedrig.
• Der Schritt ist einfach: eine Aktion, keine Ausnahmen. Risiko niedrig.
• Die Regel ist klar und festgehalten: „Nur leere Felder ergänzen, nichts überschreiben.“ Risiko niedrig.
• Die Daten stammen aus Ihrem Formular. Risiko niedrig.

Kein hohes Risiko. Ergebnis: Der Agent erledigt es selbst.

Schritt „Angebot an den Kunden senden“.

• Die E-Mail lässt sich nicht zurückholen. Risiko hoch.
• Es geht um den Kunden und den Preis. Risiko hoch.
• Eine Regel gibt es: Ihre Preisliste, sie ist im System hinterlegt. Risiko niedrig.
• Die Daten sind intern. Risiko niedrig.

Ein hohes Risiko nur beim Preis des Fehlers. Ergebnis: Der Agent bereitet die E-Mail vor, ein Mensch prüft sie und klickt selbst auf „Senden“.

Schritt „Angebot vorbereiten“, wenn der Kunde mehr als 5 % Rabatt verlangt.

• Es geht um Geld und Marge. Risiko hoch.
• Der Schritt ist nicht einfach: Es muss entschieden werden, ob man eine Ausnahme macht. Risiko hoch.
• Eine Regel gibt es nur bis 5 %, darüber gibt es keine. Risiko hoch.
• Der Kunde hat den Rabatt per E-Mail in eigenen Worten verlangt. Risiko hoch.

Hohes Risiko sowohl beim Preis als auch bei der Wahrscheinlichkeit eines Fehlers. Ergebnis: Der Mensch entscheidet. Der Agent gibt ihm im besten Fall eine Aufgabe mit dem Vermerk weiter, wie viel der Kunde verlangt und warum.

Der ganze Prozess in einer Tabelle: was der Agent selbst tut und was nicht

Jetzt fassen wir alle acht Schritte zusammen. Zu den Spalten vorab: In der ersten steht der Prozessschritt, in der zweiten, was der Agent in diesem Schritt tut, in der dritten, wie selbstständig er handelt („selbst“, „bereitet vor, Mensch bestätigt“ oder „Mensch entscheidet“), in der vierten, unter welcher Bedingung der Schritt an einen Menschen geht.

Der Agent führt fast den ganzen Prozess selbst. Ein Mensch kommt dort ins Spiel, wo sich ein Schritt nicht rückgängig machen lässt (E-Mail-Versand) und wo es um Geld geht (Rabatt über der Regel). Die Automatisierung ist hier nicht abgeschafft, sie ist lediglich auf die Schritte verteilt.

Die Entscheidung muss nicht für immer gelten. Nach ein bis zwei Monaten können Sie schauen, wie oft ein Mensch die vom Agenten vorbereitete E-Mail verändert hat. Falls fast nie, lässt sich Schritt 7 für eine höhere Stufe in Betracht ziehen. Auch das ist mein Ansatz.

Grenzen gehören ins System, nicht nur in die Anweisung

Autonomie muss gemeinsam mit dem Prozess entworfen werden und darf dem Agenten nicht als allgemeine Einstellung aufgesetzt werden. Die Grenzen müssen zudem technisch umgesetzt sein: durch Zugriffsbeschränkungen für Werkzeuge, Regeln für die Ausführung von Operationen, Kontrollpunkte, Protokollierung und Eskalationsmechanismen.

Nehmen wir Schritt 5. Der Agent darf Kontakte anlegen und leere Felder ergänzen, aber bestehende Einträge weder löschen noch überschreiben. Steht das nur in der Anweisung, ist es ein Wunsch. Hat das Konto des Agenten kein Löschrecht, ist der Fehler gar nicht möglich. Über dasselbe Prinzip habe ich im Beitrag über Zusagen von Agenten geschrieben: Die Beschränkung gehört ins System, nicht in den Text der Aufgabe.

Stopp und Eskalation: An wen geht die Aufgabe, wenn der Agent nicht allein entscheiden darf?

Ein Agent, der anhält und einen Fall an einen Menschen übergibt, ist nicht kaputt. Das ist Teil des Prozesses, und man sollte ihn vorab entwerfen.

Die Formulierung „Bei Zweifeln wende dich an einen Menschen“ funktioniert nicht: Es ist unklar, an welchen. In der Aufgabe, die an einen Menschen geht, sollten fünf Dinge stehen.

• An wen. Eine konkrete Person, nicht „der Vertrieb“ und nicht „der Verantwortliche“.
• Vertretung. An wen die Aufgabe geht, wenn die Person im Urlaub oder krank ist.
• Was in der Aufgabe steht. Was der Agent schon getan hat, was der Kunde verlangt und warum der Agent angehalten hat.
• Wo. In dem System, in dem die Person ohnehin arbeitet, zum Beispiel im CRM.
• Frist. Wie schnell die Aufgabe bearbeitet sein muss und an wen eine Erinnerung geht, wenn niemand reagiert. Ohne Frist bleibt eine Aufgabe nicht selten einfach liegen.

Zum Beispiel: Rabatt über 5 % → Aufgabe im CRM für Anna Müller, Vertriebsleiterin (Name erfunden), mit dem Vermerk, wie viel der Kunde verlangt und warum. Während ihres Urlaubs geht die Aufgabe an die Vertretung.

Wer eine solche Person benennt und entscheidet, wo genau der Agent anhalten muss, habe ich im Beitrag über den Verantwortlichen für die Regeln des Agenten besprochen.

Vier Fehler, die nicht selten vorkommen

Eine Stufe für den ganzen Prozess. „Soll er alles selbst machen“ ist riskant, wo sich ein Fehler nicht zurückholen lässt. „Wir bestätigen jede Aktion“ nimmt der Automatisierung ihren Nutzen.

Die Stufe richtet sich danach, wie gut der Agent ist. Die Studie trennt Fähigkeiten und Autonomie. Einem starken Agenten sollte man dort nicht selten weniger Selbstständigkeit geben, wo ein Fehler teuer ist.

Ein Stopp ohne Adressaten. Der Agent übergibt die Aufgabe, aber „an irgendeinen Manager“. Die Aufgabe bleibt liegen, der Kunde wartet.

Ein leeres Feld in der Tabelle der Schritte. Ist für einen Schritt keine Grenze oder Bedingung festgehalten, hat noch niemand die Entscheidung getroffen. Ein solches Feld ist eine Frage an den Prozess, nicht an den Agenten.

Checkliste: So verteilen Sie die Autonomie eines AI-Agenten auf die Schritte eines Prozesses

• Schreiben Sie die Schritte auf. Nehmen Sie einen Prozess, an dem ein Agent beteiligt ist, und notieren Sie seine Schritte der Reihe nach, wie in der Tabelle oben: von der Anfrage bis zur Statusänderung. Die Stufe wird einem Schritt zugewiesen, deshalb brauchen Sie zuerst die Schritte.
• Stellen Sie jedem Schritt die sieben Fragen. Lässt sich der Fehler korrigieren, was kostet er, welche Daten nutzt der Agent, liest er oder verändert er, ist der Schritt einfach, gibt es eine klare Regel, wer hat die Ausgangsdaten geschrieben. Markieren Sie neben dem Schritt, wo die Antwort ein hohes Risiko zeigt.
• Wählen Sie für den Schritt eine Variante. Für den Anfang reichen drei: selbst, bereitet vor und wartet auf die Bestätigung eines Menschen, Mensch entscheidet. Wenn Sie es genauer brauchen, nutzen Sie die fünf Stufen aus der Studie.
• Halten Sie Grenze und Bedingung fest. Zum Beispiel: „bis 5 %, wenn der Kunde keine offene Beschwerde hat“. Ein leeres Feld heißt, dass die Entscheidung noch nicht getroffen ist.
• Benennen Sie eine Person für den Stopp und eine Vertretung. Einen Namen, nicht die Position „Manager“. In der Aufgabe muss zu sehen sein, was der Agent getan hat und warum er angehalten hat.
• Verankern Sie die Grenzen im System und überprüfen Sie sie regelmäßig. Rechte des Kontos, Regeln für Operationen, Kontrollpunkte. Schauen Sie nach ein bis zwei Monaten, wie oft ein Mensch verändert hat, was der Agent vorbereitet hat, und entscheiden Sie, ob die Stufe angepasst werden sollte.

Eine Entscheidung, die sich nicht an ein System abgeben lässt

Wir müssen nicht zwischen einer vollständig autonomen KI und einem System wählen, das ständig auf die Bestätigung eines Menschen wartet. Viel praktischer ist es, innerhalb eines Prozesses unterschiedliche Grade von Autonomie zu entwerfen.

KI soll dort selbstständig handeln, wo das Risiko beherrschbar ist, die Regeln festgelegt sind und das Ergebnis sich prüfen lässt. Und sie soll dort anhalten, wo die Verantwortung beginnt, die eine menschliche Entscheidung verlangt.

Ein Mensch darf nicht bloß Beobachter dessen sein, was die KI tut. Er muss dort Entscheider bleiben, wo sich Verantwortung nicht auf ein System übertragen lässt.

Denn Autonomie ist kein Privileg des Agenten. Sie ist eine Architekturentscheidung des Unternehmens.

Nehmen Sie einen Prozess, in dem Ihr Agent arbeitet. Können Sie den Schritt nennen, an dem er anhalten muss, und die Person, an die die Aufgabe in diesem Moment geht?

Quellen

• Kevin Feng, David McDonald, Amy Zhang. Levels of Autonomy for AI Agents. Knight First Amendment Institute at Columbia University, 28. Juli 2025 (Preprint: arXiv 2506.12469). Die Studie ist beschreibend; die Vorschläge zu Autonomie-Zertifikaten und „unterstützten Bewertungen“ bezeichnen die Autoren als frühe Ideen.
• Singapore IMDA, Model AI Governance Framework for Agentic AI, Januar 2026 (freiwilliger Rahmen). Die Risikofaktoren stammen aus einer Zusammenfassung von Modulos; das Original sollte vor der Veröffentlichung geprüft werden.
• Die Tabelle der Schritte, das Beispiel mit der E-Mail, die Frage nach der klaren Regel und die Regel zur Wahl der Variante sind Illustrationen und der Ansatz der Autorin, keine Ergebnisse der Studien.

Besprechen wir Ihren Prozess →