Stellen wir uns eine ganz normale Situation vor.

Ein Unternehmen setzt einen KI-Agenten ein, der mit dem CRM arbeitet und die Kundenkommunikation automatisiert. Die Anweisung ist eindeutig: Antwortet ein Kunde drei Tage lang nicht auf eine E-Mail, wird eine Erinnerung verschickt. Kommt weitere fünf Tage keine Antwort, ändert der Agent den Status des Deals und informiert den Vertriebsmitarbeiter.

Der Agent arbeitet einwandfrei. Er prüft Daten, hält die Reihenfolge der Schritte ein, versendet Nachrichten und aktualisiert Einträge.

Aber es gibt einen Haken.

Die erfahrene Vertriebsmitarbeiterin weiß: Ein bestimmter Kunde hat darum gebeten, ihn bis Monatsende nicht zu kontaktieren. Bei einem anderen wurde gerade erst angerufen, eine zusätzliche E-Mail würde aufdringlich wirken. Mit einem dritten hat der Vertriebsleiter persönlich eine besondere Form der Kommunikation vereinbart.

Keiner dieser Umstände steht in der Anweisung.

Der Agent erledigt seine Aufgabe weiter. Und gerade weil er sie konsequent erledigt, kann sich der Fehler immer wieder wiederholen.

Das Problem ist nicht, dass KI keine Regeln befolgen kann. Das Problem ist, dass formale Regeln die tatsächliche Arbeit eines Unternehmens nicht immer abbilden.

Dieser Beitrag eröffnet die Serie „Können ≠ Dürfen" darüber, was ein AI-Agent darf und was nicht. Zuerst geht es um die zwei Regelwerke, die es in jedem Unternehmen gibt. Danach um vier Situationen, in denen ein Agent anders handelt, als Menschen es erwarten, und um einen Fall, in dem er anstelle einer fehlenden Regel eine erfundene anwendet. Dann darum, was eine Anweisung nicht abdeckt, und um ein Wissen, das nicht sagt, „was zu tun ist", sondern „was zu unterlassen ist". Zum Schluss: wie Sie solche Regeln finden und einen Prozess in sechs Schritten auf den Agenten vorbereiten.

Das Unternehmen auf dem Papier und im Alltag

So sieht es aus. In jedem Unternehmen gibt es zwei Regelwerke.

Das erste ist das offizielle. Man findet es in Richtlinien, Arbeitsanweisungen, im CRM, in Prozessdiagrammen und in der Dokumentation.

Das zweite ist das tatsächliche. Es entsteht im Arbeitsalltag: aus der Erfahrung der Mitarbeitenden, aus Absprachen zwischen den Abteilungen, aus Ausnahmen von Standardverfahren und aus Entscheidungen, die mit Blick auf die konkreten Umstände getroffen werden.

Nennen wir sie die formale und die informelle Ebene eines Geschäftsprozesses.

Ein offizieller Prozess für eingehende Anfragen kann zum Beispiel so aussehen:

  • Die Anfrage kommt über das Formular auf der Website.
  • Das CRM legt automatisch einen Kontakt an.
  • Der Lead erhält den Status „New".
  • Der Vertriebsmitarbeiter bekommt eine Benachrichtigung.
  • Wird der Kontakt innerhalb von vier Stunden nicht bearbeitet, schickt das System eine Erinnerung.

Auf dem Papier ist alles logisch. Doch die Mitarbeitenden wissen vielleicht: Anfragen von Bestandskunden gehören zu einem anderen Ansprechpartner, Anfragen strategischer Partner dürfen nicht nach Standardschema bearbeitet werden, und manche Leads müssen vorab geprüft werden.

Diese Feinheiten sind nicht zwangsläufig Fehler im Prozess. Im Gegenteil: Sie sind nicht selten das Ergebnis langjähriger Erfahrung und eine Möglichkeit, die Qualität der Betreuung zu halten.

Was die Daten zeigen. Wie viel Wissen nur in den Köpfen steckt, lässt sich schwer messen. Eine der wenigen offenen Quellen ist eine Umfrage des Unternehmens Panopto (es entwickelt eine Plattform für Schulung und Video) aus dem Jahr 2018: Daran nahmen 1.000 Personen teil, und das Portal HR Dive, das die Ergebnisse wiedergibt, spricht von großen US-Unternehmen. Es handelt sich um Selbsteinschätzungen der Befragten, nicht um Messungen, und die Umfrage entstand, bevor KI-Agenten im Alltag ankamen. Das steht darin:

  • 42 % des Wissens darüber, wie im Unternehmen gearbeitet wird, besitzt nur die Person, die die jeweilige Stelle innehat. An Kolleginnen und Kollegen wurde es nicht weitergegeben.
  • Büroangestellte, die mit Informationen und Dokumenten arbeiten, verbringen 5,3 Stunden pro Woche damit, auf Antworten von Kollegen zu warten oder Wissen neu zu rekonstruieren, das jemand anderes ohnehin schon hat.
  • Für neue Mitarbeitende sind rund 2,5 Monate formale Einarbeitung vorgesehen. Bis sie auf Arbeitsniveau sind, können nach Einschätzung der Befragten bis zu sechs Monate vergehen.

Was ich dabei sehe. Steckt in Ihrem Unternehmen ein ähnlicher Anteil des Wissens nur in den Köpfen, dann stützt sich die Automatisierung des formalen Prozesses nur auf einen Teil des Bildes. Ein Mensch bemerkt in der Regel den Widerspruch zwischen Anweisung und Situation. Ein KI-Agent kann Kontext auswerten, aber Umstände, die man ihm nicht mitgeteilt hat und auf die er keinen Zugriff hat, kann er nicht verlässlich berücksichtigen.

Vor der Automatisierung ist es wichtig zu verstehen, nicht nur welche Schritte ausgeführt werden, sondern auch warum, unter welchen Bedingungen und wann vom Standardablauf abgewichen werden muss.

Wo der Agent anders handelt, als Menschen es erwarten

Unten stehen vier Situationen. Alle sind illustrativ: keine realen Geschichten und keine Daten bestimmter Unternehmen, sondern Beispiele dafür, wie eine ungeschriebene Regel im Arbeitsalltag aussehen kann. In allen vier gilt dasselbe Schema: wie es im Unternehmen üblich ist, was der Agent tut, was daraus folgen kann, wie sich das vermeiden lässt.

1. Der Rabatt

So ist es im Unternehmen üblich: Bis 10 % gibt der Vertriebsmitarbeiter selbst, darüber stimmt er sich mit der Führungskraft ab.

Das tut der Agent: Der Kunde bittet um 15 %, im System ist keine Grenze hinterlegt, also trägt der Agent 15 % ein. Und wenn der Kunde nachdrücklicher fragt, auch mehr.

Was daraus folgen kann: Die Marge sinkt, und das neue Rabattniveau kann zur Erwartung des Kunden werden.

Was Sie tun können, um das zu vermeiden: Legen Sie die Grenze als Zahl fest und hinterlegen Sie sie im System, nicht nur im Text der Anweisung. Verlangt der Kunde mehr, entscheidet der Agent nicht selbst, sondern erstellt eine Aufgabe für den Vertriebsmitarbeiter.

2. Die Beschwerde eines Großkunden

So ist es im Unternehmen üblich: Zuerst bespricht der Vertriebsmitarbeiter die Situation telefonisch mit dem Kunden und hält das Ergebnis des Gesprächs anschließend schriftlich fest.

Das tut der Agent: Den Begriff „Großkunde" gibt es im System nicht, also antwortet er sofort per E-Mail, wie bei allen anderen.

Was daraus folgen kann: Ein Kunde, mit dem über Jahre eine Beziehung aufgebaut wurde, bekommt eine Vorlage statt eines Anrufs.

Was Sie tun können, um das zu vermeiden: Legen Sie fest, woran ein Großkunde zu erkennen ist (Umsatz, Status im CRM oder eine Liste). Bei solchen Kunden antwortet der Agent nicht selbst, sondern bereitet einen Entwurf vor und erstellt für den Vertriebsmitarbeiter die Aufgabe „Kunden anrufen".

3. Der Kunde mit der Ausnahme

So ist es im Unternehmen üblich: Dieser Kunde muss nicht im Voraus zahlen, das wurde vor langer Zeit so vereinbart.

Das tut der Agent: Er wendet die allgemeinen Bedingungen an und erinnert an die Zahlung.

Was daraus folgen kann: Der Kunde ist irritiert, der Vertriebsmitarbeiter muss sich erklären, und ein eingespielter Ablauf gerät ins Stocken.

Was Sie tun können, um das zu vermeiden: Führen Sie eine Ausnahmeliste: für welchen Kunden welche Regel nicht gilt und wer das entschieden hat. Praktisch ist ein Kennzeichen im CRM, das der Agent vor jeder Aktion prüft. Fehlt das Kennzeichen, gelten die Standardbedingungen.

4. „Bitte schreiben Sie mir bis Monatsende nicht"

So ist es im Unternehmen üblich: Der Kunde hat darum gebeten, ihn nicht zu stören. Der Vertriebsmitarbeiter weiß das noch, im CRM steht dazu nichts.

Das tut der Agent: Nach drei Tagen ohne Antwort schickt er die Erinnerung, wie in der Anweisung vorgesehen. Nach fünf Tagen ändert er den Status des Deals.

Was daraus folgen kann: Verärgerung bei einem Kunden, der bereits gesagt hat, was er möchte, und ein Vertrauensverlust gegenüber der Automatisierung im Team. Weil der Agent die Regel konsequent befolgt, kann sich so ein Fehler bei jedem ähnlichen Kunden wiederholen.

Was Sie tun können, um das zu vermeiden: Legen Sie im CRM ein Feld „nicht kontaktieren bis" an und sorgen Sie dafür, dass der Agent es vor jeder E-Mail prüft. Absprachen, die die Kommunikation betreffen, gehören in die Daten, nicht in das Gedächtnis des Vertriebsmitarbeiters.

Eine Regel, die nur im Kopf eines Mitarbeiters existiert, gibt es für den Agenten nicht. Sie muss als Zahl oder Bedingung festgehalten und im System verankert werden.

Wenn die Regel fehlt, kann der Agent sich eine ausdenken

Im April 2025 bemerkte ein Nutzer von Cursor, einem verbreiteten Code-Editor mit KI-Unterstützung, dass er aus seinem Konto geworfen wurde, wenn er von einem Gerät zum anderen wechselte. Er schrieb an den Support. Geantwortet hat „Sam", der KI-Assistent des Supports. Er erklärte zuversichtlich, das sei so gewollt: „Cursor ist als eine Sicherheitsmaßnahme auf ein Gerät pro Abonnement ausgelegt."

Eine solche Regel gab es im Unternehmen nicht. Die Ursache war ein Sicherheits-Update, und die Regel hatte der Bot erfunden, um etwas zu erklären, das er nicht wusste.

Danach lief es so weiter: Die Nutzer nahmen die Antwort als offizielle Regel wahr, ein Abonnement sei an ein einziges Gerät gebunden. Für alle, die Code schreiben und mal am Laptop, mal am Desktop-Rechner arbeiten, ist das eine erhebliche Einschränkung. Die Geschichte über die neuen „Regeln" verbreitete sich auf Reddit, und ein Teil der Nutzer schrieb öffentlich, er kündige sein Abonnement.

Michael Truell, Mitgründer von Cursor, antwortete dort selbst: „Wir haben keine solche Richtlinie". Er nannte die Antwort „die falsche Antwort eines Frontline-KI-Support-Bots" und erklärte, das Ausloggen sei durch ein Sicherheits-Update ausgelöst worden. Laut eWeek entschuldigte sich das Unternehmen, erstattete betroffenen Nutzern das Geld und kennzeichnet KI-Antworten seitdem.

Was ich dabei sehe. Fehlt eine Regel, sagt ein Agent nicht immer „Ich weiß es nicht": Er kann sich eine Regel ausdenken und nach eigenem Ermessen anwenden. Das betrifft nicht nur Support-Bots. Derselbe Mechanismus kann im CRM oder in jedem anderen System auftreten: Findet der Agent die passende Regel nicht, hält er womöglich nicht an, sondern wählt selbst eine Handlung. Ungeschriebene Regeln sind doppelt gefährlich: Der Agent kennt sie nicht, und an ihrer Stelle kann eine plausibel klingende Erfindung treten.

Wenn eine Regel nirgends beschrieben ist, hält der Agent nicht unbedingt an: Er kann sich eine eigene ausdenken. Deshalb sollten Sie die Stellen, an denen Regeln fehlen, im Voraus finden und schließen.

Warum eine gute Anweisung das Problem noch nicht löst

Es gibt die verbreitete Vorstellung vom KI-Agenten: Man beschreibt die Aufgabe ausführlich, gibt Zugriff auf die nötigen Werkzeuge, und der Agent kann die Arbeit eines Mitarbeiters erledigen.

In der Praxis ist die Anweisung nur ein Teil des Systems. Um eine Aufgabe zu erledigen, braucht ein Agent unter Umständen:

  • Regeln für Entscheidungen;
  • Zugriff auf aktuelle Daten;
  • Informationen über frühere Kontakte;
  • Beschränkungen seiner Befugnisse;
  • Bedingungen, unter denen eine Handlung erlaubt ist;
  • Kriterien für die Übergabe an einen Menschen;
  • Mechanismen zur Kontrolle des Ergebnisses.

Angenommen, ein Agent soll Rückerstattungsanfragen automatisch bearbeiten. In der Anweisung steht: Erfüllt der Kunde die Bedingungen für eine Rückerstattung, die Erstattung über das Zahlungssystem auslösen.

Doch was heißt „erfüllt die Bedingungen"? Genügt es, dass der Kunde die Anfrage fristgerecht gestellt hat? Was gilt, wenn die Leistung schon teilweise erbracht wurde? Wie werden individuelle Absprachen berücksichtigt? Wer entscheidet, wenn die Daten im CRM den Informationen im Zahlungssystem widersprechen?

Sind diese Fragen nicht geklärt, muss der Agent mit unvollständigen Regeln arbeiten.

Hier lohnt es sich, zwei Situationen zu unterscheiden. Erstens: Der Agent hat eine korrekt definierte Aufgabe falsch ausgeführt. Zweitens: Die Aufgabe war unvollständig beschrieben, sodass selbst die korrekte Ausführung der Anweisung zu einem falschen Geschäftsergebnis führte. Im zweiten Fall genügt es nicht, den Prompt umzuschreiben oder ein leistungsfähigeres Modell zu wählen. Der Prozess selbst muss überprüft werden.

Das Forschungsteam von Anthropic empfiehlt in seinem Beitrag über den Bau wirksamer Agenten, „nach der einfachsten möglichen Lösung zu suchen und die Komplexität nur dann zu erhöhen, wenn es nötig ist". Nach ihrer Beschreibung bieten vorab festgelegte Workflows Vorhersehbarkeit und Konsistenz bei klar umrissenen Aufgaben, während Agenten dort besser sind, wo Flexibilität und modellgesteuerte Entscheidungen gefragt sind. Für Unternehmen folgt daraus ein praktischer Schluss: Manchmal ist eine gewöhnliche Automatisierung mit klaren Bedingungen verlässlicher, und KI kommt dort hinzu, wo mehrdeutige Informationen ausgewertet werden müssen.

Eine gute Anweisung ist nur ein Teil des Systems: Entscheidungen, Befugnisse und die Übergabe an einen Menschen müssen zusammen mit ihr beschrieben werden.

Was nicht geschehen darf: Wissen, das nirgends aufgeschrieben ist

Bei der Analyse von Prozessen sammelt man in der Regel Richtlinien, beschreibt die Abfolge der Schritte und legt die Schnittstellen zwischen Systemen fest. Es gibt aber noch eine Art von Wissen, die man leicht übersieht: das Verständnis dafür, was man nicht tun sollte.

In der KI-Entwicklung ist das keine eigene, allgemein definierte Kategorie. Für die Planung von Automatisierung ist es aber nützlich, es als negative knowledge zu betrachten: als Wissen über Verbote, Ausnahmen und Situationen, in denen die Standardhandlung falsch wird.

Zum Beispiel:

  • keine zweite E-Mail senden, wenn der Kunde über einen anderen Kanal bereits eine Antwort erhalten hat;
  • den Status eines Deals nicht ändern, solange die Bestätigung der Führungskraft aussteht;
  • einen Eintrag nicht löschen, bevor die zugehörigen Dokumente geprüft sind;
  • keine Rückerstattung auslösen, wenn es eine Abweichung zwischen den Systemen gibt;
  • das Standardszenario nicht verwenden, wenn eine Ausnahme im Vertrag festgestellt wurde;
  • dem Kunden keine automatisch erzeugte Antwort schicken, wenn die Anfrage rechtlich relevante Beanstandungen enthält.

Beachten Sie: Das sind nicht einfach zusätzliche Anweisungen. Es sind Bedingungen, die das Recht des Systems einschränken, zu handeln.

Dabei sollte man menschliche Erfahrung nicht verklären. Ungeschriebene Regeln können nützlich sein, aber auch veraltet, widersprüchlich oder auf die Gewohnheiten einzelner Mitarbeitender gestützt. Aufgabe der Automatisierenden ist es deshalb nicht, jede informelle Absprache in die KI zu übertragen, sondern sie zu erkennen, auf ihre Begründung zu prüfen und mit den Verantwortlichen abzustimmen.

Dokumentiert werden müssen nicht nur Handlungen, sondern auch die Bedingungen, unter denen eine Handlung unzulässig ist.

Wie Sie Regeln finden, über die niemand spricht

Eine Führungskraft beschreibt in der Regel das Zielbild der Arbeit. Die Mitarbeitenden, die die Aufgabe jeden Tag erledigen, zeigen, wo dieses Bild von der Wirklichkeit abweicht. Hier sind sechs Wege, diese Lücke zu finden. Keiner wurde eigens für Agenten erfunden: Es sind Methoden aus Wissensmanagement, Prozessanalyse und Projektmanagement, die sich auf die Einführung eines Agenten übertragen lassen.

1. Fragen Sie jemanden, der noch nicht lange dabei ist. Wer neu im Unternehmen ist, musste die Regeln unterwegs lernen. Fragen Sie: Was hat Sie in den ersten Wochen überrascht, und was haben Sie erst von Kollegen erfahren? Laut der bereits erwähnten Panopto-Umfrage dauert die formale Einarbeitung etwa 2,5 Monate, bis zum Arbeitsniveau können nach Einschätzung der Befragten bis zu sechs vergehen. Alles, was Neue „nebenbei" lernten, war nirgends aufgeschrieben.

2. Stellen Sie die Frage andersherum. Fragen Sie statt „Wie machen Sie das?": „In welchen Fällen würden Sie es nicht tun, auch wenn die Anweisung etwas anderes sagt?" und „Was hält Sie auf?". So lässt sich dieses negative knowledge leichter hervorholen: Menschen erinnern sich eher an Ausnahmen, als dass sie Regeln formulieren.

3. Führen Sie zwei Wochen lang ein Abweichungsprotokoll. Bitten Sie die Mitarbeitenden, jeden Fall zu notieren, in dem sie von der Anweisung abgewichen sind: was sie getan haben, warum und wen sie dazu gefragt haben. Nach zwei Wochen haben Sie eine Liste echter Ausnahmen statt bloßer Erinnerungen.

4. Schauen Sie sich die Praxis in den Daten an. Vergleichen Sie, was in der Richtlinie steht, mit dem, was im CRM passiert. Unten ein illustratives Beispiel für die Richtlinie „bis 10 % gibt der Vertriebsmitarbeiter selbst".

Was in der Richtlinie steht Was im CRM im Quartal zu sehen ist
Rabatt bis 10 % nach Entscheidung des Vertriebsmitarbeiters 41 Deals mit 0–10 % Rabatt, davon 15 genau mit 10 %
Darüber nur mit Freigabe der Führungskraft 4 Deals mit 12–15 % Rabatt ohne Vermerk einer Freigabe

Die Zahlen sind erfunden: Das ist eine Illustration, kein Ergebnis einer Studie und keine Daten eines realen Projekts. Ein solcher Vergleich zeigt, wo die tatsächliche Praxis von der Richtlinie abweicht, und zwingt zu der Entscheidung, welche der beiden Versionen Sie festschreiben möchten. Die professionelle Version dieses Vorgehens heißt Process Mining: Ein Ereignisprotokoll wird mit dem Prozessmodell abgeglichen, um Abweichungen zu finden (Conformance Checking). Die Methode wird mit Wil van der Aalst von der Technischen Universität Eindhoven in Verbindung gebracht.

5. Machen Sie eine Pre-Mortem-Analyse. Diese Methode hat Gary Klein beschrieben (Artikel in der Harvard Business Review, 2007). Die Beteiligten stellen sich vor, das Projekt sei bereits gescheitert, und jeder notiert schriftlich die Gründe. Übertragen auf den Agenten: „In einem Monat hat sich ein Kunde über die E-Mail des Agenten beschwert. Was ist passiert?" Die Antworten können auf Regeln hinweisen, an die bei einer direkten Frage niemand gedacht hätte.

6. Starten Sie einen Pilot im Schattenmodus. Der Agent analysiert reale Aufgaben und schlägt eine Handlung vor, ausgeführt wird sie aber von einem Mitarbeiter, der den Vorschlag zuerst prüft. Halten Sie jedes Mal den Grund fest, wenn der Mensch den Vorschlag des Agenten abgelehnt oder geändert hat. Die Unterschiede zwischen Agent und Mensch sind die Landkarte der ungeschriebenen Regeln. Anthropic merkt in dem erwähnten Beitrag an, dass ein Agent „an Kontrollpunkten oder bei Hindernissen für Rückmeldung eines Menschen pausieren" kann.

Ungeschriebene Regeln lassen sich leichter finden, wenn Sie nach Ausnahmen fragen und auf die Praxis schauen, statt den Prozess beschreiben zu lassen.

Sechs Schritte: So bereiten Sie einen Prozess auf den Agenten vor

  • Beschreiben Sie zwei Prozesse. Notieren Sie für einen Prozess die formale Version (nach Richtlinie und CRM) und die tatsächliche (nach dem, was die Mitarbeitenden tun). Grundlage: die Unterscheidung zwischen formaler und informeller Ebene eines Prozesses.
  • Sammeln Sie die ungeschriebenen Regeln. Nutzen Sie die Wege 1–3 von oben: Frage an Neue, Frage andersherum, Abweichungsprotokoll.
  • Prüfen Sie die Begründung. Ordnen Sie die Regeln vier Gruppen zu: notwendige Beschränkungen, individuelle Absprachen, vorübergehende Behelfslösungen und veraltete Gewohnheiten. Nicht jede Ausnahme gehört in die Automatisierung.
  • Halten Sie die Regel als Zahl oder Bedingung fest und verankern Sie sie im System. Ohne Wörter wie „in der Regel" oder „je nach Situation"; Limits, Status und Kennzeichen im CRM, nicht nur Text in der Anweisung. Grundlage: Eine Anweisung kann übersehen oder anders ausgelegt werden, eine Beschränkung im System wirkt unabhängig von der Formulierung.
  • Benennen Sie eine verantwortliche Person. Legen Sie fest, an wen sich der Agent wendet, wenn ein Fall zu keiner Regel passt, und was er bis zur Antwort tut: warten, nicht selbst entscheiden.
  • Starten Sie einen Pilot im Schattenmodus. Der Agent schlägt vor, der Mitarbeiter entscheidet; halten Sie die Abweichungen fest. Nach Änderungen an Regeln, Absprachen oder Schnittstellen überprüfen Sie das Regelwerk und testen den Agenten erneut.

Der Agent bekommt Befugnisse erst, wenn die Regeln aufgeschrieben, geprüft und im System verankert sind.

Eine Frage an Ihr Team

KI-Agenten eröffnen neue Möglichkeiten der Automatisierung: Sie können unstrukturierte Daten auswerten, Werkzeuge auswählen, Handlungsfolgen ausführen und sich auf komplexe Aufgaben einstellen. Doch die technische Fähigkeit, eine Handlung auszuführen, heißt nicht, dass sie in einer konkreten Geschäftssituation angemessen ist.

Agenten brauchen nicht weniger Vertrauen. Sie brauchen Grenzen, die jemand bewusst gewählt hat. Und aufgeschriebene Regeln helfen nicht selten auch Menschen: neuen Mitarbeitenden und denen, die Kollegen vertreten.

Bevor Sie einem Agenten einen Geschäftsprozess übergeben, lohnt sich deshalb eine einfache Frage an Ihr Team:

Was weiß ein erfahrener Mitarbeiter über diese Arbeit, das nirgends aufgeschrieben ist?

Die Antwort darauf kann wichtiger sein als die Wahl des fortschrittlichsten KI-Modells.

Quellen