Ordnung ist teuer als Intelligenz

Die meiste Arbeit an belastbaren Agentensystemen steckt nicht im Modell. Sie steckt in der Ordnungsstruktur, die das Modell begrenzt, führt, überprüft und im Zweifel stoppt.

Referenzillustration: Martin Berg / Vige. Die Seite erlaubt die Nutzung mit angemessener Namensnennung.^[1]

Das Bild ist eine einfachere Version des Beitrages von Rob England um die Energie zu beleuchten die man braucht um Systeme stabil laufen zu lassen. In den letzten 18 Jahren habe ich ca. 15 Tage in Seminaren von Dave Snowden verbracht. Von Stockholm, London, Kopenhagen, Berlin, und Hamburg. Vereinfacht wenn man einen Prozess mit sehr geringer Fehlertoleranz aufbauen will, dann muss man sehr viel nachdenken (die Energie) um den Prozess stabil zu planen. Der ganze Beitrag zeigt, wenn man etwas mit sehr geringer Fehlertoleranz aufbauen will, man sehr viel Energie braucht.

Freitag sieht alles einfach aus. Montag beginnt das eigentliche Projekt.

Freitag baut ein Team in erstaunlich kurzer Zeit einen Agenten. Der Agent liest eingehende Anfragen, zieht Daten aus dem CRM, formuliert eine Antwort, erzeugt einen Entwurf für ein Angebot und legt schon einmal einen Termin im Kalender nahe. Im Demo-Call wirkt das wie ein Quantensprung. Endlich ist KI nicht nur ein Chatfenster, sondern erledigt Arbeit. Alle sind begeistert, weil man in wenigen Stunden mehr Fortschritt sieht als früher in mehreren Sprints.

Montag ist dieselbe Lösung plötzlich schwer. Nicht, weil das Modell auf einmal schlechter wäre. Sondern weil der Kontext ernst geworden ist.

Jetzt geht es nicht mehr um eine isolierte Demo, sondern um einen Betrieb. Also um Fragen wie diese:

• Welche Daten dürfen überhaupt verarbeitet werden?

• Welche Quelle gewinnt bei Widersprüchen?

• Wer trägt die Verantwortung, wenn der Agent eine falsche Empfehlung gibt?

• Wann ist der Agent im Assistenzmodus und wann im Entscheidungsmodus?

• Welche Ausnahmen führen zu einer Eskalation an Menschen?

• Welche Tools darf der Agent verwenden - und mit welchen Rechten?

• Wie wird sichtbar, warum er etwas getan hat?

• Wie wird verhindert, dass ein Fehler nicht nur einmal passiert, sondern hundertfach?

An diesem Punkt zeigt sich die eigentliche Wahrheit: Ein Agent ist keine Organisationsfähigkeit. Ein Agent ist zunächst nur eine Fähigkeit, die in einer Organisation schnell Schaden anrichten kann, wenn ihr keine Struktur gegeben wird.

Genau deshalb ist das Bild des dreidimensional gedachten Cynefin-Rahmens so nützlich. Es illustriert eine Einsicht, die für Agentensysteme zentral ist: Ordnung ist kein natürlicher Zustand, sondern ein hergestellter Zustand. Je stärker ein System auf Wiederholbarkeit, Verlässlichkeit und Automatisierung ausgerichtet wird, desto mehr Energie muss in diese Ordnung hineinfließen.^[2][3]

Das klingt abstrakt. Für Agentensysteme ist es aber brutal konkret.

Die Kernthese

Wer „mal schnell“ einen Agenten baut, baut fast immer zuerst die Intelligenz und erst später - wenn überhaupt - die Ordnungsstruktur.

Das ist die falsche Reihenfolge.

Denn das eigentliche Problem in Agentensystemen lautet nicht:

Sondern:

Zwischen diesen beiden Fragen liegt die meiste Arbeit.