KI-Automatisierung:
Warum lange Ketten brechen und welche Architektur trägt

Was KI-Automatisierung von klassischer Automatisierung trennt

Klassische Prozessautomatisierung führt hinterlegte Regeln aus. Gleiche Eingabe, gleiche Ausgabe, bei jedem Durchlauf. Fällt ein Schritt aus, bricht der Ablauf mit einer Meldung ab und lässt sich anhand dieser Meldung reparieren. Die Fehler eines Regelwerks sind reproduzierbar, und ein reproduzierbarer Fehler wird einmal behoben und ist dann behoben.

KI-Automatisierung arbeitet mit Wahrscheinlichkeiten. Dieselbe Eingabe kann zu unterschiedlichen Ausgaben führen, und die Qualität eines Schritts wird zu einer Quote über viele Durchläufe. Aus dieser einen Eigenschaft folgen drei Konsequenzen, die den gesamten Bau- und Abnahmeprozess verändern.

1. Fehler lassen sich nicht durch Nachstellen finden

Ein Vorgang, der gestern falsch bearbeitet wurde, läuft heute mit derselben Eingabe möglicherweise richtig durch. Damit entfällt das übliche Vorgehen, einen Fehler zu reproduzieren und dann zu beheben. An seine Stelle tritt die Messung: Eine Fehlerart wird über eine Stichprobe beziffert und über eine veränderte Konstruktion des Schritts gesenkt.

2. Der Fehler kommt ohne Fehlermeldung

Ein Regelwerk, das an eine Grenze stößt, meldet sich. Ein statistisches System liefert eine falsche Antwort in genau derselben Form wie eine richtige: vollständig, flüssig formuliert, im erwarteten Format. Für die Weiterverarbeitung ist sie von einer korrekten Ausgabe nicht unterscheidbar. Automatisierte Abläufe brauchen deshalb eine Kontrollschicht, die Ergebnisse aktiv gegen unabhängige Quellen abgleicht. Eine Überwachung, die auf Abstürze und Fehlermeldungen reagiert, bemerkt diese Fehlerart nie.

3. Abnahme wird zur Stichprobe

Ob ein Ablauf funktioniert, ist keine Ja-Nein-Frage mehr. Ein Abnahmedokument für KI-Automatisierung enthält vier Angaben: die Testmenge, auf der gemessen wurde, die erreichte Trefferquote, die Liste der zulässigen Fehlerarten und den Weg, auf dem ein System unklare Fälle abgibt. Wer diese vier Angaben nicht vertraglich festhält, hat keinen prüfbaren Leistungsgegenstand. Wie sich die Verantwortung dabei zwischen Auftraggeber und Umsetzung verteilt, ordnet unser Beitrag zur Verantwortungskette in Software-Vorhaben ein.

Die Multiplikation, die über jeden Ablauf entscheidet

Die Gesamt-Trefferquote einer Kette ist das Produkt der Trefferquoten ihrer Schritte, sofern jeder Schritt auf dem Ergebnis des vorherigen aufbaut. Diese Rechnung ist elementar, und sie wird in Automatisierungsvorhaben regelmäßig übersehen, weil die Aufmerksamkeit auf der Qualität einzelner Schritte liegt.

Was die Rechnung liefert

• 99 % je Schritt: 10 Schritte → 90,4 % · 20 Schritte → 81,8 % · 50 Schritte → 60,5 % · 100 Schritte → 36,6 %
• 98 % je Schritt: 10 Schritte → 81,7 % · 20 Schritte → 66,8 % · 50 Schritte → 36,4 %
• 95 % je Schritt: 5 Schritte → 77,4 % · 10 Schritte → 59,9 % · 20 Schritte → 35,8 %
• 90 % je Schritt: 5 Schritte → 59,0 % · 10 Schritte → 34,9 % · 20 Schritte → 12,2 %

Die vierte Zeile ist der Punkt, an dem viele Vorhaben stehen, ohne es zu wissen. Eine Genauigkeit von 90 Prozent je Schritt gilt in einer Einzelbetrachtung als guter Wert. Über zehn Schritte hinweg bleibt davon jedes dritte Ergebnis übrig.

Kettenlänge wiegt schwerer als Modellqualität

Aus 59,9 Prozent bei zehn Schritten führen zwei Wege heraus. Der erste halbiert die Fehlerrate je Schritt, von 95 auf 97,5 Prozent Genauigkeit. Der zweite halbiert die Kette, von zehn auf fünf Schritte. Ergebnis des ersten Weges: 77,6 Prozent. Ergebnis des zweiten Weges: 77,4 Prozent. Beide Wege wirken praktisch gleich stark.

Der Unterschied liegt im Aufwand. Die Fehlerrate je Schritt zu halbieren bedeutet einen Modellwechsel, ein Nachtrainieren oder eine aufwendige Überarbeitung der Anweisungen — mit ungewissem Ergebnis und laufenden Kosten. Die Kette zu halbieren ist eine Entwurfsentscheidung, die im eigenen Haus getroffen wird, einmalig Aufwand kostet und dauerhaft wirkt. Das ist der stärkste verfügbare Hebel, und er hängt an keinem Anbieter.

Warum eine gelungene Vorführung nichts beweist

Ein einzelner erfolgreicher Durchlauf ist mit jeder Gesamtquote oberhalb von etwa 50 Prozent gut vereinbar. Aus ihm lässt sich keine Quote ableiten. Belastbar wird die Aussage erst über eine Messreihe: Wer eine Trefferquote auf ungefähr einen Prozentpunkt genau kennen will, braucht mehrere hundert protokollierte Vorgänge. Vor dieser Messung ist jede Aussage über Zuverlässigkeit eine Vermutung.

Halbwertszeit statt Schrittzählen: das robustere Maß

Die Multiplikation setzt voraus, dass sich ein Vorgang sauber in Schritte zerlegen lässt. Bei Abläufen, die ein System eigenständig plant, ist die Zahl der Schritte vorab unbekannt. Für diesen Fall gibt es ein Maß, das ohne Schrittzählung auskommt.

Die Halbwertszeit eines Systems ist die Aufgabenlänge, bei der seine Erfolgswahrscheinlichkeit auf 50 Prozent fällt. Gemessen wird die Länge in der Zeit, die eine eingearbeitete Fachkraft für dieselbe Aufgabe benötigen würde. Ein 2025 veröffentlichtes Modell beschreibt den beobachteten Verlauf über eine konstante Ausfallrate je Zeiteinheit dieser menschlichen Bearbeitungsdauer. Daraus folgt ein exponentieller Abfall der Erfolgswahrscheinlichkeit mit zunehmender Aufgabenlänge, und jedes System bekommt eine charakteristische Halbwertszeit.

Was das im Betrieb praktisch bedeutet

Die Frage „Welche Aufgaben kann ich heute übergeben?" wird damit beantwortbar, ohne dass der Ablauf vorher in Schritte zerlegt sein muss. Übergeben werden Aufgaben, deren menschliche Bearbeitungsdauer deutlich unterhalb der Halbwertszeit des eingesetzten Systems liegt. Für die betriebliche Planung genügt eine grobe Einteilung der Vorgänge in Zeitklassen: Minuten, Viertelstunden, Stunden, Tage.

Ein Vorgang, den eine Fachkraft in fünf Minuten erledigt, ist ein anderer Kandidat als einer, der zwei Arbeitstage bindet — auch dann, wenn beide auf dem Papier gleich gut beschreibbar wirken. Diese Einteilung ist in wenigen Stunden erstellt und ordnet eine Vorhabensliste zuverlässiger als jede Werkzeugbewertung.

Wo die Einordnung endet

Die Untersuchung grenzt selbst ein: Ob das Muster über die dort betrachtete Aufgabenklasse hinaus trägt, ist offen. Für Fachaufgaben mit hohem Anteil an Nachschlagen, Abstimmung oder Vor-Ort-Prüfung liegen keine vergleichbaren Messreihen vor. Die Halbwertszeit ist damit ein Orientierungsmaß für die Reihenfolge von Vorhaben, kein Versprechen für einen konkreten Ablauf.

Quelle: Toby Ord, „Is there a half-life for the success rates of AI agents?", arXiv:2505.05115 (Mai 2025)

Sechs Bauprinzipien für belastbare Ketten

Aus der Multiplikation folgt eine Bauweise. Sie ist unabhängig davon, welches System eingesetzt wird, und sie überlebt einen Werkzeugwechsel. Die sechs Prinzipien sind nach Wirkung geordnet.

1. Determinismus-Inseln zuerst. Alles, was sich mit einer Regel, einer Formel oder einer Datenbankabfrage lösen lässt, gehört nicht in ein statistisches System. Eine Berechnung liefert ein Ergebnis, ein Modell liefert eine Wahrscheinlichkeit. Jeder deterministisch gelöste Schritt hat eine Trefferquote von 100 Prozent und fällt damit aus der Multiplikation heraus. Praktisch ist das der günstigste Weg, eine Kette zu verkürzen: Man entfernt Schritte, ohne Funktion zu verlieren.
2. Kettenlänge begrenzen. Schritte, die dieselbe Entscheidung betreffen, werden zu einem Schritt zusammengefasst. Jede Übergabe zwischen zwei Schritten ist ein zusätzlicher Multiplikator und zugleich eine Stelle, an der Kontext verloren geht. Eine Kette mit vier gut geschnittenen Schritten schlägt eine Kette mit zwölf fein zerlegten Schritten, selbst wenn die zwölf einzeln genauer arbeiten.
3. Zustand übergeben, nicht Verlauf. Zwischen den Schritten wird ein festgelegtes, prüfbares Datenformat weitergereicht: benannte Felder mit definierten Wertebereichen. Ein freier Textverlauf lässt sich nicht prüfen, und eine falsche Angabe darin ist stromabwärts von einer richtigen nicht mehr zu unterscheiden. Feste Formate machen jeden Übergang zu einer Stelle, an der eine Prüfung technisch möglich wird.
4. Prüfpunkte dort setzen, wo Prüfen billiger ist als Erzeugen. Bei vielen Aufgaben ist die Kontrolle eines Ergebnisses erheblich einfacher als seine Erstellung: Eine Kundennummer gegen den Datenbestand abzugleichen ist trivial, sie fehlerfrei zu erzeugen ist es nicht. An solchen Stellen gehört eine maschinelle Prüfung in den Ablauf. Sie unterbricht die Multiplikation, weil hinter ihr wieder von einem gesicherten Zustand aus gerechnet wird.
5. Abbruchbedingung definieren. Jeder Ablauf braucht eine Regel, unter der er anhält und an einen Menschen übergibt, statt ein Ergebnis zu erzeugen. Ohne diese Regel liefert ein System auch bei unvollständiger Eingabe eine Ausgabe, und diese Ausgabe sieht aus wie jede andere. Der Anteil sauber abgegebener Fälle ist eine Qualitätskennzahl, kein Mangel.
6. Idempotenz herstellen. Ein Schritt muss wiederholbar sein, ohne dass die Wiederholung Schaden anrichtet: keine doppelte Buchung, keine zweite Bestellbestätigung, keine zweite Mail an denselben Empfänger. Erst wenn das gesichert ist, wird der automatische Neuversuch nach einem Fehler zu einem Werkzeug statt zu einem Risiko.

Welcher Vorgang sich für den ersten Aufbau überhaupt eignet, ist eine eigene Entscheidung mit eigenen Kriterien — sie steht ausführlich in unserem Beitrag zur Wahl des Einstiegsprozesses.

Die Ironie der Automatisierung: der Rest wird schwerer

Die Ironie der Automatisierung beschreibt den Befund, dass die Automatisierung eines Systems die Anforderungen an die verbleibende menschliche Rolle erhöht statt sie zu senken. Formuliert wurde er 1983 für industrielle Leitwarten, und er überträgt sich vollständig auf KI-Automatisierung im Büro. Drei Mechanismen wirken dabei zusammen.

Quelle: Lisanne Bainbridge, „Ironies of Automation", Automatica 19 (1983), Heft 6, S. 775–779

Die verbleibenden Fälle sind die schwierigen

Automatisiert wird, was regelmäßig auftritt, klaren Regeln folgt und eindeutig entschieden werden kann. Übrig bleibt genau das Gegenteil: die seltenen, die mehrdeutigen und die strittigen Fälle. Die durchschnittliche Schwierigkeit der Arbeit, die ein Mensch nach der Automatisierung noch bearbeitet, steigt mit jedem Automatisierungsschritt.

Die Übung fehlt genau dann, wenn sie gebraucht wird

Wer einen Vorgang zehnmal am Tag bearbeitet hat, erkannte Abweichungen im Vorbeigehen. Wer denselben Vorgang nach der Automatisierung zweimal im Monat bearbeitet, braucht länger, greift häufiger daneben und traut dem eigenen Urteil weniger. Die Routine, aus der die Fehlererkennung entstand, wird durch die Automatisierung entzogen.

Prüfen verlangt mehr Fachkenntnis als Ausführen

Ein Ergebnis zu erstellen erfordert Kenntnis des Verfahrens. Ein Ergebnis zu beurteilen, das vollständig und plausibel aussieht, erfordert zusätzlich die Fähigkeit, die Stellen zu erkennen, an denen es falsch sein könnte. Die Prüfrolle ist die anspruchsvollere Rolle. Wer sie mit der günstigsten verfügbaren Kraft besetzt, hat die Kontrolle formal hergestellt und faktisch abgeschafft.

Für die Personalplanung folgt daraus eine unbequeme Konsequenz: Automatisierung senkt den Qualifikationsbedarf nicht, sie verschiebt ihn nach oben und konzentriert ihn auf weniger Personen. Ein wirksames Gegenmittel ist eine feste Quote manuell bearbeiteter Fälle — ein definierter Anteil der Vorgänge läuft bewusst am automatisierten Weg vorbei, damit die prüfende Fachkraft in Berührung mit der Sache bleibt. Diese Quote kostet Effizienz und erhält Urteilsfähigkeit.

Warum der Automatisierungsgrad nicht linear zahlt

Der Automatisierungsgrad beschreibt den Anteil eines Vorgangs, der ohne menschliches Zutun abläuft. Zwischen diesem Anteil und der wirtschaftlichen Wirkung besteht kein gerader Zusammenhang. Drei Effekte verschieben die Rechnung, und alle drei sind gut belegt.

1. Der nicht automatisierte Rest bestimmt die Obergrenze

Aus der Rechnerarchitektur stammt eine 1967 formulierte Gesetzmäßigkeit — das amdahlsche Gesetz —, die sich unmittelbar übertragen lässt: Beschleunigt man einen Teil eines Ablaufs beliebig stark, wird die Gesamtdauer vom unbeschleunigten Teil bestimmt. Bleiben 30 Prozent eines Vorgangs manuell, liegt die maximal erreichbare Beschleunigung bei etwa dem Dreifachen — unabhängig davon, wie perfekt die übrigen 70 Prozent laufen. Bindet dieser Rest zusätzlich eine Person in Bereitschaft, sinkt die gebundene Kapazität noch weniger.

2. Ersparnis entsteht an Schwellen, nicht in Prozenten

Gewonnene Zeit wird wirtschaftlich sichtbar, sobald sie eine ganze Einheit freistellt: eine Rolle, ein Zeitfenster, eine Schicht, eine Rufbereitschaft, eine Zusagefrist gegenüber Kunden. Zwanzig gewonnene Minuten am Tag, verteilt über fünf Personen, erscheinen in keiner Kostenrechnung. Sie erscheinen auch dann nicht, wenn sie real sind. Die Bewertung eines Vorhabens gehört deshalb an die Schwelle gebunden, die es überschreiten soll, und nicht an einen Prozentwert.

3. Sinkende Stückkosten erhöhen die Menge

Wird ein Vorgang billiger, wird er häufiger ausgeführt. Angebote entstehen für Anfragen, die vorher unbearbeitet blieben; Auswertungen werden erstellt, die vorher unterblieben; Textfassungen werden dreimal statt einmal erzeugt. Dieser Rückpralleffekt ist seit 1865 in der Wirtschaftswissenschaft beschrieben, damals am Beispiel der Kohlenutzung. Die Mehrmenge kann wertvoll sein. Sie erscheint aber als Leistungszuwachs und nicht als Kostensenkung — wer eine Kostensenkung erwartet hat, findet sie nicht.

Quellen: Gene M. Amdahl, AFIPS Conference Proceedings 30 (1967), S. 483–485; William Stanley Jevons, „The Coal Question" (1865), Kapitel VII zum Rückpralleffekt

Woran sich der Nutzen sauber messen lässt

• Durchlaufzeit je Vorgang — vom Eingang bis zur Freigabe, nicht nur die Bearbeitungszeit
• Anteil ohne manuelle Nacharbeit — der Kernwert, an dem sich Automatisierung entscheidet
• Fehlerquote nach Freigabe — was trotz Prüfung durchgeht, ist die eigentliche Risikokennzahl
• Gebundene Personenzeit je Woche — einschließlich Bereitschaft und Kontrolle
• Anteil abgegebener Ausnahmefälle — steigt er, wächst die verdeckte Handarbeit

Diese fünf Größen werden vor dem Bau erhoben und danach unverändert weitergeführt. Wer sie erst nach der Inbetriebnahme definiert, hat keinen Vergleichswert und damit keine Grundlage, den Nutzen gegenüber der Geschäftsführung zu belegen.

Automatisierbarkeit als Eigenschaft des Unternehmens

Die bisherigen Abschnitte beschreiben den heutigen Stand. Für die Planung der nächsten Jahre sind drei Beobachtungen belastbar genug, um daraus Entscheidungen abzuleiten.

Die bearbeitbare Aufgabenlänge wächst

Messreihen zur Aufgabenlänge, die Systeme mit einer bestimmten Erfolgsquote bewältigen, zeigen über Jahre hinweg eine exponentielle Zunahme dieser Länge. Wie belastbar solche Verlaufskurven für Zeitpunkt-Prognosen sind und wo ihre Grenzen liegen, ordnet unser Beitrag zum Entscheiden unter unbekanntem Zieldatum ein.

Für die Architektur folgt daraus ein konkreter Hinweis: Die wirtschaftlich tragfähige Kettenlänge ist keine Konstante. Was heute drei Prüfpunkte braucht, braucht in zwei Jahren womöglich einen. Wer Prüfpunkte fest in den Ablauf einbaut, statt sie als abschaltbare Parameter zu führen, baut sich eine Umbaupflicht ein. Prüfpunkte gehören konfigurierbar, und ihre Ergebnisse gehören protokolliert — die Protokolle sind später die Datengrundlage für die Entscheidung, welcher Prüfpunkt entfallen kann.

Der Engpass wandert vom Modell zur Schnittstelle

Solange die Systeme der Engpass waren, lautete die Frage: Welches System schafft das? Sobald die Systeme für eine Aufgabenklasse ausreichen, verschiebt sich der Engpass auf eine andere Frage: Kann der Betrieb den Vorgang überhaupt übergabefähig beschreiben? Welche Eingaben gehören dazu, welche Regeln gelten, welches Ergebnis ist erlaubt, wer entscheidet im Zweifel, und was passiert mit einer Ausnahme?

Diese Beschreibung existiert in vielen Betrieben nicht schriftlich. Sie steckt in Personen, in gewachsener Praxis und in Einzelfallentscheidungen, die nie protokolliert wurden. Daraus ergibt sich die zentrale Verschiebung der kommenden Jahre: Automatisierbarkeit wird zu einer Eigenschaft des Unternehmens. Zwei Betriebe mit identischer Technik erreichen unterschiedliche Ergebnisse, weil einer seine Vorgänge beschreiben kann und der andere nicht. Der Wettbewerbsvorsprung entsteht an der Prozessbeschreibung, und er ist nicht einkaufbar.

Beschriebene Prozesse werden nach außen sichtbar

Derselbe Mechanismus greift zwischen Unternehmen. Wenn Einkaufs- und Auswahlprozesse maschinell vorbereitet werden, wird ein Anbieter nach dem beurteilt, was maschinell über ihn auffindbar und eindeutig zuordenbar ist. Was das für die eigene digitale Darstellung bedeutet, behandelt unser Beitrag zum KI-gestützten Lieferantenscoring. Die interne Beschreibbarkeit von Vorgängen wird damit zu einer externen Wettbewerbseigenschaft.

Was daraus für Investitionsentscheidungen folgt

Am längsten hält die Prozessbeschreibung. Werkzeuge werden ersetzt, Anbieter wechseln, Preismodelle ändern sich. Eine saubere Beschreibung von Eingaben, Regeln, erlaubten Ergebnissen, Entscheidungsbefugnissen und Ausnahmewegen überträgt sich ohne Verlust auf das nächste Werkzeug. Sie ist zugleich die Voraussetzung dafür, überhaupt zu erkennen, ob ein neues Werkzeug besser ist als das bisherige — ohne Testmenge und ohne beschriebenen Sollzustand bleibt jeder Vergleich Geschmackssache.

Die fünf teuersten Fehlannahmen

Die folgenden Annahmen tauchen in Automatisierungsvorhaben regelmäßig auf. Jede einzelne führt dazu, dass Aufwand an der falschen Stelle entsteht.

Die Punkte 1 bis 3 sind Konstruktionsfehler und lassen sich vor dem Bau vermeiden. Die Punkte 4 und 5 sind Erwartungsfehler und werden erst im Betrieb teuer.