Wo muss der Mensch bleiben, wenn KI die Arbeit erledigt?

💡 Zusammenfassung:

• Eine Spezifikation ist vor Arbeitsbeginn nicht vollständig. Erst bei der Arbeit an Code, Dokument oder Analyse werden Entscheidungen sichtbar, die in der ursprünglichen Anforderung fehlten.
• KI kann das „Wie“ beschleunigen. Die Rückkopplung zwischen „Was“ und „Wie“ bewahrt sie nicht automatisch. Wenn Menschen nur den Auftrag schreiben und später das fertige Ergebnis freigeben, kann dem Unternehmen entgehen, was die Umsetzung gezeigt hat.
• Wer Einstiegsaufgaben streicht, kann auch künftiges Urteilsvermögen schwächen. Weniger erfahrene Mitarbeitende müssen an realen Szenarien, der Auswahl von Quellen und Daten, Ausnahmen und Ergebnisprüfungen beteiligt bleiben.

Wenn KI die Arbeit erledigt, dürfen Menschen nicht auf den Auftrag am Anfang und die Prüfung am Ende beschränkt werden. Was die Arbeit tatsächlich erfordert, wird durch Ausnahmen, fehlende Definitionen und Widersprüche klar, die während der Umsetzung auftauchen. Menschen müssen im gesamten Kreislauf beteiligt bleiben: bei der Formulierung der Frage, der Bewertung von Optionen, der Interpretation neuer Erkenntnisse und beim Test unter realen Bedingungen.

Dieser Text beginnt mit einem Beispiel aus der Softwareentwicklung. Dasselbe Problem zeigt sich bei umfangreichen Dokumenten oder beim Aufbau eines Analysesystems; das Codebeispiel ist nur der sichtbarste Ausgangspunkt.

Stellen Sie sich vor, ein Produktteam soll es Kunden ermöglichen, ein Abonnement direkt in einer Anwendung zu pausieren. Die Anforderung beschreibt Formularfelder, Bestätigungsschaltfläche und E-Mail. Ein Coding-Agent erstellt Oberfläche, Dienst und Tests in kurzer Zeit.

Dann beginnen die Fragen. Was geschieht, wenn das Pausendatum mitten in einen Abrechnungszeitraum fällt? Endet der Zugang sofort? Behält der Kunde nach der Reaktivierung seinen bisherigen Preis? Darf ein Konto mit einer offenen Bestellung pausiert werden?

Das sind keine Punkte auf einer Liste technischer Nacharbeiten. Jede Antwort verändert das Versprechen an den Kunden, die Buchhaltung und den Supportprozess. Während das Team herausarbeitet, wie die Funktion umgesetzt werden soll, lernt es zugleich, was diese Funktion überhaupt sein muss.

Auch korrekter, schnell erzeugter Code macht dieses Lernen nicht überflüssig. Derselbe Mechanismus zeigt sich bei einem umfangreichen Bericht oder einem Analysesystem. Wer Gliederung und Belege eines Dokuments erarbeitet, stößt auf Entscheidungen, die noch gar nicht getroffen wurden. Beim Zusammenführen von Daten kann sich zeigen, dass verschiedene Bereiche des Unternehmens unter derselben Kennzahl etwas anderes verstehen. Was KI während der Arbeit aufdeckt, kann den Umfang der Arbeit selbst verändern.

Behandelt ein Unternehmen das „Was“ als abgeschlossenes Feld für Menschen und das „Wie“ als davon getrennte Aufgabe für KI, kappt es möglicherweise einen seiner wertvollsten Rückkopplungswege.

Anforderungen werden während der Umsetzung präziser

Unmesh Joshi, Rebecca Parsons und Martin Fowler erklären in ihrem Gespräch über LLMs und die „Was-Wie-Schleife“, weshalb Softwareentwicklung nicht darauf reduziert werden kann, fertige Anforderungen in Code zu übersetzen. Ihr unmittelbares Thema ist Softwaredesign: Systeme so zu bauen, dass sie Änderungen aufnehmen können, und dafür geeignete Abstraktionen zu entwickeln.

Der direkte Geltungsbereich der Quelle ist die Softwareentwicklung. Dass derselbe Mechanismus bei umfangreichen Berichten und Analysesystemen auftreten kann, ist meine Schlussfolgerung. Wenn Produktionsentscheidungen der KI ungeklärte Ziele, Definitionen und Widersprüche sichtbar machen, kann auch in diesen Arbeitsformen eine vergleichbare Rückkopplung entstehen.

In der „Was-Wie-Schleife“ entwickelt sich eine Anforderung während der Umsetzung weiter. Die Arbeit an Datenmodell, Szenario, Test oder Einschränkung eines bestehenden Systems verändert das Verständnis des Teams davon, was gebaut werden sollte.

Das Gespräch ist kein empirischer Beleg dafür, dass Teams mit LLMs bessere Ergebnisse erzielen. Es ist ein Gestaltungsargument von drei erfahrenen Softwarepraktikern. Sein Beitrag liegt in einer wichtigen Unterscheidung: Umsetzung verwirklicht nicht nur eine Entscheidung, sie kann auch verbessern, wie diese Entscheidung gefasst wird.

In der Software kann ein Szenario, Datenmodell oder Test zeigen, dass die erste Anforderung eine Grenze falsch gezogen hat. Bei einem umfangreichen Bericht können Aufbau und Quellen offenlegen, dass sich zwei Ziele mit den vorhandenen Belegen nicht gleichzeitig stützen lassen. In einem Analysesystem kann die Berechnung einer Kennzahl zeigen, dass Führungskräfte dieselbe Frage unterschiedlich beantworten.

Ein LLM kann schnell Alternativen aufzeigen und eine erste Fassung günstiger machen. Dauerhaft wertvoll wird dies erst, wenn das Team seine Erkenntnisse aus dieser Arbeit in die Problemdefinition zurückführt.

Drei Ergebnisse, dasselbe Lernproblem

Im Beispiel mit dem Abonnement kann der Agent eine funktionsfähige Oberfläche erstellen. Sind die Regeln für Abrechnung, Zugang und Preisgarantie noch offen, kann die Software jedoch eine falsche Geschäftsregel technisch korrekt umsetzen. Vielleicht besteht das eigentliche Problem des Kunden nicht einmal darin, dass eine Pausenfunktion fehlt. Möglicherweise fehlt ihm Unterstützung nach einer fehlerhaften Abbuchung.

Schreibt ein Mensch nur die erste Anforderung und kehrt erst zur Prüfung der fertigen Oberfläche zurück, gehen diese Signale verloren. Der Agent kann plausible Annahmen treffen und in sich schlüssigen Code erzeugen. Eine falsche geschäftliche Annahme wird dann lediglich schneller im System verankert.

Betrachten wir ein Team, das für den Aufsichtsrat eine Bewertung zum Eintritt in einen neuen Markt vorbereitet. Gefordert sind Marktgröße, Wettbewerber, Kosten, Risiken und eine Empfehlung. KI kann Quellen durchsuchen und daraus ein umfassendes Dokument erstellen. Sobald die Abschnitte zusammenkommen, kann das Team feststellen, dass sich die Angaben zur Marktgröße auf unterschiedliche Produktkategorien beziehen, das Kostenmodell die Integration auslässt oder rechtliche Vorgaben dem geplanten Zeitplan widersprechen.

Das sind keine nebensächlichen Fußnoten. Sie können die Entscheidung über den Markteintritt, das Budget oder den Zeitpunkt verändern. Prüft ein Mensch das Dokument nur auf sprachlichen Fluss und Formatierung, können ungeklärte Entscheidungen in einem gut formulierten Bericht verschwinden.

Ein drittes Team baut ein Analysesystem, das drohende Kundenabwanderung früh erkennen soll. KI kann einen Datenfluss zwischen CRM-, Abrechnungs- und Supportsystemen vorbereiten. Bei der Umsetzung kann sich herausstellen, dass es im Unternehmen keine gemeinsame Definition von „Abwanderung“ gibt. Gehören pausierte Konten, fehlgeschlagene Zahlungen und Herabstufungen in dieselbe Gruppe? Beginnt die Frist mit dem Vertragsdatum oder mit der ersten Zahlung?

Das System kann jede dieser Festlegungen konsistent anwenden. Welche Definition der Entscheidung des Unternehmens dient, erfordert geschäftliches Urteilsvermögen. Wählt die KI die Definition und prüft ein Mensch nur das Diagramm, kann die Analyse korrekt rechnen und dennoch die falsche Frage beantworten.

Nutzerinterviews, die Klärung des Umfangs, die Prüfung von Quellen oder die Definition der Daten vor dem KI-Einsatz könnten alle drei Projekte verändern. Die richtige Maßnahme ist möglicherweise keine neue Software und kein weiteres KI-System. Ist KI das passende Werkzeug, müssen die während der Umsetzung entdeckten Ausnahmen und Widersprüche trotzdem in die Problemdefinition zurückfließen.

In Verständnisschulden: Die Rechnung kommt, wenn man allein ist habe ich untersucht, was geschieht, wenn eine Codebasis schneller wächst als das mentale Modell, mit dem sie sich erklären lässt. Das hier beschriebene Risiko reicht weiter. Ein Unternehmen kann seinen Code, Bericht oder sein Analysesystem erklären und trotzdem übersehen, was es bei deren Entstehung über das eigene Geschäft hätte lernen können.

Welche Aufgabe hat der Mensch in der Schleife?

Viele KI-gestützte Arbeitsabläufe setzen den Menschen an den letzten Kontrollpunkt. Der Agent erledigt die Arbeit, ein Mensch prüft und genehmigt sie. Dieser Schritt kann für Sicherheit und Qualität notwendig sein. Welche Aufgabe der Mensch dabei hat, bleibt dennoch oft offen.

Beschränkt sich die prüfende Person darauf, fehlerhaften Code, eine unbelegte Aussage oder eine irreführende Kennzahl zu erkennen, ist sie eine Kontrollinstanz. Gestaltet sie außerdem das Szenario, bewertet einen während der Umsetzung erkannten Widerspruch und verändert die Problemdefinition, wird sie Teil der Lernschleife.

Der Unterschied wirkt klein, seine organisatorische Folge ist es nicht. Eine Kontrollinstanz schützt das heutige Ergebnis. Eine Lernschleife entwickelt das menschliche und institutionelle Wissen, das nötig ist, um auch bei veränderten Anforderungen die richtige Entscheidung zu treffen.

Ob ein KI-Agent eine Aufgabe abgeschlossen hat, ist eine Produktionskennzahl. Um Lernen zu bewahren, muss das Team etwas anderes festhalten:

Eine kurze Entscheidungsnotiz genügt. Das vollständige Gespräch mit dem Agenten muss nicht archiviert werden. Das Team sollte nicht nur beantworten können: „Wie ist dieses Ergebnis entstanden?“, sondern auch: „Warum verstehen wir die Arbeit heute auf diese Weise?“

Der zweite Preis für den Verlust von Einstiegsaufgaben

In KI verringert Einstellungen ohne Entlassungen habe ich beschrieben, wie KI den Bedarf an Berufseinsteigern senken kann, ohne dass jemand entlassen wird. Dort ging es um die Zahl der Arbeitsplätze. Die „Was-Wie-Schleife“ macht einen zweiten Preis sichtbar: Wer nicht in die Arbeit einsteigt oder nicht an realer Umsetzung beteiligt ist, verpasst auch den Weg, auf dem sich späteres Urteilsvermögen entwickelt.

Weniger erfahrene Mitarbeitende werden zu erfahrenen Fachkräften, indem sie die Entscheidungen rund um ein Ergebnis durcharbeiten. Ein Entwickler erkennt, warum ein bestimmtes Datenmodell die nächste Funktion erschwert. Eine Analystin untersucht, weshalb zwei Berichte denselben Kunden unterschiedlich einordnen. Wer an einem umfangreichen Dokument arbeitet, lernt, warum sich eine eindrucksvolle Behauptung mit den vorhandenen Quellen nicht belegen lässt. Mit der Zeit erkennen diese Personen Fehler im „Was“ an den Signalen aus dem „Wie“.

Mit KI-Unterstützung kann ein weniger erfahrener Mitarbeiter bei manchen klar abgegrenzten Aufgaben an das Ergebnis eines Senior-Experten herankommen. In Kann ein Junior mit guter KI-Nutzung einen Senior-Experten übertreffen? habe ich diese Möglichkeit und ihre Grenzen durch Fachwissen und Ergebnisverantwortung betrachtet. Die nächste Frage lautet, woher dieses Fachwissen und Urteilsvermögen künftig kommen sollen.

Wiederkehrende Arbeit muss nicht künstlich erhalten bleiben, nur damit Menschen lernen. Ebenso wenig sollten weniger erfahrene Mitarbeitende lediglich aufräumen, was die KI zurücklässt. Sie müssen an der Problemformulierung, der Auswahl von Quellen und Daten, Entscheidungen über Ausnahmen und der Prüfung realer Ergebnisse beteiligt sein. Wenn KI die Produktion beschleunigt, muss sich das Lernen dorthin verlagern.

Wir müssen verändern, auf welche Arbeit Menschen vorbereitet werden

In Wenn KI Arbeit verändert, reicht Mitarbeiterschulung nicht habe ich argumentiert, dass ein Unternehmen zuerst die neue Rolle definieren muss, bevor es über die dafür nötige Weiterbildung entscheidet. Die Rollenbeschreibung „Mitarbeiter, der KI gut nutzt“ lässt offen, wer lernt und wer Entscheidungen verantwortet.

In einem KI-gestützten Betriebsmodell müssen Menschen nicht mehr jeden Teil des Ergebnisses von Hand erzeugen. Bestimmte Verantwortlichkeiten müssen dennoch weiterhin bei Menschen liegen:

1. Frage und Geschäftsergebnis definieren.
2. Annahmen, Quellenlücken und Datendefinitionen sichtbar machen.
3. Erkennen, wenn eine Entscheidung bei der Produktion die geschäftliche Entscheidung verändert.
4. Alternativen des Agenten anhand von Fachwissen und Belegen bewerten.
5. Das Ergebnis unter realen Betriebsbedingungen prüfen.
6. Erkenntnisse aus der Umsetzung in die Problemdefinition zurückführen.
7. Verantwortung für Ergebnis und verbleibende Risiken übernehmen.

Wenn all dies wenigen erfahrenen Fachkräften zugewiesen wird, entsteht ein neuer Engpass. Sie müssen jedes Ergebnis eines Agenten prüfen, jede geschäftliche Entscheidung tragen und gleichzeitig weniger erfahrene Kolleginnen und Kollegen entwickeln. Berufseinsteiger bleiben dabei außerhalb des Ortes, an dem Entscheidungen getroffen werden.

Teamgestaltung muss deshalb mehr berücksichtigen als Produktionskapazität. Ein weniger erfahrener Mitarbeiter kann ein Nutzerszenario, eine Behauptung in einem Bericht oder die Definition einer Kennzahl verantworten. Er kann erklären, welche Belege dafür sprachen, den Vorschlag des Agenten anzunehmen. Ist das Ergebnis falsch, kann er nicht nur die Korrektur untersuchen, sondern auch erkennen, an welcher Stelle die ursprüngliche Problemdefinition versagte.

Was sollte das nächste KI-Projekt festhalten?

Ergebnisvolumen, abgeschlossene Aufgaben und Zykluszeit sagen etwas über Kapazität aus. Ob die Lernschleife erhalten blieb, zeigen andere Fragen:

• Welche geschäftliche Annahme hat sich während der Umsetzung verändert?
• Wer hat die Veränderung bemerkt und wo wurde die Entscheidung festgehalten?
• Welche Entscheidung erleichtert die vom Agenten gewählte Struktur, Quelle oder Datendefinition – und welche erschwert sie?
• Können zwei Mitglieder des Teams die Begründung hinter demselben Ergebnis erklären?
• Räumen weniger erfahrene Mitarbeitende nur hinter den Ergebnissen der KI auf oder sind sie an Problem- und Umsetzungsentscheidungen beteiligt?
• Was wird das Team bei der nächsten ähnlichen Aufgabe anders machen?

Ohne Antworten weiß das Unternehmen nicht, was es im Tausch gegen schnellere Produktion verloren hat.

KI kann Arbeit schneller erledigen. Die Verantwortung zu lernen, worin diese Arbeit besteht, bleibt jedoch bestehen. Ausnahmen und Widersprüche, die beim Erstellen von Code, Bericht oder Analysesystem auftauchen, sind nicht nur zu lösende Probleme. Sie sind Rückmeldungen, mit denen das Unternehmen seine Problemdefinition korrigieren kann.

Ein sinnvoll gestalteter KI-Arbeitsablauf bindet Menschen nicht nur am Anfang der Anforderung und am Ende des Ergebnisses ein. Er beteiligt sie an der Beurteilung dessen, was sich während der Umsetzung verändert hat, welche Entscheidung davon betroffen ist und wer das Ergebnis verantwortet. So beschleunigt KI nicht nur die Produktion, sondern hilft dem Unternehmen auch, die eigene Arbeit besser zu verstehen. Nimmt man Menschen aus der Umsetzung heraus, bleiben dem Unternehmen womöglich schnellerer Code, schneller erstellte Dokumente und schnellere Analysen – aber keine Organisation, die versteht, warum sie auf diese Weise entstanden sind.