Human in the Loop ist kein Sicherheitsnetz, sondern ein Arbeitsprinzip.

Abends am Rechner. Der Agent schlägt den nächsten Schritt vor. Es geht um eine Stelle im Code, die ich nicht ganz durchdringe. Ich sage: Mach erst mal. Ich schaue es mir hinterher an und prüfe, ob das Ergebnis passt.

Vorab ein Geständnis: Das passiert mir hier und da. Ich lasse mir Entscheidungen vorfertigen. Und dann sage ich, weil ich müde bin: Ja, machen wir so.

Wo ich so abnicke, geht es um Dinge, die nicht kritisch sind. Bei kritischen Dingen muss man hellwach sein.

Denn am Ende stehe ich für das Ergebnis gerade. Nicht die KI.

Verantwortlich bleibt der Mensch

Am Ende ist der Mensch verantwortlich für das, was die KI erzeugt. Zumindest in einer gewissen Weise – wie weit genau, klärt sich hier und da noch.

Eine Richtung gibt es. Das Oberlandesgericht Hamm hat im Mai 2026 über eine Klinik geurteilt. Ein Chatbot auf ihrer Website hatte Facharzttitel genannt, die es nicht gibt. Das Gericht sah die Verantwortung bei der Klinik – selbst wenn sie den Chatbot nur mit korrekten Daten hatte einrichten lassen.

Das Urteil betrifft einen Chatbot, der ungeprüft nach außen sprach. Was gilt, wenn vorher ein Mensch freigegeben hat, sagt es nicht. Die Richtung ist trotzdem deutlich: Hinter der KI kann sich ein Betrieb nicht verstecken.

Für mich heißt das: alles, was hinausgeht. Der Text auf der Website. Das Angebot. Die Rabattaktion, die ich an Kunden schicke. Stehen dort Fehler drin, ist das eine Gefahr für mein Geschäft.

Nicht jeder Fehler wiegt gleich. Wie kritisch etwas ist, mache ich am Ausmaß des Schadens fest.

Deshalb reicht es nicht, wenn am Ende jemand drüberschaut.

Drüberschauen ist keine Prüfung

„Am Ende schaut nochmal jemand drüber.“ Der Satz klingt nach Absicherung. Er ist keine. Er ist eine Zuständigkeitsverschiebung mit gutem Namen.

Wer am Ende nur noch abnickt, prüft nicht – er haftet.

Für die Neigung dahinter gibt es ein Fachwort: Automatisierungsbias. Die europäische KI-Verordnung benutzt es in Artikel 14. Gemeint ist die Neigung, der Ausgabe eines KI-Systems automatisch oder übermäßig zu vertrauen. Der Artikel gilt nur für Hochrisiko-KI-Systeme. Den Begriff kann jeder brauchen. Mein müdes Ja am Abend ist nichts anderes.

Der Mensch gehört an die Stelle, an der entschieden wird. Nicht ans Ende der Kette.

Ein Beispiel ist der Angebotsablauf aus dem Artikel „So wenig KI wie möglich, so viel wie nötig: wann eine feste Regel besser ist als ein Sprachmodell.“ Die KI liest die Gesprächsnotiz und füllt feste Felder. Der Vertrieb sieht die Felder neben der Notiz und bestätigt oder korrigiert. Erst danach wird gerechnet und das Dokument erstellt. Er liest also nicht das fertige Angebot gegen. Er entscheidet an der einen Stelle, an der etwas falsch werden kann.

Ob eine Prüfung echt ist oder nur so aussieht, klären vier Fragen.

1. Sehen – Sieht der Mensch die Quelle neben dem Ergebnis?
2. Können – Kann er fachlich beurteilen, was er da sieht?
3. Zeit – Hat er die Zeit dafür, oder kommt mehr an, als einer prüfen kann?
4. Nein – Ist ein Nein einfach, und hält es den Ablauf wirklich an?

Lautet eine Antwort nein, ist es ein Abnicken und keine Prüfung. Zur zweiten Frage steht mehr im Artikel „Plausibel ist nicht gekonnt: warum KI den Spezialisten stärker macht, statt ihn zu ersetzen.“

Die Gegenseite gehört dazu. Nicht jeder Schritt braucht einen Menschen. Ist der mögliche Schaden klein, genügt der Blick aufs Ergebnis. So halte ich es mit meinen Besprechungsnotizen.

Aber auch die beste Prüfstelle hilft nur, solange dort jemand sitzt, der noch prüfen kann.

Wer alles abgibt, verlernt es

Man neigt mehr und mehr dazu, Arbeit der KI zu überlassen. Ich auch.

Dabei geht zweierlei verloren. Das eine ist Prozesswissen: wissen, wie der Ablauf ist. Es geht verloren, weil ich es nicht mehr selbst tue. Das andere ist Fachkompetenz: etwas wirklich tun können, Wissen über die Sache haben. Auch sie schwindet.

Zwei Forscher haben das 2026 als Kreislauf beschrieben: Jin Gerlach von der Universität Passau und Don Lange von der Arizona State University. Übernimmt die KI eine Aufgabe, nutzen die Mitarbeitenden ihr Fachwissen seltener und vergessen es. Neue Kollegen erwerben es gar nicht erst. Veraltet das KI-Modell, fehlen die Leute, die es fachlich beurteilen können.

Das ist eine Theorie, keine Messung. Die Autoren verbinden bestehende Forschung zu einem Modell. Es deckt sich aber mit dem, was ich an mir selbst beobachte.

Deshalb darf aus Human in the Loop kein Human out of the Loop werden.

Wir können nicht alles an die KI abgeben, sonst verdummen wir. Ich habe es einmal so geschrieben: Wir delegieren das Denken, bevor wir es zu Ende gedacht haben.

„Verdummen“ ist hart gesagt. Ich lasse es trotzdem stehen.

Was hilft: bestimmte Aufgaben bewusst weiter selbst tun, auch wenn die KI sie könnte. Nicht alle. Die, an denen Ihr Urteil hängt.

Deshalb geht es nicht nur darum, wo der Mensch prüft. Es geht darum, welche Arbeit überhaupt bei Menschen bleibt.

Muss ich wirklich ersetzen?

KI kann effizienter sein. Aber wer dafür auf Mitarbeiter verzichtet, macht sich deutlich abhängiger.

Die Gegenseite: Es wird ersetzt. Das ist Fakt. Gerade bei administrativen Aufgaben, oft bei solchen, die ohnehin schon ausgelagert waren.

Wie das ausgehen kann, zeigt der Zahlungsdienstleister Klarna. Den Fall bespreche ich auch in meinen Schulungen. Klarna erklärte 2024, ein Chatbot erledige im Kundenservice die Arbeit von 700 Angestellten, und stellte nicht mehr ein. Im Mai 2025 räumte der Chef Sebastian Siemiatkowski laut Bloomberg ein, das Kostensparen mit KI sei zu weit gegangen. Die Qualität habe gelitten. Im Support sollen wieder mehr Menschen arbeiten.

Ganz zurückgegangen ist Klarna nicht. Die KI hatte die Bearbeitungszeit einer Anfrage von elf auf zwei Minuten gedrückt. Für Standardanfragen blieb die KI. Die Passauer Studie sagt es allgemeiner: Stellenabbau mit Verweis auf KI ist womöglich zu kurz gedacht.

Deshalb sollte vor jeder solchen Entscheidung eine Frage stehen. Muss ich diesen Mitarbeiter wirklich ersetzen? Kann die KI das überhaupt? Oder finde ich eine andere Aufgabe für diese Person?

Macht jemand seine Aufgabe gut und kann ich mich auf ihn verlassen, dann entscheide ich selbst: ersetzen, teilweise ersetzen oder nicht ersetzen. Das ist eine Entscheidung, kein Automatismus.

Wo ein Mensch das ausmacht, was Kunden an Ihrem Unternehmen schätzen, würde ich ihn lassen. Auch dort, wo KI effektiver sein könnte. Alle sagen: Wir führen KI ein, hier und da und dort. Zu viel davon ist ein Angriff auf die Identität des Unternehmens. Wie viel KI je Schritt richtig ist, steht im Artikel über die feste Regel und das Sprachmodell.

Abgeben würde ich die Administration. Ein Unternehmen sollte möglichst wenig damit zu tun haben. Die Mitarbeiter sollen mehr Zeit fürs Kerngeschäft bekommen – und nicht ersetzt werden. Mehr dazu im Artikel „Change vor Technik: warum KI-Projekte an der Organisation scheitern, nicht an Modellen.“

Ich muss nicht für alles KI einsetzen, um Kosten zu optimieren.

Human in the Loop klingt, als wäre der Mensch ein Bauteil im Ablauf der Maschine. Es ist umgekehrt. Ein Unternehmen besteht zuerst aus Menschen, die gemeinsam an einer Sache arbeiten.