Plausibel ist nicht gekonnt: warum KI den Spezialisten stärker macht, statt ihn zu ersetzen.

Auf dem Tisch liegt ein Stück Code. Ein Mitarbeiter hat es mit KI geschrieben. Er hat sich die Maschinendaten angesehen und erkannt, was man in SAP anders machen könnte. Jetzt soll der Code ins Produktivsystem. Er sieht sauber aus. Er wirkt fertig.

Die Frage geht an den Chef: freigeben oder nicht?

Nur: Der Mitarbeiter kennt die Maschinen nicht richtig. Und was der Code im Einzelnen tut, weiß er selbst nicht genau.

Den Fall kenne ich aus einem Fachgespräch, nicht aus eigenem Erleben. Er zeigt trotzdem gut, worum es mir hier geht.

Es sieht fertig aus

KI kann mittlerweile sehr viel erzeugen. Texte, Konzepte, Code. Und fast alles wirkt sofort lauffähig. Plausibel.

In vielen Bereichen ist das kein Schein. Vieles lässt sich mit KI wirklich gut machen – und kreativ werden kann man danach immer noch.

Manche gehen noch weiter. Sie bauen sich eine eigene Harness: ein Gerüst aus Abläufen um das Sprachmodell herum, im Grunde einen ganzen Entwicklungsprozess. Er codet, entwickelt, prüft und testet. Die KI trainiert sich darin gewissermaßen selbst. Am Ende steht ein Ergebnis, das plausibel ist.

Dazu ein Geständnis. Ich habe rund zwanzig Jahre als Ingenieur gearbeitet, die meiste Zeit in der Projekt- und Programmleitung, lange davon in der Automobilindustrie. Trotzdem hätte ich dort eine Grobanforderung nie allein bis ins Detail herunterbrechen können. Dafür brauchte ich die Vernetzer. Ohne sie wäre mein Ergebnis genau das gewesen: plausibel.

Plausibel ist aber nicht gekonnt.

Was in Jahrzehnten gewachsen ist, lässt sich nicht einfach ersetzen

In jedem Betrieb gibt es Kern-Know-how, das an Menschen hängt. Erfahrungen, die Mitarbeiter über Jahre oder Jahrzehnte gesammelt haben. Das Spezialwissen dieser Leute. Es lässt sich nicht einfach ersetzen.

Wie viel davon in Bewegung ist, zeigt eine Zahl des Statistischen Bundesamts aus dem Mikrozensus 2025. Bis 2040 überschreiten rund 13,3 Millionen Erwerbspersonen das Rentenalter von 67 – 30 Prozent derer, die 2025 am Arbeitsmarkt waren. Die Zahl sagt nicht, dass ihr Wissen unersetzbar ist. Sie sagt, wie viel davon in den nächsten Jahren geht.

Wie dieses Wissen aussieht, sehe ich bei einem Psychologen, den ich persönlich kenne. Er coacht seit dreißig Jahren. Im Gespräch weiß er genau, wann er welche Methode einsetzt. Wann er sein Gegenüber zum Beispiel dazu bringt, über das eigene Denken nachzudenken – Metakognition nennt man das. Diese Logik des Wann ist durch KI noch lange nicht ersetzbar. Da ist sie noch nicht wirklich gut.

Im Marketing zeigt sich dieselbe Grenze von einer anderen Seite. Wie man einen Auftritt aufbaut, wie man für eine Zielgruppe formuliert – das kann KI schon ganz gut. Aber es bleibt sehr allgemein. So, wie viele andere es auch tun.

Das hat mit der Funktionsweise zu tun. Ein Sprachmodell erzeugt Text, indem es anhand von Wahrscheinlichkeiten vorhersagt, welches Wort im Zusammenhang als nächstes kommen könnte. So beschreibt es das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem Papier „Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden“ von 2024. Meine Erfahrung daraus: Wer sich bewusst abheben will, dem hilft KI an dieser Stelle nicht. Sie greift auf das Allgemeine zurück.

Aber die Grenze verläuft nicht irgendwo. Sie hat eine Richtung.

Nach oben hilft die KI, nach unten fehlt ihr das Wissen

Ein Beispiel aus meiner Zeit in der Automobilindustrie, aus dem Anforderungsmanagement. Dort habe ich KI genutzt, um Anforderungen auf eine höhere Abstraktionsebene zu bringen. Aus vielen Einzelheiten ein Gesamtbild machen, also aggregieren. Das klappt einwandfrei.

Auch in der Gegenrichtung hilft sie, als Sparringspartner. Sie gibt einen Überblick, ob die Anforderungen zusammen ein vollständiges Bild ergeben.

Was sie nicht kann: aus einer Grobanforderung eine detaillierte machen.

Warum, versteht man mit einem Blick ins Fahrzeug. Eine Komponente ist dort ein Bauteil. Die Bauteile arbeiten im Verbund, vernetzt über Ethernet oder andere Bussysteme, also gemeinsame Datenleitungen. Zusammen bilden sie einen Softwareverbund mit mehreren Abstraktionsebenen. Ein Bauteil arbeitet selten für sich allein.

Wer eine Anforderung bis auf ein Bauteil herunterbricht, muss deshalb den ganzen Verbund kennen. Er muss wissen, wie man schneidet, damit es am Ende konsistent ist. Das ist Konzeption und Komponentendesign, und es braucht jahrelange Erfahrung.

Dieses Wissen hat die KI nicht. Es wurde ihr weder gegeben noch antrainiert. Ein Sprachmodell bildet die Muster nach, die es aus seinen Trainingsdaten kennt. Einen Bezug zur realen Welt hat es dabei nicht, schreibt das BSI. Es weist auch darauf hin, dass Sprachmodelle Eingaben mit Fachvokabular häufig nicht mehr korrekt verarbeiten, wenn diese von ihren Trainingstexten abweichen. Der Spezialist dagegen begreift, was da eigentlich passiert.

Für den Weg nach unten müssen deshalb die Leute an den Tisch, die ich damals auch gebraucht habe. Die Vernetzer. Die Architekten. Diejenigen, die die Komponenten gut kennen und die Bedarfe von A bis Z: wie es am Ende umgesetzt werden kann und soll.

Eine Einschränkung gehört dazu. Den Weg nach unten habe ich mit KI nur teilweise selbst ausprobiert. Mein Urteil stützt sich mehr auf das, was ich über den Verbund weiß, als auf eine Versuchsreihe.

Und weil nur der Spezialist dieses Wissen hat, kann auch nur er beurteilen, was die KI liefert.

Wer nicht versteht, was entsteht, kann es nicht freigeben

Damit zurück zum Code auf dem Tisch. Der Mitarbeiter weiß nicht genau, was er tut. Der Chef soll trotzdem entscheiden. Gerade wenn etwas ins Produktivsystem geht, braucht es an dieser Stelle Spezialwissen.

Ein Einzelfall ist das nicht. Das BSI und seine französische Partnerbehörde ANSSI halten in ihrer gemeinsamen Empfehlung „AI Coding Assistants“ von 2024 fest: Die heutigen Programmierassistenten können keinen hochwertigen Code garantieren, und leichte wie schwere Sicherheitsmängel sind in KI-erzeugtem Code häufig.

Wie man eine Freigabe so aufsetzt, dass sie mehr ist als ein Abnicken, steht im Artikel „Human in the Loop ist kein Sicherheitsnetz, sondern ein Arbeitsprinzip.“ Hier geht es um die Frage davor: ob überhaupt jemand das Wissen hat, das Ergebnis zu beurteilen.

Dieselbe Frage stellt sich im Marketing. Ein Freund von mir arbeitet dort. Seine Geschäftsführung erwartet, dass er für eine komplett neue Firma das Marketing allein stellt. Ein ganzes Team in einer Person, weil er ja KI-Werkzeuge hat. Die Vorstellung dahinter: Die KI gestaltet das schon.

So einfach ist es nicht. Was die KI liefert, muss geprüft und angepasst werden, meist in mehreren Runden. Und am Ende steht nicht die KI in der Verantwortung, sondern er.

Davon rate ich ab: einen Spezialisten durch einen Generalisten mit KI zu ersetzen. Es sieht nach Einsparung aus. Tatsächlich fehlt dann genau das Wissen, das man zum Prüfen braucht.

KI setzt inzwischen sehr gut und sehr effektiv um. Auch mit der besten Harness bleibt aber eine Lücke:

Die Anforderungen kommen immer noch vom Spezialisten.

Er muss das Verständnis mitbringen, die Logik und das Wissen. Die KI kann es nicht für ihn mitbringen.

Trotzdem ist das kein Argument gegen KI. Es ist eines für den Spezialisten.

Mit KI wird man kein Spezialist – aber der Spezialist wird besser

Das gilt nicht überall. Es wird Bereiche geben, in denen KI so stark trainiert ist, dass es den Spezialisten dort nicht mehr braucht.

Für Ihr Unternehmen heißt das heute: Geben Sie KI in die Hände derer, die schon wissen. Hoffen Sie nicht darauf, dass KI andere wissend macht.

Die Anforderung und das Wissen des Einzelnen über Systeme sind das A und O.

Mit KI wird man kein Spezialist. Aber der Spezialist arbeitet mit KI viel intensiver und besser.

Wie lange das gilt, weiß ich nicht. Beim Bau (nicht Design!) von Webseiten bin ich mir schon heute nicht mehr sicher.