Zum Hauptinhalt springen

Wo KI im Engineering Sinn macht – und wo sie gefährlich wird

·4 min
Thomas Arends
Autor
Thomas Arends
Management Consulting, Interim-, Projekt-, Qualitätsmanagement

Jede zweite Produktankündigung im Engineering-Tooling-Markt trägt inzwischen “KI-gestützt” im Titel. Das ist selten falsch – aber selten auch die interessante Frage. Die interessante Frage lautet: was genau macht KI dabei billiger, und was bleibt genauso teuer wie vorher?

Die Antwort ist unbequem für alle, die sich von KI eine Abkürzung erhoffen: KI macht Content billig. Requirements-Text, FMEA-Formulierungen, ISMS-Policy-Entwürfe, Übersetzungen, Erstklassifikationen – all das lässt sich heute in Sekunden erzeugen, wo früher Stunden draufgingen. Was KI nicht billiger macht, ist alles, was mit diesem Content danach passieren muss: Wo hängt die Aussage im System? Wer hat sie freigegeben? Bleibt sie nachvollziehbar, wenn sie sich in sechs Monaten ändert? Wer haftet, wenn sie falsch war?

Die Trennlinie: Erzeugung vs. Verbindlichkeit
#

Jede Engineering-Tätigkeit lässt sich in zwei Anteile zerlegen.

Erzeugung ist der Anteil, der einen Rohentwurf produziert: einen Satz, eine Kategorie, einen ersten Zahlenwert. Das ist der Anteil, den ein Sprachmodell heute zuverlässig übernehmen kann – oft schneller und konsistenter als ein Mensch unter Zeitdruck.

Verbindlichkeit ist der Anteil, der aus dem Rohentwurf eine Aussage macht, auf die sich andere verlassen dürfen: Wer trägt sie? Woher kommt sie? Was passiert, wenn sie sich ändert? Das ist der Anteil, der nicht kleiner wird, wenn Erzeugung billiger wird – er wird größer, weil mehr Aussagen verwaltet werden müssen als vorher.

Genau an dieser Trennlinie entscheidet sich, ob eine KI-gestützte Aktivität ein Gewinn oder ein Risiko ist.

Wo es sinnvoll ist
#

Erstentwürfe aus Rohmaterial. Anforderungstext aus Gesprächsnotizen, FMEA-Fehlerbeschreibungen aus Reklamationstexten, Prozessbeschreibungen aus Log-Daten – überall dort, wo ein Mensch bisher unstrukturiertes Material in Fließtext übersetzt hat, ist KI eine reine Zeitersparnis. Die Aussage bleibt vorläufig, bis ein Mensch sie freigibt; nichts an der Verantwortungskette ändert sich.

Übersetzung. Ein Produkt, das in sechs Sprachen gepflegt werden muss, verliert durch KI-Übersetzung fast den gesamten Mehraufwand mehrsprachiger Pflege – vorausgesetzt, die Struktur, in der übersetzt wird, bleibt maschinenlesbar und nicht in Kopien verstreut.

Klassifikation mit Nachprüfbarkeit. Ein System, das eingehende Signale – Norm-Updates, CVEs, Marktereignisse – automatisch vorkategorisiert und einer Warteschlange zur menschlichen Bestätigung vorlegt, ist ein Effizienzgewinn ohne Verbindlichkeitsverlust: Die KI schlägt vor, der Mensch entscheidet, und die Entscheidung ist protokolliert.

Duplikat- und Ähnlichkeitserkennung. Zwei Anforderungen, die dasselbe meinen aber anders formuliert sind, zu finden, ist eine Suchaufgabe – kein Urteil. Hier ist KI strikt Werkzeug, kein Entscheider.

Wo es gefährlich wird
#

Pseudo-Präzision. Eine von KI vorgeschlagene Risikopriorität sieht aus wie eine Zahl und wird wie eine Zahl behandelt – ist aber eine Schätzung ohne nachvollziehbare Herleitung. Das Problem ist nicht neu: Die klassische Risikoprioritätszahl aus Schweregrad × Auftretenswahrscheinlichkeit × Entdeckungswahrscheinlichkeit hatte dieselbe Schwäche, lange bevor es KI gab. KI verschärft sie nur, weil die Scheingenauigkeit jetzt schneller und in größerer Menge entsteht. Die Konsequenz ist nicht “keine KI-Zahlen”, sondern: jede generierte Bewertung braucht eine sichtbare, nachvollziehbare Herleitung – oder sie darf nicht als Zahl in einen Bericht.

Verantwortungsdiffusion. Sobald ein Vorschlag “von der KI” kam, sinkt beobachtbar die Bereitschaft, ihn kritisch zu prüfen – ein bekannter Effekt aus der Automatisierungsforschung, nicht spezifisch für Sprachmodelle. Wer KI-Vorschläge ungeprüft übernimmt, hat keine Verantwortung delegiert, sondern sie stillschweigend fallen gelassen.

Governance-Umgehung. Der praktisch häufigste Fall: Mitarbeitende nutzen ein KI-Werkzeug außerhalb des Systems, weil es schneller ist, und kopieren das Ergebnis manuell hinein – oder gar nicht. Damit verliert man nicht nur die Struktur, sondern auch die Kontrolle über den ursprünglichen Prompt, die Quelle, den Zeitpunkt. Das ist kein KI-Risiko im engeren Sinn, sondern ein Reibungsproblem: Der strukturierte Weg muss schneller sein als der freie, sonst wird er umgangen.

Verbindliche Entscheidungen ohne Adressat. Freigabe, Risikoakzeptanz, Ausnahmegenehmigung – das sind per Definition Aussagen, die eine verantwortliche Person tragen muss. Eine KI kann eine Empfehlung geben. Sie kann keine Verantwortung übernehmen, weil es niemanden gibt, den man im Schadensfall zur Rechenschaft ziehen könnte. Systeme, die das verwischen – etwa indem ein KI-Vorschlag ohne sichtbaren Freigabeschritt live geht – verlagern ein Risiko, sie lösen keins.

Die eigentliche Konsequenz
#

Der naheliegende Schluss – “mehr KI, weniger Tooling-Aufwand” – ist falsch herum gedacht. Richtig ist: je mehr Content KI erzeugt, desto wichtiger wird die Struktur, die entscheidet, was davon verbindlich wird. Nicht, weil Strukturen einen Selbstzweck hätten, sondern weil das eigentliche Engineering-Problem nie die Textmenge war, sondern die Frage, welcher Aussage man vertrauen kann, wenn zehn Leute (oder zehn Modelle) gleichzeitig Aussagen produzieren.

Wer KI im Engineering einsetzt, ohne diese Frage zu beantworten, hat nicht weniger Arbeit – er hat nur die teurere Arbeit für später aufgehoben.


Diese Trennlinie – Erzeugung vs. Verbindlichkeit – ist kein neues Prinzip, sondern dieselbe Logik, die im Lebensfähigkeitsmodell beschrieben ist: Ein Subjekt ist nicht dann lebensfähig, wenn es viele Aussagen produziert, sondern wenn es für jede weiß, wer sie trägt, woher sie kommt und woran sie erkennbar veraltet.

Image by RobooHood from Pixabay