KI beginnt dort, wo Quellcode auf Daten trifft

Warum nicht das Modell allein, sondern das Zusammenspiel aus Daten, Software, Regeln und Kontrolle den Wert einer KI-Anwendung bestimmt.

Ein neues Modell erscheint, ein Benchmark steigt, eine Demo beantwortet Fragen flüssiger als zuvor. Schnell entsteht der Eindruck, der wichtigste Teil einer KI-Anwendung sei damit bereits entschieden. Man müsse nur noch das leistungsstärkste Modell auswählen, eine Oberfläche davor setzen und die eigenen Dokumente anschließen.

In der Praxis beginnt an dieser Stelle erst die eigentliche Systemarbeit. Ein Modell kennt statistische Muster aus seinem Training. Es kennt jedoch ohne bereitgestellten Kontext weder die aktuelle Preislogik eines Unternehmens noch dessen Freigabestufen, Kundenvereinbarungen, Schutzklassen oder Ausnahmen. Selbst ein sehr leistungsfähiges Modell kann keine verlässliche betriebliche Entscheidung treffen, wenn die benötigten Daten fehlen, Begriffe widersprüchlich sind oder Werkzeuge ohne klare Grenzen eingesetzt werden.

Die Überschrift dieses Artikels ist deshalb keine wörtliche Definition künstlicher Intelligenz. Natürlich werden Modelle mit Daten trainiert. Die These beschreibt den Moment, in dem aus allgemeiner Modellfähigkeit eine konkrete Anwendung wird: Dort, wo Software ein Modell kontrolliert mit verantworteten Daten, Regeln, Werkzeugen und realen Prozessen verbindet.

Das Modell ist eine Komponente, nicht das System

Ein produktives KI-System lässt sich als Zusammenspiel mehrerer Ebenen verstehen. Dieses Modell ist keine universelle Norm, aber eine nützliche Architekturbrille.

1 · Datenebene: Dokumente, Tabellen, Ereignisse, Stammdaten, Metadaten und Berechtigungsinformationen.

2 · Verarbeitungsebene: Import, Parsing, Bereinigung, Normalisierung, Verknüpfung, Chunking und Retrieval.

3 · Modell- und Logikebene: Regeln, klassische Machine-Learning-Modelle, generative Modelle und gegebenenfalls agentische Planung.

4 · Kontrollebene: Identitäten, Zugriffe, Freigaben, Protokollierung, Evaluation, Monitoring und Eingriffsgrenzen.

Wenn nur das Sprachmodell betrachtet wird, bleiben viele Fehlerquellen unsichtbar. Eine falsche Antwort kann aus dem Modellverhalten entstehen. Sie kann aber ebenso auf eine veraltete Quelle, einen Parsingfehler, eine falsche Einheitenumrechnung, ein unpassendes Mapping oder eine ungeeignete Zugriffskonfiguration zurückgehen. Die Frage „Welches Modell hat versagt?" ist deshalb häufig zu eng. Besser lautet sie: „An welcher Stelle der Systemkette ging Bedeutung, Gültigkeit oder Kontrolle verloren?"

Datenarbeit verändert das Verhalten des Systems

Drei Systeme können denselben Status unterschiedlich benennen: „abgeschlossen", „closed" und „erledigt". Menschen erkennen je nach Kontext schnell eine mögliche Gleichheit. Eine automatisierte Pipeline kann daraus drei Kategorien bilden. Ein Modell kann eine Zuordnung vorschlagen, darf aber nicht still festlegen, welche Definition organisatorisch gilt.

Dasselbe Problem erscheint bei Währungen, Zeitzonen, Maßeinheiten, Kundennummern und Rollen. Wenn ein Feld „Umsatz" einmal Nettoumsatz, einmal Bruttoumsatz und einmal prognostizierten Umsatz bezeichnet, ist die Modellwahl nicht das Hauptproblem. Das System braucht ein Datenwörterbuch, ein verbindliches Mapping und eine überprüfbare Transformation.

Damit wird Datenarbeit indirekt zu Modellarbeit. Sie verändert nicht zwingend die trainierten Parameter, aber sie verändert, welche Signale das System erhält, welche Kategorien es bildet und welche Handlungen daraus folgen können.

Datenverträge verbinden Fachlichkeit und Technik

Eine robuste Schnittstelle braucht mehr als ein Dateiformat. Ein Datenvertrag beschreibt, welche Felder erwartet werden, welche Bedeutung sie besitzen, welche Werte zulässig sind, wie Aktualität erkannt wird und was bei einem Verstoß geschieht.

dataset: customer_requests
version: 2.1
required_fields: [request_id, received_at, category, status]
status_values: [new, triaged, in_progress, resolved]
timezone: Europe/Berlin
owner: Service Operations
freshness_target: 15m
on_validation_error: quarantine

Der Vertrag ist kein Beweis perfekter Daten. Er macht Erwartungen jedoch testbar. Wenn ein neues Quellsystem plötzlich andere Statuswerte sendet, kann die Pipeline den Datensatz isolieren, statt ihn unbemerkt an Modell und Automatisierung weiterzugeben.

Nicht jedes Problem braucht ein großes Sprachmodell

Gutes KI-Datenengineering beginnt mit der Wahl des passenden Mechanismus. Deterministische Regeln sind stark, wenn Bedingungen stabil und Ergebnisse eindeutig sein müssen. Eine Freigabegrenze, ein Pflichtfeld oder eine Zugriffssperre sollte nicht kreativ interpretiert werden. Klassisches Machine Learning eignet sich für gelernte Klassifikation, Prognose oder Anomalieerkennung, sofern geeignete Trainings- und Evaluationsdaten vorhanden sind. Generative Modelle sind nützlich, wenn Inhalte zusammengefasst, transformiert, erklärt oder in natürlicher Sprache zugänglich gemacht werden sollen.

Agentische Systeme fügen Planung und Werkzeugnutzung hinzu. Damit steigt nicht nur die Leistungsfähigkeit, sondern auch der mögliche Wirkungsradius. Ein Textentwurf ist reversibel. Eine versendete E-Mail, eine geänderte Berechtigung oder eine ausgelöste Bestellung kann reale Folgen haben. Je größer der Wirkungsradius, desto wichtiger werden eingeschränkte Werkzeuge, minimale Berechtigungen, Vorschau, Freigabe, Abbruch und Auditprotokoll.

Die beste Architektur ist daher selten „LLM überall". Sie kombiniert deterministische Kontrollen mit statistischen und generativen Komponenten und setzt Menschen an klar definierten Entscheidungsgrenzen ein.

Vom Datenfluss zum Handlungskreis

Eine einfache KI-Anwendung liest Daten und erzeugt einen Vorschlag. Ein agentisches System kann darüber hinaus Werkzeuge aufrufen, Ergebnisse beobachten und den nächsten Schritt wählen. Dadurch entsteht ein Handlungskreis:

1. Daten aufnehmen und aktuellen Zustand bestimmen.

2. Relevante Informationen abrufen und prüfen.

3. Einen Plan oder Vorschlag erzeugen.

4. Zulässige Werkzeuge innerhalb definierter Grenzen verwenden.

5. Ergebnis und Nebenwirkungen beobachten.

6. Fortfahren, korrigieren, eskalieren oder stoppen.

An jedem Übergang muss geklärt sein, welche Daten hineinfließen, welche Regel gilt und wer Verantwortung trägt. Ohne diese Definition wird aus Flexibilität Unvorhersehbarkeit.

Produktionsreife beginnt nach der Demo

Eine Demo kann mit wenigen ausgesuchten Dokumenten hervorragend funktionieren. Im Betrieb kommen neue Versionen, unerwartete Eingaben, Rechtewechsel, Ausfälle, Löschfristen, Kostenlimits und widersprüchliche Quellen hinzu. Genau deshalb reicht es nicht, nur eine gute Beispielantwort zu zeigen.

Produktionsreife benötigt einen Lebenszyklus: Daten aufnehmen, validieren, bereitstellen, verwenden, Ergebnisse messen, Fehler zurückführen und Quellen aktualisieren. Änderungen am Prompt, Modell, Retrieval oder Datenbestand müssen versioniert werden, weil jede dieser Änderungen das Systemverhalten beeinflussen kann.

Ein Modellwechsel kann die Antwortqualität verändern. Eine neue Parsingbibliothek kann Tabellen anders zerlegen. Ein aktualisierter Index kann andere Passagen finden. Eine Berechtigungsänderung kann erlaubte Quellen erweitern oder einschränken. Deshalb gehört zu jeder Veröffentlichung eine nachvollziehbare Konfiguration aus Datenstand, Codeversion, Modell, Regeln und Evaluation.

Beobachtbarkeit: nicht nur Antworten, sondern Ursachen messen

Ein KI-System ist nicht ausreichend beobachtbar, wenn nur Latenz und Fehlermeldungen erfasst werden. Für die fachliche Qualität sind weitere Signale nötig: Welche Quellen wurden verwendet? Welche Filter waren aktiv? Welche Validierungsregel schlug an? Wo wurde menschlich korrigiert? Welche Kosten und Laufzeiten entstanden? Welche Fälle wurden abgelehnt oder eskaliert?

Evaluation sollte mehrere Ebenen trennen. Datenchecks prüfen Schema, Aktualität und zulässige Werte. Retrievaltests prüfen, ob relevante Quellen gefunden werden. Ausgabetests bewerten Belegtreue, Vollständigkeit und angemessene Unsicherheit. Prozesstests prüfen, ob Werkzeuge nur innerhalb ihrer Berechtigungen arbeiten und Stoppbedingungen greifen.

Ein einzelner Gesamtwert kann diese Ebenen nicht ersetzen. Gute Beobachtbarkeit ermöglicht, einen Fehler bis zu seiner Ursache zurückzuverfolgen, statt nur eine schlechte Antwort neu zu prompten.

Die Rolle des Menschen verschiebt sich

Der Mensch muss nicht jeden Zwischenschritt manuell ausführen. Seine zentrale Aufgabe besteht darin, fachliche Bedeutung, Risikogrenzen und Freigaberegeln zu definieren. Er bestätigt kritische Mappings, entscheidet bei Ausnahmen und prüft Handlungen mit erheblichen Folgen.

Wirksame Kontrolle verlangt mehr als eine Schaltfläche. Die prüfende Person benötigt relevante Daten, Belege, Unsicherheit, angewandte Regeln und echte Eingriffsmacht. Sie muss eine Aktion ablehnen, verändern oder stoppen können, bevor deren Folgen eintreten.

Der entscheidende Architekturgedanke

Ein Modell kann beeindruckend sein. Eine verlässliche Anwendung entsteht erst durch das System darum herum. Daten geben ihr Bezug zur Realität. Software verbindet Komponenten. Regeln begrenzen Verhalten. Kontrollen machen Entscheidungen nachvollziehbar. Menschen sichern Bedeutung und Verantwortung.

Für den konkreten betrieblichen Anwendungsfall beginnt die entscheidende KI-Gestaltung deshalb dort, wo Quellcode auf verantwortete Daten trifft. Nicht, weil dort Intelligenz aus dem Nichts entsteht, sondern weil dort allgemeine Modellfähigkeit in eine reale, prüfbare und folgenreiche Funktion übersetzt wird.

Übungsblatt: Entwirf die vier Ebenen eines KI-Systems

Wähle einen realen oder fiktiven Anwendungsfall. Erstelle eine Systemkarte, die Daten, Verarbeitung, Modell/Logik und Kontrolle getrennt sichtbar macht.

1. Zweck und Wirkung definieren. Beschreibe Nutzer, gewünschtes Ergebnis und mögliche Fehlerfolgen. Markiere, welche Handlungen reversibel und welche folgenreich sind.

2. Daten und Verträge bestimmen. Liste Quellen, Eigentümer, Aktualität, Schutzklasse und erwartete Felder. Formuliere mindestens drei prüfbare Datenregeln.

3. Mechanismus auswählen. Ordne jeden Schritt einer deterministischen Regel, klassischem Machine Learning, generativer KI oder menschlicher Entscheidung zu. Begründe die Auswahl.

4. Entscheidungsgrenzen setzen. Definiere, wann das System automatisch fortfahren darf und wann es pausieren, eskalieren oder eine Freigabe verlangen muss.

5. Beobachtbarkeit planen. Lege je Ebene mindestens ein Signal, einen Test und eine verantwortliche Rolle fest.

Alle Materialien zum Download – die Themenübersicht und das Übungsblatt:

Abgrenzung: Die Überschrift ist eine redaktionelle These über produktive KI-Anwendungen. Modelle werden bereits mit Daten trainiert; gemeint ist, dass betrieblicher Nutzen dort entsteht, wo ein Modell kontrolliert mit aktuellen Daten, Software, Regeln und Prozessen verbunden wird. Das NIST AI RMF ist freiwillig.

Quellen und fachliche Einordnung