Wenn ein Projekt mit künstlicher Intelligenz scheitert, trifft die Schuld meist das Modell.
Es hat halluziniert.
Es hat den Prompt missverstanden.
Es war zu teuer.
Es war nicht genau genug.
Manchmal stimmen diese Kritikpunkte. Modelle haben Grenzen, und diese Grenzen zählen.
Doch viele KI-Projekte scheitern schon lange, bevor die Modellqualität zum entscheidenden Problem wird.
Sie scheitern, weil niemand das System wirklich verantwortet.
Das Innovationsteam verantwortet das Experiment.
IT verantwortet die Infrastruktur.
Legal verantwortet die Richtlinien.
Security verantwortet die Einschränkungen.
Eine Business Unit verantwortet das Budget.
Eine Beratung verantwortet die Präsentation.
Ein Anbieter verantwortet das Modell.
Und niemand verantwortet das operative Ergebnis.
Diese Fragmentierung lässt sich während eines Pilotprojekts leicht übersehen. Eine kleine Gruppe kann schlechte Inputs manuell korrigieren, seltsame Resultate erklären, Prompts anpassen und ausgewählte Nutzerinnen und Nutzer durch den Prozess begleiten.
Dann geht das Projekt in den Produktivbetrieb.
Wer überwacht die Qualität?
Wer entscheidet, wann das System falschliegt?
Wer genehmigt Änderungen?
Wer reagiert, wenn ein Anbieter sein Modell ändert?
Wer verantwortet die Datenpipeline?
Wer kennt die Kosten pro abgeschlossener Geschäftsaufgabe?
Wer hat die Befugnis, das System zu stoppen?
Wer trägt die Verantwortung, wenn Menschen ihm zu sehr zu vertrauen beginnen?
Ohne klare Antworten ist das Projekt kein System. Es ist eine Sammlung ungelöster Zuständigkeiten, zusammengehalten von Begeisterung.
KI bringt Unsicherheit in Umgebungen, die Organisationen traditionell möglichst deterministisch halten wollten. Das macht KI nicht unbrauchbar. Es macht operative Verantwortung umso wichtiger.
Ein ernsthaftes KI-Produkt braucht mehr als ein Modell und eine Oberfläche.
Es braucht klar definierte Entscheidungsrechte, Bewertungskriterien, Eskalationswege, Auditierbarkeit, Monitoring, Kostenkontrolle, Sicherheitsgrenzen, Feedback-Schleifen — und eine verantwortliche Person mit sowohl Zuständigkeit als auch Befugnis.
Es braucht auch einen Ausstiegsplan.
Kann die Organisation den Anbieter wechseln?
Kann sie ihre Daten zurückholen?
Kann sie wichtige Ergebnisse rekonstruieren?
Kann sie weiterarbeiten, wenn das bevorzugte Modell nicht mehr verfügbar, nicht mehr bezahlbar oder nicht mehr geeignet ist?
Das sind keine nachgelagerten Governance-Fragen. Sie sind Teil des Produkts.
Ein starkes Modell kann ein gut geführtes System verbessern.
Es kann keine Organisation kompensieren, die ihre Verantwortung ausgelagert hat, ohne es zu merken.
KI-Projekte scheitern meist nicht, weil dem Modell die Intelligenz fehlte.
Sie scheitern, weil der Organisation die operative Verantwortung fehlte.