Viele KI-Projekte im Mittelstand starten erfolgreich: Ein Modell liefert brauchbare Antworten, ein Prozess wird schneller und die Präsentation für die Geschäftsführung überzeugt. Doch einige Monate später wird die Anwendung weiterhin nur von einem kleinen Projektteam genutzt. Der Zugriff auf echte Unternehmensdaten fehlt, Sicherheitsfragen sind ungeklärt, Budgets wurden nicht eingeplant und niemand fühlt sich für den späteren Betrieb verantwortlich. Der entscheidende Unterschied liegt deshalb nicht allein im verwendeten Modell. Ein erfolgreicher Pilot beweist lediglich, dass eine Idee unter kontrollierten Bedingungen funktioniert. Der Regelbetrieb muss dagegen mit echten Nutzern, unvollständigen Daten, Berechtigungen, Sonderfällen, Supportanfragen und steigenden Kosten zuverlässig umgehen können.
DER BUSINESS CASE ENDET NICHT MIT DEM PILOTBUDGET
Während ein Pilot häufig mit einem überschaubaren Projektbudget finanziert wird, entstehen im Produktivbetrieb laufende Kosten für Integration, Infrastruktur, Lizenzen, Monitoring, Support, Schulungen und Datenpflege. Aus einem begrenzten Projektbudget wird ein dauerhaftes Betriebsmodell. In der Praxis kann die Produktivsetzung ein Vielfaches des ursprünglichen Pilotbudgets kosten. Zusätzlich dürfen Unternehmen nicht nur Modellaufrufe, Speicher und Rechenleistung betrachten. Auch menschliche Nacharbeit, manuelle Prüfungen, Rückfragen, Fehlerkorrekturen und Ausfälle gehören in die Rechnung. Ein günstiger KI-Aufruf kann teuer werden, wenn die erzeugte Antwort regelmäßig überprüft oder korrigiert werden muss. Ein belastbarer Business Case stellt deshalb den erwarteten Nutzen den vollständigen Restkosten für Qualität, Sicherheit, Betrieb und menschliche Kontrolle gegenüber.
VERANTWORTUNG UND AKZEPTANZ KLAR REGELN
Jede produktive KI-Anwendung benötigt mindestens einen fachlichen und einen technischen Owner. Der fachliche Verantwortliche beurteilt Nutzen, Qualität und Prozessintegration. Der technische Owner verantwortet Plattform, Sicherheit, Betrieb, Änderungen und Störungen. Ein Name auf einer Projektfolie reicht dafür nicht aus. Die Verantwortlichen brauchen ein klares Mandat und müssen entscheiden dürfen, wann eine Datenquelle freigegeben, ein Prompt geändert, ein Modell ausgetauscht oder eine Funktion abgeschaltet wird. Auch die Mitarbeitenden müssen früh einbezogen werden. Sie kennen die tatsächlichen Abläufe, Ausnahmen und Risiken. Gleichzeitig entstehen häufig Fragen zur Kontrolle, zur persönlichen Verantwortung und zur Veränderung von Arbeitsplätzen. Unternehmen sollten deshalb konkret erklären, welche Aufgaben sich verändern, welche Entscheidungen beim Menschen bleiben und wie Nutzungsdaten verarbeitet werden. Besonders wichtig ist ein definierter Übergabepunkt: Die KI muss erkennen lassen, wann ein Fall zu unsicher ist und an welchen Menschen er mit allen relevanten Informationen übergeben wird.
ARCHITEKTUR UND MLOPS FÜR DEN PRODUKTIVBETRIEB
Vor der Auswahl eines Tools braucht es ein klares Zielbild. Unternehmen müssen wissen, aus welchen Quellen die Daten stammen, wie sie durch den Prozess fließen, wer darauf zugreifen darf und wo das Ergebnis verwendet wird. Datenqualität und Berechtigungen sind dabei entscheidend. Die KI darf weder veraltete Informationen verwenden noch Inhalte anzeigen, für die ein Nutzer keine Berechtigung besitzt. Auch Änderungen bei Mitarbeitenden, gelöschte Dokumente und abgeschlossene Projekte müssen berücksichtigt werden. Eine robuste Lösung bleibt modular aufgebaut. Modell, Wissenszugriff, Prozesslogik und Benutzeroberfläche sollten möglichst getrennt werden. Dadurch lassen sich Modelle oder Datenquellen später austauschen, ohne die gesamte Anwendung neu entwickeln zu müssen. MLOps beschreibt in diesem Zusammenhang den kontrollierten Änderungsprozess. Versioniert werden sollten nicht nur der Code, sondern auch Prompts, Modelle, Datenquellen und Konfigurationen. Nur so lässt sich später nachvollziehen, warum sich eine Antwort verändert hat. Vor dem Go-Live müssen außerdem realistische Tests stattfinden. Dazu gehören fehlende Daten, unklare Eingaben, Lasttests, Berechtigungsgrenzen, unerlaubte Anfragen und der Ausfall verbundener Systeme. Ein definierter Fallback und ein schneller Rollback auf eine geprüfte Version gehören ebenfalls zur Produktionsreife.
MONITORING, SICHERHEIT UND GOVERNANCE
Im laufenden Betrieb reicht es nicht aus, lediglich die technische Verfügbarkeit zu überwachen. Unternehmen sollten mindestens vier Bereiche beobachten: technische Stabilität, Kostenentwicklung, Antwortqualität und tatsächlicher fachlicher Nutzen. Eine Anwendung kann technisch erreichbar sein und trotzdem schlechte Ergebnisse liefern oder im Prozess mehr Arbeit erzeugen als zuvor. Deshalb müssen auch Korrekturen, Eskalationen, Übergaben und Rückmeldungen der Nutzer ausgewertet werden. Governance sollte dabei nicht als reine Bürokratie verstanden werden. Sie definiert, wer welche Entscheidungen unter welchen Bedingungen treffen darf. Ein interner Assistent für öffentlich zugängliche Informationen benötigt andere Kontrollen als eine KI, die Kundenantworten vorbereitet, Bewerbungen vorsortiert oder finanzielle Entscheidungen unterstützt. Datenschutz, Zugriffsrechte, Speicherfristen und Dokumentation müssen vor dem Rollout geklärt werden. Auch Modell- und Prompt-Änderungen sollten wie Software-Releases behandelt werden: testen, schrittweise ausrollen, überwachen und bei Problemen zurücksetzen.
KONTROLLIERT SKALIEREN STATT ÜBERALL GLEICHZEITIG STARTEN
Die Skalierung sollte in Wellen erfolgen. Zunächst wird ein Prozess stabilisiert und anhand von Kosten, Qualität, Fehlerbildern und Nutzerfeedback bewertet. Erst wenn dieser kontrolliert funktioniert, sollte ein vergleichbarer weiterer Prozess folgen. Go- und No-Go-Kriterien gehören bereits an den Anfang eines Piloten. Dazu zählen eine messbare Nutzenkennzahl, eine ausreichende Qualitätsgrenze, ein maximaler Kostenrahmen, ein benannter Verantwortlicher und eine abgeschlossene Sicherheitsbewertung. So wird aus einem Pilotprojekt eine echte Entscheidungsgrundlage. Ziel ist nicht möglichst schnell eine große Zahl von Chatbots, sondern ein betreibbarer Bestandteil eines Geschäftsprozesses mit nachvollziehbarem Nutzen und klaren Grenzen.
DIE DREI FRAGEN VOR DEM NÄCHSTEN PILOTEN
Vor dem Start eines neuen KI-Piloten sollten drei Punkte schriftlich beantwortet werden:
- Welche konkrete Nutzenkennzahl soll erreicht werden?
- Wer trägt nach dem Pilot die fachliche und technische Verantwortung?
- Welche Kosten darf der laufende Betrieb verursachen?
Fehlt einer dieser Punkte, testet das Unternehmen zwar eine interessante Idee, plant aber noch keinen belastbaren Regelbetrieb. Gute KI hängt deshalb nicht allein am Modell, sondern an Architektur, Verantwortung und der Fähigkeit, die Lösung dauerhaft sicher und wirtschaftlich zu betreiben.
Sie möchten wissen, wie IT Ihr Business voranbringen kann? Dann vernetzen Sie sich mit mir auf LinkedIn und bleiben Sie bei den neuesten Trends und Best Practices immer auf dem Laufenden.
