Zum Hauptinhalt springen
KI im Mittelstand — Symbolbild

KI im Mittelstand: Was Führungskräfte jetzt entscheiden müssen

KI ist im Mittelstand angekommen — und in fast jedem Unternehmen, das ich besuche, herrscht Tool-Wildwuchs ohne strategische Linie. Vier Führungs-Entscheidungen, die jetzt anstehen, jenseits von ChatGPT-Demos und Tool-Listen.


Wenn ich heute mit mittelständischen Geschäftsleitungen über KI spreche, höre ich oft: „Wir nutzen das schon — die Mitarbeiter haben verschiedene Tools im Einsatz." Das ist die ehrliche Diagnose: Die Anwendung läuft, die Steuerung fehlt. Mitarbeiter benutzen ChatGPT, Copilot, Claude, manchmal lokale Modelle, oft mit unternehmenskritischen Daten. Es gibt keine Policy, keine Schulung, keine Risikoabschätzung. In zwei oder drei Jahren wird das ein Compliance-Thema werden — bei Datenpannen, regulatorischen Verstößen oder Qualitätsproblemen.

Dieser Artikel ist keine Tool-Empfehlung. Er ist eine Reflexion darüber, was die Geschäftsleitung jetzt klären muss, um KI nicht zum strategischen Risiko werden zu lassen.

Entscheidung 1: Welche Daten dürfen in KI-Systeme

Die häufigste Risikolücke im Mittelstand: Mitarbeiter nutzen externe KI-Modelle (ChatGPT, Claude) und kopieren dabei Kundendaten, Verträge, interne Dokumente in die Eingabefelder. Diese Daten verlassen das Unternehmen oft an Server außerhalb der EU — mit unklarem Verbleib.

Was die Geschäftsleitung jetzt braucht: eine klare Datenklassifizierung. Welche Daten sind unkritisch und dürfen in externe Systeme? Welche sind sensibel und brauchen lokale Modelle oder On-Premise-Lösungen? Welche dürfen nie in KI-Systeme? Diese Klassifizierung ist die Grundlage für jede weitere Entscheidung.

Ohne diese Klärung sind alle KI-Investitionen Stochern im Nebel — und alle Compliance-Versprechen Selbstbetrug.

Entscheidung 2: Welche Prozesse werden mit KI verändert — und welche nicht

Nicht jeder Prozess gewinnt durch KI. Manche werden schlechter, weil die KI Halluzinationen produziert oder Subtilitäten verliert. Andere werden besser, oft drastisch.

Drei Kategorien helfen bei der Auswahl. Erstens: Hochvolumige, regelbasierte Prozesse — typischerweise große Gewinner durch KI-Automatisierung. Zweitens: Kreative oder beziehungsbasierte Prozesse — KI als Werkzeug, nicht als Ersatz. Drittens: Hochsensible Entscheidungs-Prozesse mit Haftung — KI nur unterstützend, nie ersetzend.

Wer ohne diese Differenzierung KI „in alles" einbaut, produziert Qualitätsverlust und Frustration.

Entscheidung 3: Welche Kompetenzen baut die Organisation auf

KI verschiebt Kompetenzen. Manche Aufgaben werden trivialisiert (Standardrecherche, Texterstellung erster Version). Andere werden anspruchsvoller (Bewertung, Prüfung, Curating). Die Geschäftsleitung muss klären, welche Kompetenzen sie wo aufbaut.

Drei strategische Investitions-Bereiche. Erstens: Prompt-Engineering und KI-Bewertung — nicht für Spezialisten, sondern als Grundkompetenz vieler Mitarbeiter. Zweitens: Datenkompetenz im weiteren Sinne — Verstehen, was KI auf welchen Daten produziert. Drittens: kritische Reflexion — die Fähigkeit, KI-Output zu prüfen statt blind zu übernehmen.

Diese Kompetenzen entstehen nicht von alleine. Sie brauchen Schulungs-Investitionen und veränderte Arbeitsweisen.

Entscheidung 4: Welche Governance braucht KI im Unternehmen

Governance klingt schwerfällig — ist aber genau das, was im Mittelstand fehlt. Drei Bestandteile sind unverzichtbar.

Eine KI-Policy. Ein klares Dokument, das festlegt, welche Tools genutzt werden dürfen, welche Daten in welche Systeme gehen, welche Prüfung Output braucht, welche Verantwortung wo liegt. Diese Policy muss kurz sein (max. 3 Seiten) und in den Arbeitsalltag passen.

Eine verantwortliche Person. Wer ist im Unternehmen für KI-Governance verantwortlich? Im Mittelstand ist das oft eine Doppelrolle (CTO oder Datenschutzbeauftragter mit erweitertem Mandat). Wichtig ist: eine klare Adresse für Fragen und Entscheidungen.

Quartalsweise Review. Welche Tools sind im Einsatz? Welche Risiken sind aufgetaucht? Welche Erfolge sind erzielt? Diese Routine verhindert das Driften.

Was nicht funktioniert

Drei Muster, die ich häufig sehe und die KI-Governance untergraben.

Pauschalverbote, die niemand einhält. Wer ChatGPT verbietet, ohne Alternativen anzubieten, produziert verdeckte Nutzung mit höherem Risiko.

Tool-Wildwuchs ohne Linie. Jede Abteilung kauft eigene KI-Tools, ohne Abstimmung. Nach zwei Jahren hat das Unternehmen 30 Tools, doppelte Lizenzkosten und Datenchaos.

Symbolische KI-Initiativen. „Wir sind eine KI-First-Company" als Positionierung, ohne dass das in der Praxis abgebildet ist. Diese Lücke wird von Mitarbeitern und Kunden schnell durchschaut.

Wann externe Begleitung sinnvoll ist

KI-Strategie im Mittelstand ist ein klassisches Thema, bei dem externe Begleitung Mehrwert bringt — nicht weil die Externen die Antworten haben, sondern weil sie die Reflexionsfragen stellen, die intern oft nicht gestellt werden.

Ihr PCG-Vorsprung: Ich begleite Geschäftsleitungen bei der KI-Governance — nicht als Tool-Berater, sondern als strategischer Sparring-Partner. Das Setup: zweitägige Klausur, dann begleitende Reflexion über 6-9 Monate. Mehr zu meiner Strategiebegleitung.

Ihr nächster Schritt

Wenn KI in Ihrem Unternehmen ungeordnet wuchert — vereinbaren Sie ein kostenfreies Erstgespräch. Wir machen in 30 Minuten eine erste Diagnose.


Daniel Gaß ist Gründer von Performance.Consulting by Gaß (PCG). Mit über 15 Jahren Geschäftsleitungserfahrung im Mittelstand und einem systemischen Beratungsansatz begleitet er Führungskräfte und Unternehmen dabei, durch Haltung und Struktur nachhaltige Erfolge zu erzielen.

Sprechen wir miteinander

Das Thema bewegt Sie auch?

Wenn Sie diesen Artikel hierher gebracht hat, gibt es vermutlich eine konkrete Situation in Ihrem Führungs- oder Beratungsalltag. Lassen Sie uns in einem unverbindlichen Erstgespräch klären, ob und wie ich Sie unterstützen kann.

30 Minuten · Kostenfrei · Vertraulich