KI im Mittelstand: warum Beratung und Betreuung entscheiden

Ein KI-Assistent ist heute in wenigen Minuten eingerichtet, und die ersten Ergebnisse wirken oft beeindruckend. Ein paar Monate später fällt die Bilanz in vielen Unternehmen nüchterner aus. Einige Mitarbeitende nutzen das Werkzeug täglich, andere gar nicht. Niemand weiß genau, welche Daten hineingegeben werden, und ein messbarer Nutzen lässt sich schwer benennen. An der Technik liegt das selten. Meist fehlen zwei Dinge: eine klare Vorstellung davon, wofür KI eingesetzt werden soll, und jemand, der sich danach um den Betrieb kümmert.

Erst die Aufgabe, dann das Werkzeug

Zu Beginn lautet die häufigste Frage: Welches Modell ist das beste? Hilfreicher ist eine andere. Welche Arbeit soll KI Ihrem Team abnehmen? Gute Kandidaten sind Aufgaben, die viel Zeit kosten, sich wiederholen und deren Ergebnis sich prüfen lässt.

In unseren Workshops sammeln wir solche Aufgaben gemeinsam mit den Fachabteilungen und bewerten jede nach drei Kriterien:

• Aufwand: Wie viel Arbeit macht die Umsetzung, und welche Daten und Systeme müssen angebunden werden?
• Nutzen: Wie viel Zeit spart das Team tatsächlich, und lässt sich das messen?
• Risiko: Welche Daten sind beteiligt, und was passiert, wenn eine Antwort falsch ist?

Am Ende steht eine priorisierte Liste, mit der Sie arbeiten können, keine Präsentation für die Schublade. Begonnen wird mit dem Anwendungsfall, der sich am schnellsten rechnet.

Wo KI im Mittelstand heute trägt

Gut funktionieren vor allem Aufgaben, bei denen KI die Vorarbeit leistet und Menschen weiterhin entscheiden:

• Wissen finden: Mitarbeitende fragen in normaler Sprache nach Inhalten aus Handbüchern, Verträgen oder Protokollen und erhalten die Antwort mit Quellenangabe, statt sich durch Ordnerstrukturen zu klicken.
• Korrespondenz vorbereiten: Angebotstexte, Antworten auf wiederkehrende Anfragen und Zusammenfassungen entstehen als Entwurf im Ton Ihres Hauses. Freigegeben wird weiterhin von Menschen.
• Daten vorsortieren: KI kategorisiert Anfragen, liest Dokumente aus und weist auf Auffälligkeiten in Zahlen hin, damit Ihr Team entscheidet statt sortiert.

Die Datenfrage gehört an den Anfang

Sobald Angebote, Kundenhistorien oder Personalunterlagen ins Spiel kommen, wird der Speicherort entscheidend. Bei öffentlichen KI-Diensten verlassen diese Inhalte Ihr Unternehmen, und Auftragsverarbeitung, Speicherort und Weiterverwendung müssen geklärt sein. Für unkritische Aufgaben ist ein öffentlicher Dienst trotzdem oft die günstigste Lösung.

Für sensible Daten bietet sich eine eigene KI-Umgebung an. Offene Sprachmodelle laufen dann auf einem GPU-Server in Ihrem Haus oder auf dedizierter Hardware in unserem Rechenzentrum in Frankfurt am Main. Die Anfragen bleiben in Ihrer Umgebung, Ihre Inhalte trainieren keine fremden Modelle, und den Zugriff steuern Sie über Rollen und Rechte. Für Textassistenz, Dokumentensuche und Zusammenfassungen in einem mittelständischen Team reicht oft ein einzelner GPU-Server.

Entscheidend ist, die Grenze bewusst zu ziehen: Welche Aufgaben dürfen in einen öffentlichen Dienst, und welche bleiben intern? Dazu kommt eine Pflicht, die viele noch nicht auf dem Schirm haben. Seit Februar 2025 verlangt die europäische KI-Verordnung von Unternehmen, die KI-Systeme einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden zu sorgen. Ein geplanter Einstieg mit klaren Regeln erleichtert auch das.

Warum KI Betreuung braucht

Eine KI-Umgebung ist kein Projekt, das mit der Inbetriebnahme endet. Modelle entwickeln sich schnell weiter, Komponenten brauchen Updates, und die Qualität der Antworten hängt stark von der Datenbasis ab. Ist die Ablage unsauber, werden es die Antworten auch. Zur laufenden Betreuung gehören deshalb:

• Updates von Modellen, Komponenten und Servern
• Monitoring von Auslastung und Antwortzeiten
• Backups der Umgebung
• regelmäßige Optimierung durch bessere Prompts, eine aufgeräumte Datenbasis oder passendere Modelle

Diesen Aufwand kalkulieren wir transparent pro Monat, abhängig von Umgebungsgröße und Nutzung. Anders als bei einer Abrechnung pro Anfrage wissen Sie vorher, womit Sie rechnen.

KI dort, wo gearbeitet wird

Den größten Nutzen bringt KI, wenn sie nicht als separates Fenster neben der eigentlichen Arbeit steht. Deshalb binden wir Ihre Dokumente, Wissensdatenbanken und Fachanwendungen an, zum Beispiel unsere Unternehmenssoftware dCM. Über Rollen und Rechte legen Sie fest, wer welche Antworten bekommt. Die Inhalte bleiben dabei in Ihrer Umgebung.

Aus eigener Erfahrung

Wir empfehlen nichts, was wir nicht selbst betreiben. Unsere eigenen Modelle laufen auf eigener Hardware, mit derselben Oberfläche, die auch unsere Kunden bekommen. Dabei haben wir gelernt, welche Modellgröße auf welcher Hardware noch flüssig antwortet, wo Antworten kippen, wenn die Datenbasis nicht stimmt, und wie viel Pflege eine solche Umgebung wirklich braucht. Modell, Server, Anbindung und Betrieb kommen bei uns aus einer Hand. Wenn etwas klemmt, haben Sie einen Ansprechpartner.

Fazit

KI lohnt sich im Mittelstand, wenn drei Fragen beantwortet sind: Welche Aufgabe soll sie übernehmen, welche Daten darf sie sehen, und wer kümmert sich um den Betrieb? Wer mit einem konkreten, messbaren Anwendungsfall startet und die Betreuung von Anfang an mitdenkt, macht aus einem Experiment ein Werkzeug, das im Alltag trägt. Mehr zu unserem Angebot finden Sie auf der Seite KI-Beratung und KI-Infrastruktur.

Hinweis: Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall.

Alle Beiträge