KI-Kosten im Mittelstand: Was wirklich Geld kostet

28,7 Milliarden Euro und die falsche Frage

Deutschland gibt 2026 rund 28,7 Milliarden Euro für Künstliche Intelligenz aus. Das ist ein Plus von 48 Prozent gegenüber 19,4 Milliarden Euro im Vorjahr. Die Ausgaben für generative KI verdoppeln sich sogar auf 11,5 Milliarden Euro, nach 5,7 Milliarden Euro in 2025. Für 2027 erwartet das Marktforschungsunternehmen IDC 40,3 Milliarden Euro, ein weiteres Plus von 40 Prozent. Der Digitalverband Bitkom hat diese Zahlen am 22. September 2026 veröffentlicht, Grundlage ist der IDC Worldwide AI and Generative AI Spending Guide.

Die Zahl ist beeindruckend. Sie beantwortet aber nicht die Frage, die im Mittelstand wirklich weh tut. Die lautet nicht: Wie viel Geld fließt in KI? Sie lautet: Wofür fließt es, und rechnet sich das?

Die drei echten Kostentreiber

Das Bitkom hat im September 2026 eine repräsentative Befragung von 603 Unternehmen ab 20 Beschäftigten vorgelegt. Darin steht, wofür KI-Anwender tatsächlich Geld ausgeben. Die Reihenfolge überrascht.

• Infrastruktur, also Cloud und Rechenleistung: 51 Prozent nennen das als großen Kostenpunkt.
• Aufbereitung der Daten: 50 Prozent.
• Integration in bestehende Systeme: 41 Prozent.
• Abos und Lizenzen für KI-Software: 21 Prozent. Externe Beratung: ebenfalls 21 Prozent. Schulung der Beschäftigten: 19 Prozent.
• Der Verbrauch von Token: 8 Prozent. Weitere 11 Prozent nennen ihn einen kleinen Kostenpunkt.

Lies die Liste zweimal. Der Posten, über den alle reden, ist der kleinste. Das Abo ist nicht die Rechnung. Die Rechnung ist das Fundament darunter: Rechenleistung, saubere Daten, verbundene Systeme.

Bitkom-Präsident Dr. Ralf Wintergerst bringt es auf den Punkt: „Wer nur eine Lizenz kauft, hat KI eingekauft, aber noch nichts verändert.“

Eine zweite Zahl aus derselben Woche stützt diese Liste. Die Ausgaben für KI-Software in Deutschland steigen 2026 um 65 Prozent auf 16,0 Milliarden Euro. Dienstleistungen rund um KI wachsen um 30 Prozent auf 6,8 Milliarden Euro, Hardware um 32 Prozent auf 5,8 Milliarden Euro. Software wächst also fast doppelt so schnell wie die Maschine darunter. Es ist nicht die Hardware, die den Unterschied macht, sondern das, was auf ihr läuft und was man dafür vorbereiten muss.

Warum das im Mittelstand besonders weh tut

Ein Konzern kann eine Datenplattform aufbauen und die Kosten über Abteilungen verteilen. Ein Betrieb mit 120 Mitarbeitern hat dafür weder ein Data-Engineering-Team noch einen Budgetposten, in den das passt. Genau dort landen die Projekte, die stecken bleiben.

Die Befragung zeigt das deutlich. Unter den Unternehmen, die KI bereits einsetzen, nennen 54 Prozent schwer kalkulierbare Kosten als Hemmnis. Bei den Unternehmen ohne KI sind es sogar 63 Prozent. Und kein einziges Unternehmen sagt, es nutze das Potenzial von KI vollständig aus. Nur 3 Prozent nutzen es eher stark, 28 Prozent eher wenig, 59 Prozent nach eigener Einschätzung überhaupt nicht.

Übersetzt: Die meisten zahlen für die Technik, ohne sie auszureizen. Das ist der teuerste Zustand von allen, weil die Fixkosten laufen und der Nutzen nicht.

Was ein Agent pro Tag kosten kann

Bei den KI-Agenten wird die Rechnung unangenehm konkret. Ein Agent ist kein Chatbot. Er handelt selbstständig, holt Angebote ein, vergleicht Preise, arbeitet Entscheidungsoptionen aus. Dabei ruft er Modelle in Schleifen auf, manchmal hundert Mal für eine einzige Aufgabe.

Die FAZ hat am 18. September 2026 einen Fachmann mit dieser Aussage zitiert: „So ein Agent kostet am Tag leicht mal 100, 200, 300 Euro.“ Rechnet man das auf ein Jahr, sind das bei 250 Arbeitstagen irgendwo zwischen 25.000 und 75.000 Euro für einen einzigen Agenten. Das ist keine Durchschnittszahl, sondern die Obergrenze eines schlecht gebremsten Agenten. Sie zeigt aber, wo die Gefahr sitzt: im Verbrauch, nicht in der Lizenz.

Das Bitkom hat dazu einen klaren Trend: 11 Prozent der Unternehmen setzen KI-Agenten schon ein, 29 Prozent planen den Einsatz, 31 Prozent diskutieren ihn. Nur für 24 Prozent ist das kein Thema. Wenn dein Betrieb zu den 29 oder 31 Prozent gehört, gehört eine Kostenbremse in die Planung, nicht in die Nachbetrachtung.

Drei Regeln für die Kalkulation

1. Kalkuliere die Datenaufbereitung als Hauptposten, nicht als Nachtrag. 50 Prozent der Anwender nennen Daten als großen Kostenpunkt. Wenn in deinem Angebot dafür keine Zeile steht, fehlt nicht ein Detail, es fehlt die Hälfte der Wahrheit.
2. Rechne Agenten nach Verbrauch, nicht nach Lizenz. Definiere eine Obergrenze pro Agent und Tag und eine Obergrenze pro Aufgabe. Ein Agent, der 300 Euro am Tag verbrennt, muss eine Aufgabe erledigen, die mindestens das wert ist.
3. Setze den Nutzen auf dieselbe Seite wie die Kosten. 66 Prozent der KI-Anwender sagen, sie hätten ihre Wettbewerbsposition verbessert, 48 Prozent konnten Prozesse deutlich beschleunigen, 45 Prozent sehen einen messbaren Beitrag zum Unternehmenserfolg. Wenn deine Zahl fehlt, ist das Projekt nicht gescheitert, es ist nicht gemessen.

Was sich nicht rechnet

Nicht jede Automatisierung trägt sich. Wenn ein Prozess zweimal im Monat läuft und 20 Minuten dauert, ist die Integration in bestehende Systeme teurer als der Prozess selbst. 41 Prozent der Anwender nennen genau diese Integration als großen Kostenpunkt. Der Fehler ist nicht, dass sie teuer ist. Der Fehler ist, sie für einen Ablauf zu bezahlen, der zu selten läuft.

Der zweite Posten, der sich oft nicht rechnet, ist die Angst-Investition. Ein Drittel der KI-Anwender, 33 Prozent, sagt offen, es setze KI vor allem ein, um den Anschluss nicht zu verlieren. Das ist eine verständliche Motivation und eine schlechte Projektgrundlage. Ohne definiertes Ziel gibt es kein Ende und damit keine Kostenkontrolle.

Wie du prüfst, ob KI in deinem Fall überhaupt sinnvoll ist, steht in unserem Artikel zu den Abbruchkriterien. Dort findest du die Entscheidungspunkte vor dem ersten Euro.

Wer trotzdem rechnen will, braucht drei Zahlen: die Kosten pro Aufgabe, die Häufigkeit der Aufgabe und den Wert der eingesparten Zeit. Fehlt eine der drei, ist jede Rentabilitätsrechnung im Mittelstand ein Gefühl. Und ein Gefühl lässt sich nicht verteidigen, wenn der nächste Gesellschafter oder der nächste Kunde nachfragt.

Der Markt wächst trotzdem

45 Prozent der Unternehmen geben 2026 mehr Geld für KI aus als im Vorjahr, 13 Prozent deutlich mehr. Nur 3 Prozent wollen ihre Ausgaben eher senken, kein einziges Unternehmen deutlich. 57 Prozent setzen KI inzwischen ein, nach 36 Prozent vor einem Jahr und 20 Prozent vor zwei Jahren.

Die Frage ist also nicht ob, sondern wie teuer. Genau hier entscheidet sich, ob KI im Mittelstand einen Beitrag liefert oder eine Fixkostenzeile wird. Drei Grundsätze helfen: erst rechnen, dann kaufen. Daten vor Modelle. Und jeden Agenten mit einer Obergrenze ausstatten.

Die typischen Fehler, die dabei Geld verbrennen, haben wir in diesem Beitrag gesammelt. Und wenn deine Kosten laufen und der Nutzen nicht sichtbar ist, lohnt der Blick auf das Produktivitätsparadoxon, das viele Betriebe beschreiben.

Der nächste Schritt: Nimm deine letzte KI-Kostenaufstellung und markiere jeden Posten danach, ob er vor oder nach dem ersten Pilotprojekt entstanden ist. Was danach kam und keinen eigenen Budgetposten hat, ist der Grund, warum sich dein Projekt schwer rechnet.