KI im Unternehmen

Was eine KI-Anwendung im Betrieb kostet: ein Rechenweg

Florian Rocktäschel · Stand: November 2026 · 10 Minuten Lesezeit

Kurz gesagt

Die Modellkosten einer KI-Anwendung sind eine einfache Rechnung: Anfragen im Monat mal Tokens pro Anfrage mal Preis, getrennt nach Eingabe und Ausgabe. Caching und Batch senken das Ergebnis, die Modellwahl verschiebt es um den Faktor zehn und mehr. Im Beispiel unten, einem internen Assistenten mit 42.000 Anfragen im Monat, liegen die Modellkosten zwischen rund 40 und 580 € im Monat. Teurer sind fast immer Betrieb, Tests und die Menschen, die beides erledigen. Wirklich ins Geld gehen Tokens vor allem bei Agenten und bei sehr großen Mengen.

Wie rechnet man die Kosten einer KI-Anwendung?

Die Formel für die Modellkosten im Monat:

Anfragen × (Eingabe-Tokens × Eingabepreis + Ausgabe-Tokens × Ausgabepreis)

Dazu kommen drei Korrekturen und ein Block, der in keiner Preisliste steht:

  • Caching: Wiederkehrende Anfänge eines Prompts kosten nur einen Bruchteil.
  • Batch: Was nicht sofort fertig sein muss, kostet die Hälfte.
  • Aufschläge: Verarbeitung in einer festen Region kostet bei mehreren Anbietern 10 % mehr.
  • Betrieb: Entwicklung, Tests, Überwachung, Bereitschaft und die Arbeitszeit dafür.

Die Rechnung ist schlicht. Fehler entstehen fast immer bei den Eingangsgrößen, also bei der Frage, wie viele Tokens eine Anfrage wirklich hat.

Wie viele Tokens hat eine Anfrage?

Ein Token ist ein Wortteil. Für deutsche Texte rechnet man mit etwa 1,5 Tokens pro Wort: Notebookcheck hat gemessen, dass eine Million Tokens im aktuellen OpenAI-Tokenizer rund 649.000 deutsche Wörter fasst, aber rund 833.000 englische. Deutsch ist also teurer als Englisch, bei gleichem Inhalt.

Eine Anfrage besteht selten nur aus der Frage. Bei einem typischen Assistenten mit Zugriff auf Firmendokumente setzt sie sich so zusammen:

  • Systemanweisung: Rolle, Regeln, Werkzeuge, Antwortformat. Oft 1.000 bis 3.000 Tokens, bei jeder Anfrage gleich.
  • Abgerufene Dokumente: die Textstellen, die die Suche zur Frage gefunden hat. Meist der größte Posten.
  • Gesprächsverlauf: Jede frühere Frage und Antwort im selben Gespräch wird erneut mitgeschickt.
  • Die Frage selbst: meist der kleinste Teil.
  • Die Antwort: Ausgabe-Tokens, die ein Mehrfaches kosten.
  • Bei Denkmodellen die internen Zwischenschritte: OpenAI rechnet diese Reasoning-Tokens als Ausgabe ab, obwohl sie über die API nicht sichtbar sind.

Schätzen Sie diese Werte nicht, messen Sie sie. Jede Antwort der gängigen APIs enthält die tatsächlich verbrauchten Tokens. Ein Prototyp mit 50 echten Fragen liefert bessere Eingangsgrößen als jede Annahme.

Was kosten Tokens bei den Anbietern?

Listenpreise in US-Dollar pro Million Tokens, Stand 18. November 2026:

Modell Anbieter Eingabe Eingabe aus dem Cache Ausgabe
Ministral 3 14B Mistral (Frankreich) 0,20 $ 0,02 $ 0,20 $
Mistral Small 4 Mistral (Frankreich) 0,15 $ 0,015 $ 0,60 $
Mistral Large 4 Mistral (Frankreich) 0,70 $ 0,07 $ 2,10 $
Gemma 4 31B u. a. STACKIT (Deutschland) 0,45 € keine Angabe 0,65 €
Claude Sonnet 5.5 Anthropic (USA), zum Vergleich 2,00 $ 0,10 $ 10,00 $
gpt-6.2-sol OpenAI (USA), zum Vergleich 2,00 $ 0,10 $ 10,00 $

Drei Dinge fallen auf. Die Ausgabe kostet bei Mistral Large 4 und Small 4 das Drei- bis Vierfache der Eingabe, bei den US-Modellen das Fünffache. Nur die kleinen Ministral-Modelle berechnen beides gleich. Zwischen dem kleinen europäischen Modell und den verbreiteten US-Modellen liegt bei der Eingabe gut der Faktor 13. Und der Eingabepreis aus dem Cache liegt bei einem Zehntel bis einem Zwanzigstel des normalen Preises.

Für die Umrechnung verwende ich den Referenzkurs der EZB vom 18. November 2026: 1 € = 1,0968 $.

Rechenbeispiel: Was kostet ein interner Wissensassistent?

Ein ausgedachtes, aber realistisch dimensioniertes Beispiel. Alle Annahmen sind Beispielwerte, keine Messung:

  • 200 Mitarbeiter, je 10 Anfragen pro Arbeitstag, 21 Arbeitstage: 42.000 Anfragen im Monat.
  • Pro Anfrage 7.000 Tokens Eingabe: 2.000 Systemanweisung, 4.000 abgerufene Dokumente (auf Deutsch rund 2.600 Wörter), 1.000 Verlauf und Frage.
  • Pro Anfrage 500 Tokens Antwort.

Das ergibt 294 Millionen Eingabe-Tokens und 21 Millionen Ausgabe-Tokens im Monat. Die 2.000 Tokens Systemanweisung sind bei jeder Anfrage gleich und können aus dem Cache kommen, das sind 84 Millionen.

Modell ohne Caching mit Caching mit Caching, in Euro
Mistral Small 4 56,70 $ 45,36 $ ca. 41 €
Ministral 3 14B 63,00 $ 47,88 $ ca. 44 €
Mistral Large 4 249,90 $ 196,98 $ ca. 180 €
Gemma 4 31B bei STACKIT 145,95 € keine Angabe ca. 146 €
Claude Sonnet 5.5 oder gpt-6.2-sol 798,00 $ 638,40 $ ca. 582 €

Über den EU-Endpunkt von Mistral kommen 10 % hinzu, für Mistral Large 4 also rund 198 € statt 180 €. Bei Anthropic kommen für das Schreiben in den Cache kleine Aufschläge hinzu, die ich hier vernachlässige.

Eine einzelne Anfrage kostet mit Mistral Large 4 damit rund 0,4 Cent. Das ist die Zahl, die man im Kopf behalten sollte, bevor jemand vorschlägt, Prompts zu kürzen.

Wie viel sparen Caching und Batch?

Caching wirkt nur auf den Anfang eines Prompts, der sich nicht ändert. Gemerkt wird ein Präfix, also alles bis zur ersten Abweichung. Deshalb gehört Festes nach vorn (Systemanweisung, Werkzeuge, Handbuch), Wechselndes nach hinten (Frage, Datum, Name). Ein Zeitstempel in der ersten Zeile verhindert jeden Treffer. Im Beispiel spart Caching rund 20 %. Bei Anwendungen mit langen festen Unterlagen, etwa einem Handbuch von 20.000 Tokens vor jeder Frage, ist es deutlich mehr.

Batch heißt: Sie schicken viele Anfragen auf einmal und bekommen die Ergebnisse später. Mistral, Anthropic und OpenAI geben dafür 50 % Rabatt, bei Anthropic auch zusätzlich zum Caching. Das passt für alles, worauf niemand wartet: nächtliche Auswertungen, das Verschlagworten eines Archivs, Testläufe. Für einen Chat passt es nicht. Ich trenne Aufgaben deshalb schon beim Bau in zwei Spuren: sofort und bis morgen.

Welche Rolle spielt die Modellwahl?

Die größte. Zwischen den Zeilen der Tabelle liegt mehr als jede Optimierung am Prompt bringen kann. Das heißt nicht, immer das billigste Modell zu nehmen. Es heißt, für jede Aufgabe das kleinste Modell zu nehmen, das sie zuverlässig löst.

In der Praxis bedeutet das oft zwei oder drei Modelle in einer Anwendung: ein kleines für Einordnung, Zusammenfassung und einfache Fragen, ein großes für die schwierigen Fälle. Ob das kleine reicht, entscheidet kein Bauchgefühl, sondern ein Testset mit echten Fragen und erwarteten Antworten.

Vergleichen Sie dabei Kosten pro gelöster Aufgabe, nicht pro Token. Ein Modell, das bei jeder fünften Frage nachgefragt werden muss, ist teurer, als sein Preis sagt. Und Token ist nicht gleich Token: Laut Notebookcheck erzeugen neuere Claude-Modelle für denselben Text rund 30 % mehr Tokens als ihre Vorgänger. Ein niedrigerer Preis pro Token kann so teilweise wieder verloren gehen.

Wann werden Tokens wirklich teuer?

Bei Agenten. Ein Agent arbeitet in Schritten: Er ruft ein Werkzeug auf, liest das Ergebnis, entscheidet über den nächsten Schritt. Bei jedem Schritt wird der gesamte bisherige Verlauf erneut als Eingabe geschickt.

Ein Beispiel mit runden Zahlen: Ein Agent braucht 15 Schritte, sein Kontext wächst dabei von 10.000 auf 40.000 Tokens. Zusammen sind das rund 375.000 Eingabe-Tokens für eine einzige Aufgabe. Mit einem verbreiteten US-Modell zu 2 $ pro Million kostet das 0,75 $ Eingabe pro Aufgabe, bei 1.000 Aufgaben am Tag rund 750 $ täglich, vor Ausgabe und Caching. Mit Mistral Small 4 wären es knapp 6 Cent pro Aufgabe.

Hier lohnt sich Kostenarbeit: Schritte begrenzen, Zwischenergebnisse zusammenfassen statt mitschleppen, Caching für den wachsenden Verlauf nutzen und ein Budget pro Aufgabe setzen, bei dem der Agent abbricht. Was eine Anwendung darüber hinaus braucht, um im Betrieb beherrschbar zu bleiben, steht in Vom KI-Prototyp in den Betrieb.

Rechnet sich ein eigener Server?

Gegen die API desselben Modells erst bei sehr großen Mengen. Ein gemieteter Server mit einer 96-GB-Grafikkarte kostet bei Hetzner ab 1.499 € netto im Monat. Für dasselbe Geld bekommen Sie bei Mistral Small 4 über den EU-Endpunkt rund 6,2 Milliarden Tokens, wenn auf vier Teile Eingabe ein Teil Ausgabe kommt. Das sind etwa 2.400 Tokens pro Sekunde, rund um die Uhr.

Das Beispiel oben verbraucht 315 Millionen Tokens im Monat, rund 5 % davon. Dazu kämen beim Selbstbetrieb ein zweiter Server für die Ausfallsicherheit und deutlich mehr Arbeitszeit. Selbstbetrieb ist deshalb fast immer eine Entscheidung über Datenhoheit und Kontrolle, selten über Kosten. Modelle, Lizenzen und Hardware dafür behandle ich in Souveräne KI selbst betreiben.

Welche Kosten stehen auf keiner Preisliste?

Diese Posten fehlen in fast jeder ersten Kalkulation:

  • Entwicklung und Pflege: Dokumente aufbereiten, Suche einstellen, Anweisungen anpassen. Eine KI-Anwendung ist nie fertig, weil sich Daten, Fragen und Modelle ändern.
  • Tests: Jede Änderung an Anweisung, Modell oder Suche muss gegen das Testset laufen. Die Tokens dafür sind billig, die Zeit für das Auswerten der Ergebnisse nicht.
  • Überwachung: Kosten pro Anfrage, Antwortzeiten, Fehler, Rückmeldungen der Nutzer. Ohne diese Zahlen merken Sie Ausreißer erst auf der Rechnung.
  • Modellwechsel: Anbieter stellen ältere Modelle ein. Jeder Wechsel heißt erneut testen. Wie man das klein hält, steht in Modellwechsel ohne Neuanfang.
  • Preisänderungen: Preise ändern sich in beide Richtungen. Mistral hat Large 4 etwa zum Start zwei Wochen lang zum halben Preis angeboten.
  • Aufschläge für Datenresidenz: 10 % bei Mistral für den EU-Endpunkt, ebenso 10 % bei OpenAI für regionale Endpunkte und bei Anthropic für reine US-Verarbeitung.

Der größte Posten ist die Arbeitszeit. Eine Arbeitsstunde kostete in Deutschland 2025 im Schnitt 45 € (Statistisches Bundesamt), über alle Branchen. Fachleute für KI und Softwarebetrieb liegen darüber. Schon zwei Personentage im Monat für Pflege, Tests und Überwachung kosten damit mindestens 720 €. Das ist mehr als jede Modellrechnung im Beispiel, auch die mit einem US-Modell. Diese Arbeitszeit gilt für die Pflege der Anwendung selbst, also Dokumente, Tests und Überwachung, egal wo das Modell läuft.

Was ist die Anwendung wert?

Die Kostenrechnung ist nur die halbe Rechnung. Bleiben wir beim Beispiel: Spart jede der 42.000 Anfragen nur eine Minute Suche, sind das 700 Stunden im Monat. Zum Durchschnittssatz von 45 € sind das 31.500 €. Dem stehen Modellkosten von 41 bis 582 € gegenüber.

Deshalb halte ich die Debatte über Tokenpreise bei normaler Wissensarbeit für die falsche. Wer an Prompts spart, während Fachkräfte auf brauchbare Antworten warten, optimiert die falsche Kennzahl. Die richtigen Fragen lauten: Wird die Antwort genutzt? Stimmt sie? Und wer merkt es, wenn sie nicht mehr stimmt?

Der Rechenweg zum Mitnehmen

1. Anfragen im Monat schätzen: Nutzer × Anfragen pro Tag × Arbeitstage. 2. Tokens pro Anfrage messen, getrennt nach Systemanweisung, Dokumenten, Verlauf, Frage und Antwort. 3. Mit dem Preis des Modells multiplizieren, getrennt nach Eingabe und Ausgabe. 4. Den festen Anfang als Cache-Anteil abziehen und alles, was warten kann, mit dem Batch-Preis rechnen. 5. Aufschläge für Datenresidenz und Wechselkurs berücksichtigen. 6. Für Agenten die Schritte pro Aufgabe und den wachsenden Verlauf einrechnen. 7. Arbeitszeit für Pflege, Tests, Überwachung und Bereitschaft dazurechnen. 8. Das Ergebnis gegen den Nutzen stellen: eingesparte Zeit, vermiedene Fehler, schnellere Antworten für Kunden.

Wenn Sie diese Rechnung für ein konkretes Vorhaben aufstellen wollen: Darum geht es auf meiner Seite KI im Unternehmen.

Geschrieben für

IT-Leitung, Entwickler und Geschäftsführung, die eine KI-Anwendung planen oder schon betreiben und die laufenden Kosten belastbar schätzen wollen.

In diesem Beitrag
Beitrag teilen

Häufige Fragen

Das hängt von Modell und Länge ab. Eine Anfrage mit 7.000 Tokens Eingabe und 500 Tokens Antwort kostet mit Mistral Large 4 rund 0,4 Cent, mit einem kleinen Modell wie Mistral Small 4 unter 0,1 Cent und mit einem verbreiteten US-Modell rund 1,4 Cent (Listenpreise November 2026, mit Caching).

Das Modell liest die Eingabe in einem Durchgang, die Antwort erzeugt es Token für Token. Die Anbieter berechnen die Ausgabe deshalb meist mit dem Drei- bis Fünffachen des Eingabepreises.

Als Faustregel etwa 1,5 Tokens pro Wort. Deutsche Texte brauchen wegen langer zusammengesetzter Wörter mehr Tokens als englische mit gleichem Inhalt. Die genaue Zahl hängt vom Tokenizer des Modells ab.

Gegen die API desselben Modells erst bei Milliarden Tokens im Monat. Ein gemieteter Server mit einer 96-GB-Karte kostet ab 1.499 € im Monat, dafür bekommen Sie bei Mistral Small 4 per API rund 6 Milliarden Tokens. Ein eigener Server lohnt sich daher meist wegen Datenhoheit und Kontrolle, nicht wegen der Kosten.

In dieser Reihenfolge: das kleinste Modell wählen, das die Aufgabe zuverlässig löst; Festes an den Anfang des Prompts stellen, damit Caching greift; alles, was warten kann, per Batch verarbeiten; bei Agenten Schritte und Budget begrenzen.

Quellen

Stand: 18. November 2026. Preise sind Listenpreise der Anbieter zu diesem Datum, ohne Gewähr; sie ändern sich häufig. Das Rechenbeispiel beruht auf ausgedachten Annahmen.

Über den Autor

Ich bin Florian Rocktäschel, Ingenieur (RWTH Aachen). Ich arbeite seit 2013 mit lernenden Verfahren und seit 2018 als Fractional CTO für mittelständische Unternehmen. Hier schreibe ich auf, was ich in dieser Arbeit immer wieder gefragt werde.

Mehr über mich

Wo steht Ihre Technik?

Die Technik-Ampel fragt in 15 Fragen nach KI, Strategie, Sicherheit, Daten, Kosten und Team. Zehn Minuten, Ergebnis sofort, kostenlos.

Technik-Ampel starten
Beispiel eines Ergebnisberichts der Technik-Ampel (Musterfirma)

Kontakt

open@bitflinx.de
+49 (241) 89 43 89 17

Standorte

Aachen (Deutschland)
Bukarest (Rumänien)


© 2026 BITFLINX. Alle Rechte vorbehalten.