KI-Kosten senken, Qualität halten
Wir prüfen, wofür Ihre KI-Systeme im Betrieb Geld ausgeben, und senken die Kosten dort, wo die Qualität messbar gleich bleibt: mit dem passenden Modell je Aufgabe, Caching, weniger Tokens und Monitoring.
- Einstieg
- kostenloses Erstgespräch
- Hebel
- Modellwahl, Routing, Prompt Caching, Token-Reduktion, Monitoring
- Für
- KI-Systeme im Betrieb, intern oder in Ihrem Produkt
- Vorgehen
- erst messen, dann umbauen
Stand: September 2026
Warum wird KI im Betrieb teuer?
Ein Prototyp kostet wenig. Im Betrieb kommen viele Nutzer, viele Anfragen und längere Kontexte dazu, und abgerechnet wird jedes Token. Inferenzkosten, also die laufenden Kosten, wenn ein Modell Anfragen beantwortet, hängen vor allem von Modellwahl, Textlänge und Anfragevolumen ab.
Ein Modell für alles
Das stärkste Modell beantwortet jede Anfrage, auch dort, wo ein günstigeres dieselbe Qualität liefert.
Mehr Tokens als nötig
Agenten und lange Kontexte schicken bei jedem Schritt Anweisungen, Verlauf und Dokumente mit. Bezahlt wird auch der Teil, den die Antwort nicht braucht.
Kein Caching
Gleiche Systemanweisungen und Kontexte werden bei jeder Anfrage neu verarbeitet und neu bezahlt.
Keine Zuordnung
Niemand sieht, welche Funktion, welches Team oder welche Anfrage die Kosten verursacht.
Die Rechnung für die Modelle ist dabei oft nicht der größte Posten. In einer Bitkom-Umfrage unter 603 Unternehmen ab 20 Beschäftigten, veröffentlicht am 14.09.2026, nannten 51 % Infrastruktur und Cloud als einen der größten KI-Kostenblöcke, 50 % die Datenaufbereitung, 41 % die Systemintegration und 8 % den Token-Verbrauch. Deshalb sehen wir uns das ganze System an, nicht nur den Preis je Token.
Wo lassen sich die Kosten senken?
Welche Hebel bei Ihnen greifen, zeigt die Messung. Diese fünf sehen wir uns an:
Modellwahl
Für jede Aufgabe das günstigste Modell, das Ihre Qualitätsgrenze erreicht. Zusammenfassen und Auslesen braucht oft kein Spitzenmodell, eine schwierige Abwägung schon.
Routing
Model Routing, also die automatische Verteilung jeder Anfrage auf das passende Modell: zuerst das günstige, das stärkere nur, wenn die Aufgabe es verlangt.
Prompt Caching
Gleichbleibende Teile eines Prompts, etwa Systemanweisungen oder ein Handbuch, hält der Anbieter zwischengespeichert. Mehrere Anbieter berechnen solche Eingabe-Tokens günstiger als neu verarbeitete (Stand: September 2026).
Token-Reduktion
Kürzere Anweisungen, nur die Dokumentstellen, die eine Frage braucht, begrenzte Antwortlängen. Ausgabe-Tokens sind bei vielen Modellen teurer als Eingabe-Tokens.
Monitoring
LLM-Observability, also das Mitschreiben von Kosten, Tokens und Qualität je Anfrage, Funktion und Team. Dazu Budgets, die erst warnen, dann eine Freigabe verlangen oder auf ein günstigeres Modell wechseln, statt hart zu sperren.
Routing, Protokoll und Budgets lassen sich an einer Stelle bündeln, in einem AI Gateway zwischen Ihren Anwendungen und den Modellen.
Modell- und Anbieternamen nennen wir hier bewusst nicht, weil sich Preise und Modelle mit jeder Generation ändern. Abgerechnet wird je Million Tokens, getrennt nach Eingabe und Ausgabe. Die aktuellen Listenpreise stehen auf den Preisseiten der Anbieter, im Audit rechnen wir mit dem Stand des Tages.
Wie läuft ein Kosten-Audit ab?
Erstgespräch
Sie erzählen, welche KI-Systeme bei Ihnen laufen und was sie kosten. Wir sagen Ihnen, ob sich ein Audit lohnt. Kostenlos, 30 Minuten per Video.
Messen
Wir sehen uns Abrechnungen, Protokolle und Anfragen an: welche Modelle wo laufen, wie viele Tokens wofür fließen. Gemeinsam legen wir Evals fest, also feste Testfälle aus Ihrem Alltag, an denen wir die Qualität messen.
Hebel beziffern
Wir rechnen jeden Hebel für Ihr Volumen durch und prüfen an den Testfällen, ob die Qualität hält.
Ihre Entscheidung
Sie entscheiden, welche Hebel umgesetzt werden: von uns, von Ihrer IT oder vorerst gar nicht.
Setzen wir die Hebel um, richten wir das Monitoring gleich mit ein. So sehen Sie auch nach dem Umbau, was jede Anfrage kostet.
Was haben Sie nach dem Audit in der Hand?
Kostenbild
Welche Modelle, Funktionen und Anfragen wie viel kosten.
Hebel mit Zahlen
Jede Maßnahme mit geschätzter Ersparnis für Ihr Volumen und dem Aufwand für den Umbau.
Testfälle
Die Evals, an denen Sie auch künftige Modellwechsel messen.
Empfehlung
Was wir zuerst umsetzen würden und was sich bei Ihnen nicht lohnt.
Lohnt sich ein eigenes Modell auf eigener Hardware?
Bei hohem, gleichmäßigem Volumen kann ein offenes Modell auf eigener Hardware oder gemieteten GPUs günstiger sein als eine API. Dann bestimmen Auslastung, Batching und Quantisierung die Inferenzkosten. Quantisierung heißt, die Gewichte des Modells mit weniger Bits zu speichern, damit es auf kleinerer Hardware läuft.
Wir rechnen beide Wege für Ihr Volumen durch, mit Hardware, Betrieb und Personal, nicht nur mit dem Preis je Token. Bei schwankendem oder kleinem Volumen bleibt die API oft die günstigere Wahl. Dann sagen wir Ihnen das.
Warum sollten wir das Audit machen und nicht jemand, der nur berät?
Wir bauen und betreiben KI-Systeme
Wir bauen KI-Agenten, Plattformen und Automatisierungen und betreiben sie auf Wunsch weiter. Kosten und Qualität messen wir dort ohnehin.
Qualität zuerst festgelegt
Wir senken keine Kosten, bevor feststeht, woran Qualität gemessen wird. Hält ein günstigerer Weg die Testfälle nicht, bleibt es beim alten.
Audit und Umbau zusammen
Wer die Hebel beziffert, baut sie auch ein oder übergibt sie mit Dokumentation an Ihre IT.
Wie sieht das in einem Projekt aus?
Kein Kosten-Audit im engeren Sinn, aber dieselbe Frage: Wie bekommt ein Unternehmen KI in den Alltag, ohne dass die Kosten davonlaufen?
Pharma, 2024Kunde vertraulich
Interner KI-Client für einen Pharmahersteller
Ein Pharmahersteller wollte KI im Arbeitsalltag nutzen, mit kontrollierten Kosten. Statt einzelner ChatGPT-Lizenzen für jede Person haben wir einen internen KI-Client gebaut, der zentral bereitsteht. Für die Bildgenerierung gilt ein Kontingent von fünf Bildern pro Person und Tag. Über 900 Mitarbeitende nutzen den Client, nach Einschätzung des Kunden deutlich günstiger als Lizenzen pro Person.
Wie fangen wir an?
Mit einem kostenlosen Erstgespräch. Sie erzählen uns, welche KI-Systeme bei Ihnen laufen und was sie im Monat kosten. Danach wissen Sie, ob sich ein Kosten-Audit für Sie lohnt, was es umfasst und was es kostet.
Häufige Fragen
Was kostet ein KI-Kosten-Audit?
Das hängt davon ab, wie viele KI-Systeme und Modelle wir uns ansehen. Umfang und Preis nennen wir Ihnen nach dem kostenlosen Erstgespräch, bevor Sie etwas beauftragen.
Wie lassen sich LLM-Kosten senken?
Mit fünf Hebeln: dem günstigsten Modell, das Ihre Qualitätsgrenze erreicht, Routing zwischen günstigen und starken Modellen, Prompt Caching für wiederkehrende Kontexte, weniger Tokens pro Anfrage und Monitoring mit Budgets. Welcher Hebel wie viel bringt, hängt von Ihrem Volumen ab. Das messen wir, bevor wir etwas umbauen.
Sinkt mit den Kosten die Qualität?
Nicht, wenn man sie vorher festlegt. Wir bestimmen gemeinsam Testfälle aus Ihrem Alltag und prüfen jeden Hebel daran. Ein günstigerer Weg, der die Testfälle nicht besteht, wird nicht umgesetzt.
Was sind Inferenzkosten?
Die laufenden Kosten, die entstehen, wenn ein KI-Modell Anfragen beantwortet, meist abgerechnet je Million Tokens für Eingabe und Ausgabe oder als Kosten für eigene Hardware. Sie hängen vor allem von Modellwahl, Textlänge und Anfragevolumen ab und lassen sich über Caching und Modellwahl senken.
Setzen Sie die Maßnahmen auch um?
Ja, wenn Sie das möchten. Wir bauen Routing, Caching, Token-Reduktion und Monitoring ein oder übergeben die Maßnahmen mit Dokumentation an Ihre IT. Sie können auch nur einzelne Hebel beauftragen.
Worin unterscheidet sich das von einer KI-Plattform?
Beim Aufbau einer KI-Plattform geht es um Auswahl, Anbindung und Betrieb der Modelle. Die Kostenoptimierung setzt bei Systemen an, die schon laufen, und macht sie günstiger und durchschaubarer.
Wo lassen sich Ihre KI-Kosten senken?
30 Minuten mit Daniel Neumann, kostenlos, per Video. Wir sprechen über Ihr Vorhaben und geben Ihnen Feedback, wie wir es lösen würden.
Nächste freie Termine mit Daniel