Warum Tokenpreis allein kein Kostenmodell ist
Ein realistisches Kostenmodell für KMU vergleicht OpenAI (oder andere APIs) mit Open Source (self-hosted oder managed) über Total Cost of Ownership (TCO): Token/API-Gebühren, Infrastruktur, Engineering-Zeit, Monitoring, Security, Rework durch schlechte Outputs und Ausfallkosten. Nur Token zu vergleichen, ist wie Hosting nur über CPU-Preis zu bewerten.
Laut McKinsey State of AI (2025) (öffnet in neuem Tab) steigt Nutzung schneller als reife Skalierung — Kostenexplosion passiert oft durch fehlendes Routing und fehlende Qualitätsmetriken, nicht durch „zu teures Modell“.
Steve Baka empfiehlt: TCO pro abgeschlossenem Geschäftsvorgang (z. B. qualifizierte Anfrage, fertiges Angebotsbriefing), nicht pro 1.000 Tokens.
OpenAI/API: wann die Rechnung für KMU aufgeht
API-first lohnt bei: geringem bis mittlerem Volumen, hoher Time-to-Value, kleinem Ops-Team, wechselnden Use Cases. Vorteile: kein GPU-Betrieb, schnelle Modellwechsel, Enterprise-Datenkontrollen (Your Data (öffnet in neuem Tab)).
Kostenfallen: ungebremste Chains, große Kontexte, fehlendes Caching, keine Eval-Schwellen → Rework frisst Ersparnis. Gegenmaßnahme: Hybrid-Routing.
Verknüpfe mit OpenAI vs. Open Source: Wann was für die strategische Einordnung.
Open Source: wann TCO sinkt — und wann nicht
Open Source (z. B. Llama-Familie, Mistral, mit vLLM (öffnet in neuem Tab) betrieben) wird interessant bei: planbar hoher Last, Datenhoheit, langfristig stabilen Workloads. Zusatzkosten: GPU, SRE-Zeit, Regressionstests bei Modell-Updates.
Ohne Ops-Kompetenz ist „wir hosten selbst“ oft teurer als API — durch Incidents und Personalkosten.
EU-Hosting und Compliance: KI-Stack EU und AVV/TIA.
Rework, Qualität und versteckte Kosten
Modell A mit 2× Tokenpreis von Modell B kann günstiger sein, wenn B 30 % Nacharbeit erzeugt. Miss: Anteil akzeptierter Erstvorschläge, Minuten Nachbearbeitung, Eskalationen.
Qualitätsrouting nach Risiko (HITL) ist Teil des Kostenmodells — nicht Stelle X.
Limit: Benchmarks ohne eure echten Prompts und Daten sind Marketing, keine Planungsgrundlage.
Entscheidungsmatrix für KMU (Kurz)
Niedriges Volumen und schneller Start → Tendenz API. Hohe, planbare Last mit Ops-Kompetenz → Tendenz Open Source oder managed GPU. Gemischte Landschaft → Hybrid mit Eval und klaren Routen.
Nächster Schritt: Pilot mit KPI aus Use-Case-Priorisierung und Kosten-Log pro Vorgang für 4 Wochen.
So wird Kostenmodell Entscheidungswerkzeug — nicht Tabellenkalkulation ohne Betrieb.
