KI-Kosten sinken dramatisch durch Software-Optimierung
Quick Look
- Vipul Ved Prakash von Together AI demonstriert auf dem Raise Summit in Paris, wie Software-Optimierungen die Kosten für die Nutzung von KI-Sprachmodellen wie Deepseek drastisch senken.
- Ursprünglich 8 Dollar für eine Million Token, sanken die Kosten durch sein Team auf 55 Cent, mit weiteren Kostensenkungen durch neue Chipgenerationen erwartet.
AI-generated summary
Why It Matters
Auf dem Raise Summit in Paris präsentierte Vipul Ved Prakash, Gründer von Together AI, die signifikante Reduzierung der Kosten für die Nutzung von KI-Sprachmodellen durch Software-Optimierung.
Paris, Anfang Juli 2025. Auf dem Branchentreffen Raise Summit rechnet Vipul Ved Prakash, Gründer und Chef des KI-Anbieters Together AI, dem Saal vor, was seine Ingenieure mit dem chinesischen Sprachmodell Deepseek angestellt haben. Acht Dollar kostet es anfangs, eine Million Token durch das Modell zu schleusen. Dann dreht sein Team an der Software, Rechenkern für Rechenkern, bis 55 Cent auf dem Zähler stehen. Die nächste Chipgeneration, sagt Prakash, werde die Kosten noch einmal um den Faktor drei bis vier senken.
What to Watch
AI outlook — possibilities, not facts
Kosten für KI-Token werden weiter um Faktor 3-4 sinken.
Likely · Within months
Open Questions
- Wie schnell werden diese Optimierungen breiter verfügbar?
- Welche spezifischen Software-Techniken wurden angewendet?
