KI-Kosten sinken dramatisch durch Software-Optimierung
L'essentiel
- Vipul Ved Prakash von Together AI demonstriert auf dem Raise Summit in Paris, wie Software-Optimierungen die Kosten für die Nutzung von KI-Sprachmodellen wie Deepseek drastisch senken.
- Ursprünglich 8 Dollar für eine Million Token, sanken die Kosten durch sein Team auf 55 Cent, mit weiteren Kostensenkungen durch neue Chipgenerationen erwartet.
Résumé généré par IA
Pourquoi c'est important
Auf dem Raise Summit in Paris präsentierte Vipul Ved Prakash, Gründer von Together AI, die signifikante Reduzierung der Kosten für die Nutzung von KI-Sprachmodellen durch Software-Optimierung.
Paris, Anfang Juli 2025. Auf dem Branchentreffen Raise Summit rechnet Vipul Ved Prakash, Gründer und Chef des KI-Anbieters Together AI, dem Saal vor, was seine Ingenieure mit dem chinesischen Sprachmodell Deepseek angestellt haben. Acht Dollar kostet es anfangs, eine Million Token durch das Modell zu schleusen. Dann dreht sein Team an der Software, Rechenkern für Rechenkern, bis 55 Cent auf dem Zähler stehen. Die nächste Chipgeneration, sagt Prakash, werde die Kosten noch einmal um den Faktor drei bis vier senken.
À surveiller
Perspective IA — des possibilités, pas des certitudes
Kosten für KI-Token werden weiter um Faktor 3-4 sinken.
Probable · En quelques mois
Questions ouvertes
- Wie schnell werden diese Optimierungen breiter verfügbar?
- Welche spezifischen Software-Techniken wurden angewendet?
