KI-Kosten sinken dramatisch durch Software-Optimierung
Auf einen Blick
- Vipul Ved Prakash von Together AI demonstriert auf dem Raise Summit in Paris, wie Software-Optimierungen die Kosten für die Nutzung von KI-Sprachmodellen wie Deepseek drastisch senken.
- Ursprünglich 8 Dollar für eine Million Token, sanken die Kosten durch sein Team auf 55 Cent, mit weiteren Kostensenkungen durch neue Chipgenerationen erwartet.
KI-generierte Zusammenfassung
Warum es wichtig ist
Auf dem Raise Summit in Paris präsentierte Vipul Ved Prakash, Gründer von Together AI, die signifikante Reduzierung der Kosten für die Nutzung von KI-Sprachmodellen durch Software-Optimierung.
Paris, Anfang Juli 2025. Auf dem Branchentreffen Raise Summit rechnet Vipul Ved Prakash, Gründer und Chef des KI-Anbieters Together AI, dem Saal vor, was seine Ingenieure mit dem chinesischen Sprachmodell Deepseek angestellt haben. Acht Dollar kostet es anfangs, eine Million Token durch das Modell zu schleusen. Dann dreht sein Team an der Software, Rechenkern für Rechenkern, bis 55 Cent auf dem Zähler stehen. Die nächste Chipgeneration, sagt Prakash, werde die Kosten noch einmal um den Faktor drei bis vier senken.
Worauf zu achten ist
KI-Ausblick — Möglichkeiten, keine Fakten
Kosten für KI-Token werden weiter um Faktor 3-4 sinken.
Wahrscheinlich · Innerhalb von Monaten
Offene Fragen
- Wie schnell werden diese Optimierungen breiter verfügbar?
- Welche spezifischen Software-Techniken wurden angewendet?
