KI-Kosten sinken dramatisch durch Software-Optimierung
نظرة سريعة
- Vipul Ved Prakash von Together AI demonstriert auf dem Raise Summit in Paris, wie Software-Optimierungen die Kosten für die Nutzung von KI-Sprachmodellen wie Deepseek drastisch senken.
- Ursprünglich 8 Dollar für eine Million Token, sanken die Kosten durch sein Team auf 55 Cent, mit weiteren Kostensenkungen durch neue Chipgenerationen erwartet.
ملخص مُنشأ بالذكاء الاصطناعي
لماذا يهم
Auf dem Raise Summit in Paris präsentierte Vipul Ved Prakash, Gründer von Together AI, die signifikante Reduzierung der Kosten für die Nutzung von KI-Sprachmodellen durch Software-Optimierung.
Paris, Anfang Juli 2025. Auf dem Branchentreffen Raise Summit rechnet Vipul Ved Prakash, Gründer und Chef des KI-Anbieters Together AI, dem Saal vor, was seine Ingenieure mit dem chinesischen Sprachmodell Deepseek angestellt haben. Acht Dollar kostet es anfangs, eine Million Token durch das Modell zu schleusen. Dann dreht sein Team an der Software, Rechenkern für Rechenkern, bis 55 Cent auf dem Zähler stehen. Die nächste Chipgeneration, sagt Prakash, werde die Kosten noch einmal um den Faktor drei bis vier senken.
ما الذي يجب مراقبته
توقعات الذكاء الاصطناعي — احتمالات وليست حقائق
Kosten für KI-Token werden weiter um Faktor 3-4 sinken.
مرجح · خلال أشهر
أسئلة مفتوحة
- Wie schnell werden diese Optimierungen breiter verfügbar?
- Welche spezifischen Software-Techniken wurden angewendet?
