Ein 70-Milliarden-Modell auf Augenhöhe mit einem 405-Milliarden-Modell. Effizienz ist der stille Trend 2024
Meta veröffentlichte Llama 3.3 70B am 6. Dezember 2024 und beansprucht die Leistung des weit grösseren Vorgängers zu einem Bruchteil der Betriebskosten.
Am 6. Dezember 2024 veröffentlichte Meta Llama 3.3 70B mit der Aussage, es liefere eine ähnliche Leistung wie das 405-Milliarden-Modell Llama 3.1 zu einem Bruchteil der Betriebskosten. Die Verbesserungen betreffen vor allem das Befolgen von Anweisungen und die Mehrsprachigkeit.
Ob die Aussage in jedem Fall trägt, sei dahingestellt. Die Richtung war das ganze Jahr konstant, und sie ist der Trend mit den praktischsten Folgen fürs KMU.
Warum kleiner-aber-gleich mehr zählt als grösser
Es steht auf Ihrer Rechnung. Ein Modell, das sechsmal kleiner zu betreiben ist, kostet je Antwort weniger. Durch 2024 fiel der Preis für ein gegebenes Leistungsniveau wiederholt — das ist einer der Mechanismen.
Es verändert, wo ein Modell wohnen kann. Ein Modell mit 70 Milliarden Parametern ist anspruchsvoll, aber auf echter Hardware machbar. Eines mit 405 Milliarden ist eine Rechenzentrumsfrage. Dieser Unterschied entscheidet, ob Eigenbetrieb überhaupt ein Gespräch ist.
Es macht Tempo möglich. Kleinere Modelle antworten schneller, und überall, wo ein Mensch wartet — eine Auskunft im Kundengespräch, eine Prüfung beim Offertschreiben — zählt die Antwortzeit mehr als die letzten Prozentpunkte Genauigkeit.
Die Lehre für die Werkzeugwahl
Parameterzahlen sind Marketing. 2023 waren sie ein grober Näherungswert für Leistungsfähigkeit, heute sind sie keiner mehr. Wer mit der Grösse des darunterliegenden Modells wirbt, erzählt Ihnen von seinem Lieferanten, nicht von Ihrem Ergebnis.
Der nützliche Test ist derselbe geblieben: Geben Sie dem Werkzeug zehn echte Beispiele Ihrer eigenen Arbeit — Ihre Offerten, Ihre Kundenmails, Ihr Deutsch, Ihre Abkürzungen — und schauen Sie, was zurückkommt. Das dauert einen Nachmittag und sagt mehr als jede Tabelle.
Was von hier an zu erwarten ist
Gehen Sie davon aus, dass die Fähigkeit, für die Sie heute Premiumpreise zahlen, binnen eines Jahres von einem kleineren, günstigeren Modell geliefert wird. Das ist kein Grund zu warten, denn die Arbeit, die passende Aufgabe zu finden, dauert länger als das Warten spart.
Es ist ein Grund, Verträge kurz zu halten und nichts zu bauen, das nur mit einem bestimmten Modell funktioniert.