Ein offenes Denkmodell zum Selberbetreiben. Der November endet mit einer Option
Alibaba veröffentlichte Ende November 2024 QwQ-32B-Preview unter einer freizügigen Lizenz. Vor drei Monaten gab es diese Modellklasse nur hinter einer Schnittstelle.
Ende November 2024 veröffentlichte Alibabas Qwen-Team QwQ-32B-Preview, ein Denkmodell mit 32 Milliarden Parametern unter der freizügigen Apache-2.0-Lizenz. Es zielt auf Mathematik, Logik und Programmierung, und seine Gewichte sind herunterladbar.
Vor drei Monaten existierte ein Modell, das vor der Antwort nachdenkt, nur als kostenpflichtiger Dienst hinter fremder Schnittstelle. Jetzt ist es eine Datei, die Sie betreiben können.
Was sich tatsächlich geändert hat
Nicht die Bestenliste. Die Form der Möglichkeit.
Für die meisten KMU lautet die ehrliche Antwort weiterhin: einen gehosteten Dienst nutzen. Ein Modell mit 32 Milliarden Parametern zu betreiben braucht echte Hardware, jemanden für den Unterhalt und einen Grund. « Weil wir es können » ist kein Grund, und Eigenbetrieb hat die Angewohnheit, der teuerste Weg zum Sparen zu werden.
Doch die Möglichkeit besteht nun, wo sie nicht bestand, und das zählt in zwei Fällen.
Echte Vertraulichkeitsbindungen. Eine Anwaltskanzlei, eine Arztpraxis, ein Ingenieurbüro unter einer Kundenvereinbarung, die Bearbeitung durch Dritte untersagt. Bisher lautete die Antwort: « Dann können Sie das nicht nutzen. » Nun gibt es eine Antwort, in der ein Server vorkommt.
Verhandlung. Auch wer nie selbst betreibt, führt ein anderes Verlängerungsgespräch, wenn es eine glaubwürdige Alternative gibt.
Was gleich geblieben ist
Offene Gewichte heissen nicht gratis. Hardware, Strom, Aktualisierungen und die Person, die es um sieben Uhr früh repariert, sind echte Kosten — und übersteigen bei einem 40-Personen-Betrieb eine Schnittstellenrechnung meist deutlich.
Offene Gewichte sagen auch nichts über die Güte bei Ihrer Arbeit. Ein auf Wettbewerbsmathematik abgestimmtes Modell kann beim Lesen eines Schweizer Lieferscheins unauffällig sein.
November-Abschluss
Dieser Monat brachte ein berichtetes Plateau beim Skalieren, einen prüfenswerten europäischen Anbieter, einen Verbindungsstandard, Agenten in Microsoft 365 und zwei leistungsfähige Denkmodelle ausserhalb der üblichen Labore.
Das Muster ist überall dasselbe: Fähigkeit breitet sich nach aussen und unten aus, und das Knappe ist nicht mehr der Zugang zu einem guten Modell. Knapp ist das Wissen, auf welchen eigenen Prozess man es richten soll.