Denken auf einer Grafikkarte: QwQ-32B und was damit möglich wird
Alibaba stellte diese Woche ein Denkmodell mit 32 Milliarden Parametern quelloffen bereit, das weit grösseren ebenbürtig sein soll. Die Grösse ist die Nachricht.
Am 5. März 2025 veröffentlichte Alibabas Qwen-Team QwQ-32B unter offener Lizenz: ein Denkmodell mit 32 Milliarden Parametern, das laut Berichten die Leistung um ein Vielfaches grösserer Modelle erreicht, auch bei Mathematik- und Programmiertests.
Gleichstandsbehauptungen sind stets abzuschlagen. Die Parameterzahl nicht — denn sie entscheidet, wo das Modell körperlich laufen kann.
Warum 32 Milliarden die interessante Zahl ist
Ein Modell dieser Grösse passt mit der üblichen Komprimierung auf eine einzelne hochwertige Grafikkarte. Das ist ein Gerät unter dem Pult, kein Gestell im Rechenzentrum und kein gemieteter Verbund.
Vor drei Monaten hiess ein Modell zu betreiben, das vor der Antwort nachdenkt, je Anfrage einen Anbieter zu bezahlen. Es gibt nun eine Hardware-Antwort, und die kostet etwa so viel wie eine gute Arbeitsstation.
Für wen das in der Schweiz wirklich zählt
Nicht für die meisten KMU. Ein gehosteter Dienst mit ordentlichem Vertrag bleibt einfacher, insgesamt günstiger und um drei Uhr morgens das Problem anderer.
Es zählt dort, wo die Bindung absolut ist statt eine Vorliebe. Eine Anwaltskanzlei unter Berufsgeheimnis. Eine Arztpraxis. Ein Ingenieurbüro, dessen Kundenvertrag Drittbearbeitung rundweg untersagt. Eine Treuhandfirma mit mehreren Mandaten, die nicht jedem einzeln eine Übermittlungsgrundlage erklären will.
Für die wechselte die Antwort auf « Dürfen wir auf dieses Material überhaupt KI anwenden? » in den letzten sechs Monaten von Nein zu Ja-mit-einem-Server, und diese Veröffentlichung schiebt sie weiter.
Die Kosten, die in der Ankündigung fehlen
Die Hardware ist der günstige Teil. Jemand muss sie aktualisieren, überwachen, absichern und erreichbar sein, wenn sie steht. Ein Modell auf einem Gerät im Büro ist ein Server, den Sie nun betreiben — mit allem, was dazugehört.
Und ein offenes Modell ist nicht automatisch gut in Ihrer Arbeit. Testen Sie es an Ihren eigenen Dokumenten, in Ihrem eigenen Deutsch, bevor jemand eine Karte kauft.
Die vernünftige Haltung im März 2025
Ohne harte Geheimhaltungsbindung: gehosteten Dienst nutzen und in einem Jahr neu ansehen. Mit einer solchen Bindung: zwei Tage Prüfung wert statt einer Absage — und das war letzten Herbst noch nicht zu sagen.