Du raisonnement sur une carte graphique : QwQ-32B et ce qu’il permet
Alibaba a publié cette semaine en source ouverte un modèle de raisonnement de 32 milliards de paramètres, réputé égaler de bien plus grands. C’est la taille qui fait l’information.
Le 5 mars 2025, l’équipe Qwen d’Alibaba a publié QwQ-32B sous licence ouverte : un modèle de raisonnement de 32 milliards de paramètres qui égalerait la performance de modèles bien plus grands, y compris sur les tests de mathématiques et de programmation.
Les revendications de parité méritent toujours d’être escomptées. Le nombre de paramètres, non — car il décide où le modèle peut physiquement tourner.
Pourquoi 32 milliards est le chiffre intéressant
Un modèle de cette taille tient, avec la compression habituelle, sur une seule carte graphique haut de gamme. C’est une machine sous un bureau, pas une baie dans un centre de calcul ni une grappe louée.
Il y a trois mois, faire tourner un modèle qui réfléchit avant de répondre signifiait payer un fournisseur à la requête. Il existe désormais une réponse matérielle, et elle coûte à peu près le prix d’une bonne station de travail.
À qui cela importe réellement en Suisse
Pas à la plupart des PME. Un service hébergé sous contrat correct reste plus simple, moins cher au total, et le problème de quelqu’un d’autre à trois heures du matin.
Cela importe là où la contrainte est absolue plutôt qu’une préférence. Une étude d’avocats soumise au secret professionnel. Un cabinet médical. Un bureau d’ingénieurs dont le contrat client interdit purement tout traitement par un tiers. Une fiduciaire tenant plusieurs comptabilités qui ne veut pas expliquer une base de transfert à chaque mandant.
Pour ceux-là, la réponse à « pouvons-nous seulement utiliser l’IA sur ce matériel ? » est passée de non à oui-avec-un-serveur ces six derniers mois, et cette publication la pousse plus loin.
Les coûts absents de l’annonce
Le matériel est la partie bon marché. Quelqu’un doit le mettre à jour, le surveiller, le sécuriser et être joignable quand il s’arrête. Un modèle sur une machine au bureau est un serveur que vous exploitez désormais, avec tout ce que cela implique.
Et un modèle ouvert n’est pas automatiquement bon dans votre travail. Testez-le sur vos propres documents, dans votre propre français, avant que quiconque achète une carte.
La position raisonnable en mars 2025
Sans contrainte de confidentialité ferme : service hébergé, et réexamen dans un an. Avec une telle contrainte : deux jours de tests plutôt qu’un refus — ce qu’on ne pouvait pas encore dire l’automne dernier.