Un modèle de raisonnement ouvert, hébergeable chez soi. Novembre se termine par une option
Alibaba a publié QwQ-32B-Preview sous licence permissive fin novembre 2024. Il y a trois mois, cette classe de modèles n’existait que derrière une interface payante.
Fin novembre 2024, l’équipe Qwen d’Alibaba a publié QwQ-32B-Preview, un modèle de raisonnement de 32 milliards de paramètres sous licence permissive Apache 2.0. Il vise les mathématiques, la logique et la programmation, et ses poids sont téléchargeables.
Il y a trois mois, un modèle qui réfléchit avant de répondre n’existait que comme service payant derrière l’interface d’un tiers. C’est désormais un fichier que vous pouvez héberger.
Ce qui a vraiment changé
Pas le classement. La forme de l’option.
Pour la plupart des PME, la réponse honnête reste : utilisez un service hébergé. Faire tourner un modèle de 32 milliards de paramètres demande du vrai matériel, quelqu’un pour l’entretenir et une raison. « Parce qu’on peut » n’est pas une raison, et l’auto-hébergement a l’habitude de devenir la façon la plus chère d’économiser.
Mais l’option existe là où elle n’existait pas, et cela compte dans deux cas précis.
De vraies contraintes de confidentialité. Une étude d’avocats, un cabinet médical, un bureau d’ingénieurs lié par un accord client interdisant tout traitement par un tiers. Jusqu’ici la réponse était « alors vous ne pouvez pas l’utiliser ». Il existe désormais une réponse qui comporte un serveur.
La négociation. Même sans jamais héberger soi-même, une alternative crédible change le ton d’une discussion de renouvellement.
Ce qui n’a pas changé
Poids ouverts ne veut pas dire gratuit. Matériel, électricité, mises à jour et la personne qui répare à sept heures du matin sont des coûts réels, et pour une entreprise de 40 personnes ils dépassent largement une facture d’interface.
Des poids ouverts ne disent rien non plus de la qualité sur votre travail. Un modèle réglé pour les mathématiques de concours peut être quelconque à la lecture d’un bulletin de livraison suisse.
Fin novembre
Ce mois a produit un plateau rapporté dans la mise à l’échelle, un fournisseur européen digne d’évaluation, une norme de connexion, des agents dans Microsoft 365 et deux modèles de raisonnement performants hors des laboratoires habituels.
Le motif est partout le même : la capacité se diffuse vers l’extérieur et vers le bas, et la denrée rare n’est plus l’accès à un bon modèle. C’est de savoir sur lequel de vos propres processus le pointer.