Un modèle de 70 milliards à hauteur d’un 405 milliards. L’efficacité est la tendance discrète de 2024
Meta a publié Llama 3.3 70B le 6 décembre 2024, revendiquant une performance proche de son prédécesseur bien plus grand pour une fraction du coût d’exploitation.
Le 6 décembre 2024, Meta a publié Llama 3.3 70B en affirmant qu’il offre une performance comparable au Llama 3.1 de 405 milliards de paramètres pour une fraction du coût d’exploitation. Les progrès portent surtout sur le suivi des consignes et le multilingue.
Laissons de côté la question de savoir si l’affirmation tient dans tous les cas. La direction a été constante toute l’année, et c’est la tendance aux conséquences les plus pratiques pour une PME.
Pourquoi plus petit à performance égale compte plus que plus grand
Cela se voit sur votre facture. Un modèle six fois plus léger à faire tourner coûte moins par réponse. Au fil de 2024, le prix d’un niveau de capacité donné a baissé à plusieurs reprises, et c’est l’un des mécanismes.
Cela change où un modèle peut habiter. Un modèle de 70 milliards de paramètres est exigeant mais gérable sur du vrai matériel. Un modèle de 405 milliards relève du centre de calcul. Cette différence décide si l’auto-hébergement est même une conversation.
Cela rend la vitesse possible. Les modèles plus petits répondent plus vite, et partout où une personne attend — une recherche pendant un appel client, une vérification en rédigeant une offre — le temps de réponse compte plus que les derniers points de précision.
La leçon pour choisir un outil
Le nombre de paramètres est du marketing. C’était un indicateur approximatif de capacité en 2023, ce n’en est plus un. Un fournisseur qui met en avant la taille du modèle sous-jacent vous parle de son fournisseur, pas de votre résultat.
Le test utile n’a pas changé : donnez à l’outil dix exemples réels de votre propre travail — vos offres, vos courriels clients, votre français, vos abréviations — et regardez ce qui revient. Cela prend un après-midi et en dit plus que n’importe quel tableau.
Ce qu’il faut attendre désormais
Partez du principe que la capacité pour laquelle vous payez aujourd’hui un prix premium sera disponible sur un modèle plus petit et moins cher d’ici un an. Ce n’est pas une raison d’attendre : identifier la tâche à laquelle l’appliquer prend plus de temps que l’attente n’en ferait gagner.
C’est une raison de garder des contrats courts et de ne rien bâtir qui ne fonctionne qu’avec un modèle précis.