« L’IA s’est trompée » est le plus souvent un problème de processus
Quand une tâche assistée par machine échoue en entreprise, le modèle est rarement le maillon faible. Quatre causes plus probables, par fréquence.
Une plainte qui nous parvient régulièrement : on a essayé, ça a sorti quelque chose de faux, on a arrêté. Dans presque tous les cas que nous avons examinés, ce n’est pas le modèle qui a échoué.
Quatre causes, à peu près classées selon la fréquence à laquelle elles s’avèrent être la vraie.
Un : on ne lui a jamais dit à quoi ressemble « juste »
Quelqu’un a demandé « un résumé de ceci » et a obtenu un résumé qui n’était pas celui qu’il avait en tête. Il n’existe aucune lecture où la machine est fautive ; l’exigence n’a jamais été énoncée.
L’article du 23 juillet sur les instructions réutilisables est le remède, et il coûte vingt minutes une fois.
Deux : il n’avait pas l’information
La réponse était fausse parce que la bonne se trouvait dans un document que l’outil ne pouvait pas voir. Les gens supposent couramment qu’un système relié à un dossier voit tout dans l’entreprise.
Avant de conclure qu’un outil est inadéquat, vérifiez ce qu’on lui a réellement donné. C’est la cause la plus fréquente de « il a inventé quelque chose ».
Trois : personne n’a vérifié, parce qu’on ne l’avait demandé à personne
Le résultat était faux et est parti quand même, parce que le processus avait une étape de production et aucune de relecture. C’est un défaut de conception du processus qui précède l’IA de plusieurs décennies — la même chose est arrivée avec les modèles de documents et le publipostage.
Quatre : la tâche était un mauvais candidat
Parfois la réponse honnête est que le processus varie trop, ou que le coût d’une erreur est trop élevé pour le laisser tourner sans surveillance. Les trois questions du 12 septembre attrapent cela avant la construction, ce qui est bien moins cher qu’après.
Pourquoi cela compte plus qu’il n’y paraît
Parce que « on a essayé l’IA et ça n’a pas marché » devient très vite un folklore d’entreprise — et décrit d’ordinaire une tentative mal montée, pas la technologie.
Quand vous l’entendez, demandez laquelle des quatre c’était. D’après notre expérience, vous obtenez une réponse en cinq minutes, et environ trois fois sur quatre c’est la première ou la deuxième.