Définition
Un LLM prédit des suites utiles de langage à partir de motifs appris lors de son entraînement. On peut lui fournir des instructions et du contexte au moment de l’utiliser, mais il ne connaît rien de votre entreprise par défaut.
Comment fonctionne un LLM, en termes utiles à une décision d’affaires
Un LLM a été entraîné en lisant une quantité colossale de texte et en apprenant quels mots suivent généralement quels autres. Devant une instruction, il produit la suite qui correspond le mieux aux motifs appris. C’est réellement le mécanisme : il n’y a ni table de faits à l’intérieur, ni base de données de votre entreprise.
Trois conséquences en découlent, et chacune apparaît dans de vrais projets :
Il ne connaît pas votre entreprise. Ni vos prix, ni vos politiques, ni vos clients, ni ce qui s’est passé mardi dernier. Tout ce qu’il semble savoir de vous provient de l’instruction. C’est précisément le problème que règle la génération augmentée par récupération.
Ses connaissances ont une date limite. L’entraînement s’est arrêté à une date donnée. Ce qui suit lui est invisible, sauf si vous le lui fournissez.
Il est également assuré dans les deux cas. Le modèle n’a aucun signal interne distinguant « je l’ai appris de façon fiable » de « cela correspond au motif ». La fluidité n’est pas une preuve d’exactitude.
Ce qu’un LLM fait bien, et ce qu’il fait mal
| Fiable | Peu fiable sans appui |
|---|---|
| Réécrire et résumer un texte fourni | Restituer des faits précis sur vous |
| Extraire des champs structurés de documents | Le calcul arithmétique en plusieurs étapes |
| Classifier et acheminer selon l’intention | Tout ce qui est daté ou courant |
| Traduire entre formats et vocabulaires | Citer des sources qu’on ne lui a pas données |
| Rédiger à partir d’un mandat clair | Produire une sortie identique à chaque fois |
Le motif de la colonne de gauche : l’information est devant lui et la tâche est une transformation. Celui de droite : on demande au modèle d’être une base de données. Concevez en conséquence. Donnez-lui la matière, et laissez un vrai système gérer les calculs et les faits.
Choisir un modèle est la plus petite décision du projet
Le choix du modèle accapare une part disproportionnée de l’attention. En pratique, pour la plupart des tâches d’affaires, les modèles de tête sont assez proches pour que l’écart soit noyé par tout le reste : le contexte fourni, l’étroitesse de la tâche et la validation des sorties.
Les facteurs qui méritent réellement une pesée ne sont généralement pas les scores de bancs d’essai. Ce sont le lieu de traitement des données et ce que le fournisseur conserve, ce qui au Québec relève de la Loi 25 et de l’approvisionnement. Ce sont le coût par unité de travail à votre volume réel, la latence là où une personne attend, et la possibilité de changer de fournisseur plus tard sans tout réécrire. Traitez le modèle comme une pièce remplaçable, car elle sera remplacée, probablement dans l’année.
L’approche Automathing
Nous traitons le LLM comme une composante parmi d’autres. L’instruction, le contexte récupéré, les outils qu’il peut appeler, le dispositif d’évaluation et l’interface réellement utilisée comptent tous davantage pour le résultat que le modèle placé au milieu. Nous construisons de façon à pouvoir le remplacer sans refaire le système, parce que la frontière technologique avance plus vite que n’importe quel cycle d’approvisionnement.
Foire aux questions
Que signifie LLM ?
« Large Language Model », soit grand modèle de langage. « Grand » renvoie au nombre de paramètres et au volume de données d’entraînement ; « modèle de langage » désigne un système qui prédit les suites probables d’un texte. Le nom décrit le mécanisme, pas la capacité.
Quelle est la différence entre un LLM et l’IA générative ?
L’IA générative est la catégorie plus large des modèles qui produisent du nouveau contenu, images, audio, vidéo et code compris. Le LLM en est le cas spécialisé dans le langage. L’essentiel de l’IA générative en entreprise repose aujourd’hui sur des LLM, ce qui explique l’emploi interchangeable des deux termes bien qu’ils ne soient pas équivalents.
Un LLM peut-il accéder aux données de notre entreprise ?
Pas de lui-même. Il faut le brancher : par récupération dans vos documents, par des outils qui interrogent vos systèmes, ou en plaçant les dossiers pertinents directement dans l’instruction. C’est ce travail de raccordement, et non le modèle, qui absorbe l’essentiel de l’effort dans un vrai projet.
Pourquoi la même question donne-t-elle des réponses différentes ?
Un LLM échantillonne dans une distribution de probabilités au lieu de renvoyer un résultat fixe : des entrées identiques peuvent donner des formulations différentes. On réduit la variation en abaissant la température d’échantillonnage, en contraignant le format de sortie et en resserrant la tâche, mais on ne la rend pas pleinement déterministe. Si votre processus exige une sortie identique à chaque fois, cette étape appartient à du code classique.
Les gros modèles sont-ils toujours meilleurs ?
Non. Les grands modèles gèrent mieux la nuance et le raisonnement complexe, mais ils coûtent plus cher et répondent plus lentement. Beaucoup de tâches d’affaires, dont la classification, l’extraction, l’acheminement et le résumé simple, tournent très bien sur des modèles plus petits, plus rapides et moins coûteux. Ajuster la taille du modèle à la difficulté de la tâche reste l’un des moyens les plus fiables de maîtriser les coûts à grande échelle.