TL;DR
Un grand modèle de langage fait exactement une chose : à partir d’un texte donné, il prédit le prochain morceau de texte, encore et encore. Tout le reste, les réponses fluides, le code, les conseils étonnamment bons et les absurdités assénées avec assurance, découle de ce seul mécanisme tournant à une échelle énorme. Cette explication construit le modèle mental sans mathématiques : ce qu’est un token, ce que l’entraînement change vraiment, pourquoi le modèle n’a pas de base de données où chercher, et pourquoi « il a inventé ça » n’est pas un bug mais le même processus qui produit son meilleur travail, pointé vers une question qu’il ne peut pas répondre. Comprenez le mécanisme et vous cessez d’être surpris par le modèle pour commencer à le diriger. Apprenez comme un étudiant qui veut savoir comment marche le moteur, utilisez-le comme un PDG qui sait ce à quoi on peut se fier ou non dans l’outil.
Des centaines de millions de personnes tapent désormais chaque jour dans un modèle d’IA et ne sauraient même pas vous dire, en gros, ce qui se passe après avoir appuyé sur entrée. Ce n’est pas un défaut d’intelligence. Personne ne l’a expliqué. Le résultat est une main-d’oeuvre qui traite un prédicteur du mot suivant comme un moteur de recherche, un oracle ou une personne, puis se sent trahie quand il ne se comporte comme aucun d’eux.
Comprendre le mécanisme devient vite une littératie de base, pas une compétence de spécialiste. À mesure que plus de travail passe par ces outils, ceux qui en tirent le plus ne sont pas ceux qui connaissent les prompts les plus astucieux. Ce sont ceux qui ont un modèle mental exact de ce qui se passe sous le capot, car ce modèle leur dit à quoi se fier, quoi vérifier et comment demander. Nous avons développé l’argument dans Le prompt engineering ne suffit pas. Cet article pose le fondement qui se trouve dessous.
La seule chose que fait un LLM
Voici tout le moteur en une phrase : un grand modèle de langage prend le texte que vous lui donnez et prédit de façon répétée le prochain morceau de texte le plus plausible.
Ce n’est pas une simplification de ce qu’il fait. C’est ce qu’il fait. Vous tapez une question ; le modèle la lit et prédit un premier mot probable d’une réponse. Puis il lit votre question plus ce premier mot et prédit le deuxième. Puis le troisième. Il écrit comme vous pourriez finir la phrase de quelqu’un d’autre, sauf qu’il ne cesse jamais de finir, un petit pas à la fois, jusqu’à ce que la réponse soit complète.
L’unité qu’il prédit n’est pas exactement un mot. C’est un token, un morceau de texte qui est souvent un mot entier mais peut être une partie de mot, un signe de ponctuation ou un fragment de mot fréquent. « Understanding » peut être un token ou se scinder en « Understand » et « ing ». C’est pourquoi les modèles se trompent parfois en comptant les lettres d’un mot ou butent sur les jeux de mots : ils ne voient pas les lettres comme vous. Ils voient des tokens.
Tout ce qui est impressionnant dans ces systèmes est cette seule boucle, tournant à une échelle difficile à imaginer. Et tout ce qui est frustrant en eux est la même boucle, tournant au-delà du bord de ce qu’ils savent de façon fiable.
Ce que « l’entraînement » a vraiment changé
Si le modèle ne fait que prédire le prochain token, d’où vient son savoir apparent ? De l’entraînement, et c’est la partie qu’il vaut la peine de bien saisir.
Un modèle est, mécaniquement, un vaste ensemble de nombres appelés paramètres, souvent des milliards. Avant l’entraînement, ces nombres sont essentiellement aléatoires, et les prédictions du modèle sont du charabia. L’entraînement est le processus qui consiste à montrer au modèle une énorme quantité de texte et, chaque fois qu’il prédit un token suivant, à décaler légèrement ces milliards de nombres pour que la prochaine fois sa prédiction soit un peu plus proche de ce qui a réellement suivi dans le vrai texte.
Faites cela sur une immense tranche de l’internet écrit, des livres et du code, des billions de fois, et quelque chose de remarquable se produit. Pour devenir bon à prédire le token suivant dans n’importe quel texte, le modèle est forcé d’encoder des motifs : grammaire, faits, styles, étapes de raisonnement, structure d’une clause juridique, rythme d’un poème. Personne ne les programme. Ce sont le résidu statistique de la prédiction faite à grande échelle. L’architecture qui a rendu cela pratique s’appelle un transformeur, introduite dans l’article de recherche « Attention Is All You Need » de 2017, dont l’idée clé, l’attention, laisse le modèle peser quels mots antérieurs comptent le plus pour prédire le suivant.
De façon cruciale, quand l’entraînement s’arrête, les nombres se figent. Le modèle ne continue pas d’apprendre de vos conversations et n’a aucune mémoire d’hier à moins que le système autour ne la réinjecte. Ce qu’il sait est gravé dans ces paramètres figés, ce qui explique pourquoi chaque modèle a une date de coupure de connaissances et ne peut vous dire ce qui s’est passé ce matin.
L’échelle de ce processus grimpe à un rythme qu’il vaut la peine de voir au même endroit.
Tableau 1. La trajectoire de la technologie (données vérifiées)
| Mesure | Constat | Source |
|---|---|---|
| Puissance de calcul d’entraînement | Double environ tous les 5 mois | Stanford HAI AI Index 2025 |
| Taille du jeu de données d’entraînement | Double environ tous les 8 mois | Stanford HAI AI Index 2025 |
| Coût pour interroger un modèle de niveau GPT-3.5 | Chuté de $20 à $0,07 par million de tokens (nov 2022 à oct 2024) | Stanford HAI AI Index 2025 |
| Part des modèles notables issus de l’industrie, 2024 | ~90% (contre ~60% en 2023) | Stanford HAI AI Index 2025 |
La ligne du milieu a silencieusement changé le monde : une baisse de plus de 280 fois du coût de la sortie d’un modèle capable en moins de deux ans est la raison pour laquelle la technologie est passée de la démo au service public.
Pourquoi il ne « cherche » rien
Voici maintenant la chose la plus utile à comprendre, car elle explique le comportement qui piège tout le monde.
Un LLM n’a pas de base de données en lui. Quand vous posez une question factuelle, il ne fouille pas des enregistrements pour renvoyer une correspondance. Il fait la seule chose qu’il fait : prédire la continuation la plus plausible de votre question, à partir des motifs gravés dans ses paramètres. Quand la réponse est fréquente dans son texte d’entraînement, prédiction et vérité coïncident à merveille, et il paraît « connaître » le fait. Quand la réponse est rare, ambiguë ou absente, le modèle ne s’arrête pas pour dire « aucun résultat ». Il ne le peut pas. Il prédit quand même une continuation qui sonne plausible, car c’est tout son travail.
C’est cela une hallucination. Ce n’est pas le modèle qui dysfonctionne. C’est le modèle qui fonctionne exactement comme conçu, générant un texte fluide et assuré, pointé vers un trou où le texte assuré se trouve être faux. La fluidité est identique que le contenu soit vrai ou inventé, ce qui est précisément pourquoi vous ne pouvez pas le dire au ton. Un modèle mental utile : le LLM n’est pas un bibliothécaire qui va chercher un livre. C’est un improvisateur extraordinairement cultivé qui vous donnera toujours une réponse lisse et n’a aucun signal intégré pour la différence entre se souvenir et inventer.
Cela explique deux autres comportements du quotidien. L’échantillonnage est la raison pour laquelle vous obtenez une réponse différente au même prompt deux fois : le modèle ne choisit pas toujours le seul token suivant le plus probable ; il échantillonne parmi les probables, ce qui le rend créatif plutôt que robotique. Et la fenêtre de contexte est la quantité de texte, votre prompt plus la conversation jusque-là, que le modèle peut prendre en compte à la fois. Au-delà, les premières parties tombent simplement hors de vue, ce qui explique pourquoi de très longues conversations semblent « oublier » ce que vous avez dit au début.
Le modèle mental qui marche
Réunissez les pièces et vous obtenez un modèle facile à porter qui change votre façon d’utiliser l’outil.
Tableau 2. Un modèle mental fonctionnel d’un LLM (cadre éditorial CEOtudent)
| Si vous le voyez comme… | Vous attendrez… | Et vous aurez tort, car… |
|---|---|---|
| Un moteur de recherche | Des faits récupérés et sourcés | Il génère du texte plausible, il ne récupère pas d’enregistrements |
| Une personne qui vous comprend | Mémoire, intention, responsabilité | Il n’a pas de mémoire entre sessions ni de modèle de vérité |
| Une calculatrice de mots | Une sortie déterministe et reproductible | Il échantillonne, le même prompt peut répondre autrement |
| Un improvisateur cultivé | Une aide fluide à vérifier | Celui-ci est à peu près juste |
Le modèle de l’improvisateur se paie en trois gestes pratiques. D’abord, donnez-lui la matière. Parce qu’il prédit à partir de ce qui est devant lui, coller le document, les données ou le contexte pertinent dans le prompt bat le fait de se fier à sa mémoire figée ; c’est pourquoi bien briefer une IA est une compétence en soi, que nous avons décomposée dans Comment déléguer à un agent IA. Ensuite, vérifiez tout ce qui compte. La fluidité n’est pas une preuve. Pour toute affirmation factuelle, nom, chiffre ou citation sur lequel vous agirez, le modèle est un premier jet à vérifier, pas une source à croire. Enfin, utilisez-le là où être plausible suffit. Rédiger, brainstormer, restructurer, expliquer et traduire sont des tâches où une forte réponse plausible a une vraie valeur ; les faits à fort enjeu et les décisions irréversibles, non.
Rien de tout cela n’exige de connaître les mathématiques. Cela exige de connaître le mécanisme : une boucle, qui prédit le token suivant, à partir de motifs figés au moment de l’entraînement, sans recherche et sans sens intégré du vrai. Tenez cela, et le modèle cesse d’être magie ou menace pour devenir ce qu’il est : un outil puissant dont les limites sont aussi connaissables que les forces. Ce savoir est lui-même la compétence durable, car les outils continueront de changer et le mécanisme non, un point que nous développons dans Le manuel du manager d’IA.
FAQ
Le modèle pense-t-il ou raisonne-t-il vraiment ?
Il produit souvent un texte qui ressemble à du raisonnement, et les modèles « de raisonnement » génèrent des étapes intermédiaires qui améliorent réellement leurs réponses sur les problèmes durs. Mais mécaniquement il prédit toujours des tokens ; la sortie en forme de raisonnement est une version très sophistiquée du même processus, pas une faculté à part. Traitez le raisonnement visible comme utile et tout de même vérifiable, pas comme une preuve.
Apprend-il de mes conversations ?
Pas le modèle central, dont les paramètres sont figés après l’entraînement. Certains produits réinjectent vos messages récents ou vos préférences enregistrées dans le prompt pour simuler la mémoire, mais c’est le système environnant, pas le modèle qui se met à jour. Votre échange ne le réentraîne pas.
Pourquoi est-il si assuré quand il a tort ?
Parce que assurance et exactitude sont sans lien dans sa sortie. Le modèle génère la continuation la plus fluide, que le contenu sous-jacent soit exact ou non, et un texte fluide se lit comme assuré. Il n’y a pas de signal intégré « je ne suis pas sûr » attaché à un fait halluciné, ce qui est justement pourquoi la vérification externe vous revient.
S’il ne fait que prédire du texte, pourquoi est-il si bon ?
Parce que prédire bien le token suivant, sur essentiellement tout le savoir humain écrit, se révèle exiger l’encodage d’une quantité stupéfiante de structure sur la langue, les faits et le raisonnement. La simplicité de la tâche et la richesse du résultat sont toute la surprise du domaine. L’échelle a fait le reste, comme le montre le Tableau 1.
Dois-je comprendre cela pour bien utiliser l’IA ?
Vous n’avez pas besoin de l’ingénierie. Vous avez besoin du modèle mental, car c’est lui qui vous dit quand faire confiance à la sortie et quand vérifier. Les gens dotés d’un modèle exact du mécanisme tirent constamment plus de valeur et font moins d’erreurs coûteuses que ceux qui traitent l’outil comme un esprit ou un moteur de recherche.
Sources : Vaswani et al., « Attention Is All You Need », 2017 ; Stanford Institute for Human-Centered Artificial Intelligence, AI Index Report 2025 ; littérature fondamentale de l’apprentissage automatique sur les modèles de langage à transformeur et l’entraînement des réseaux de neurones.
Ce contenu a été compilé avec le soutien de l’IA à la suite d’une recherche approfondie, puis rédigé et préparé pour publication par l’équipe éditoriale de CEOtudent.
This post is also available in:
