Concepts Clés de l'IA Générative

Maîtriser le vocabulaire essentiel

Il y a une poignée de termes que vous croiserez dans chaque réunion, chaque documentation et chaque discussion avec une équipe technique autour de l’IA générative : RAG, embeddings, fine-tuning, température, hallucinations, grounding. Cette leçon les explique un par un, non pas comme des définitions de glossaire, mais comme des outils que vous saurez situer dans une conversation réelle. Quand un prestataire vous proposera « un chatbot RAG avec embeddings Mistral », vous saurez exactement ce qu’il vous vend — et quelles questions lui poser.

RAG — Retrieval-Augmented Generation

Le RAG (génération augmentée par la récupération) est l’une des techniques les plus répandues pour améliorer la qualité des réponses d’un LLM. Le principe part d’un constat simple : au lieu de compter uniquement sur les connaissances internes du modèle, on lui fournit, au moment de la question, des informations pertinentes extraites d’une base de données externe.

Le mécanisme se déroule en quatre temps :

1. L’utilisateur pose une question
2. Un système de recherche identifie les documents pertinents dans une base de connaissances
3. Ces documents sont injectés dans le contexte du modèle
4. Le modèle génère sa réponse en s’appuyant sur ces informations fraîches

Pourquoi est-ce si important ? Parce que le RAG résout un problème fondamental des LLM : leurs connaissances sont figées à la date de leur entraînement. Un modèle entraîné l’an dernier ignore tout de votre nouveau catalogue produits, de la réorganisation de votre service ou de la réglementation parue le mois dernier. Avec le RAG, il peut répondre à des questions sur des événements récents, sur des données internes à votre entreprise, ou sur des documents que vous lui fournissez. Imaginez un service RH qui reçoit chaque semaine les mêmes questions sur la convention collective : un assistant RAG branché sur les accords d’entreprise répond en citant le bon article, au lieu d’improviser de mémoire. C’est cette technique qui sous-tend la recherche web de Le Chat et la plupart des chatbots d’entreprise.

Embeddings — Les représentations vectorielles

Les embeddings sont des représentations numériques du texte sous forme de vecteurs, c’est-à-dire de listes de nombres. Chaque mot, phrase ou document est transformé en un point dans un espace mathématique de haute dimension. L’idée clé tient en une phrase : deux textes sémantiquement proches auront des embeddings proches dans cet espace. « Chien » et « canidé » seront voisins ; « chien » et « tableur » seront très éloignés, alors même qu’aucune de ces paires ne partage de lettres communes significatives.

Cette propriété change tout pour la recherche d’information. Une recherche par mots-clés classique ne trouvera pas un document parlant de « rupture conventionnelle » si vous cherchez « fin de contrat à l’amiable » ; une recherche sémantique par embeddings, si, parce que les deux formulations pointent vers la même zone de l’espace vectoriel. Au-delà de la recherche, les embeddings servent à classer automatiquement des textes par thème, à détecter des doublons ou des contenus proches, et — on retrouve la leçon précédente de cette section — à sélectionner les documents pertinents dans un pipeline RAG. Mistral propose des modèles d’embeddings dédiés, Mistral Embed et Codestral Embed, qui transforment votre texte en vecteurs exploitables.

Fine-tuning — L’adaptation sur mesure

Le fine-tuning consiste à poursuivre l’entraînement d’un modèle pré-entraîné avec vos propres données, pour l’adapter à un besoin spécifique. L’image la plus juste est celle du médecin généraliste que l’on forme en spécialiste : la culture générale est déjà là, on y ajoute une expertise pointue.

On y recourt dans plusieurs situations. Une marque qui veut que toutes ses réponses clients respectent un ton et un style précis peut fine-tuner un modèle sur ses meilleurs échanges passés. Un cabinet juridique ou un service médical peut lui inculquer un vocabulaire métier que le modèle généraliste manie approximativement. Une équipe qui traite des milliers d’emails par jour peut spécialiser un modèle sur une tâche précise comme la classification ou l’extraction d’entités, avec de meilleurs résultats qu’un prompt générique. Enfin, la distillation consiste à transférer les connaissances d’un grand modèle vers un petit, pour obtenir des performances proches à un coût bien moindre. Chez Mistral, c’est la plateforme Forge qui permet de fine-tuner les modèles Open : vous préparez un jeu de données de paires question-réponse, vous lancez l’entraînement, et vous obtenez un modèle personnalisé déployable via l’API.

Température — Le curseur de créativité

La température est un paramètre qui contrôle le degré de « créativité » — techniquement, d’aléatoire — dans les réponses du modèle. À température basse (0 à 0.3), le modèle choisit systématiquement les réponses les plus probables : le résultat est prévisible, précis et reproductible, ce qui convient aux tâches factuelles, à l’extraction de données et au code. À température moyenne (0.4 à 0.7), on obtient un équilibre entre cohérence et variété qui convient à la plupart des usages conversationnels. À température haute (0.8 à 1.0), le modèle explore des formulations moins évidentes : plus de créativité, mais aussi plus de risques d’erreurs — un réglage à réserver au brainstorming et à la rédaction créative.

Sur Le Chat, la température est gérée automatiquement, vous n’avez pas à y penser. Via l’API en revanche, vous pouvez la définir précisément pour chaque requête, et c’est un levier puissant : la même question posée à 0.1 et à 0.9 produira une réponse de comptable dans un cas, une réponse de publicitaire dans l’autre.

Hallucinations — Quand le modèle invente

Les hallucinations sont des réponses qui semblent plausibles mais sont factuellement incorrectes. Le modèle « invente » des informations, et — c’est là le danger — il le fait avec le même ton assuré que lorsqu’il dit vrai. La cause est structurelle : un LLM prédit des tokens probables, pas des faits vérifiés. Il peut donc produire un texte impeccable sur le plan linguistique et faux sur le plan factuel. Les zones à risque sont bien identifiées : les dates, chiffres et statistiques précis, les citations attribuées à des personnes réelles, les références à des études ou des articles, et les détails techniques spécifiques. Demandez à un modèle la bibliographie d’un auteur peu connu : il vous fournira volontiers des titres d’ouvrages parfaitement crédibles… qui n’existent pas.

On ne supprime pas les hallucinations, on les limite. Le RAG ancre les réponses dans des sources vérifiées ; une température basse favorise les réponses les plus probables ; demander des sources au modèle — puis les vérifier vous-même — fait apparaître les inventions ; le grounding, que nous voyons juste après, connecte le modèle à des données réelles. Et sur tout sujet critique, la règle reste absolue : ne faites jamais aveuglément confiance à une réponse.

Grounding — L’ancrage dans la réalité

Le grounding (ancrage) désigne l’ensemble des techniques qui connectent un modèle à des sources d’information fiables et à jour. Le RAG en est une forme, mais le concept est plus large. La recherche web permet au modèle d’aller vérifier des faits sur Internet plutôt que de puiser dans sa mémoire figée. La connexion à des bases de données lui donne accès à vos données internes — vos stocks réels, vos clients réels. Le function calling, enfin, lui permet d’appeler des API externes pour obtenir des données en temps réel : la météo, un cours de bourse, l’état d’un système. La différence est décisive : le grounding fait passer d’un assistant qui « sait des choses » à un assistant qui « peut vérifier des choses ».

Prompt — L’instruction au modèle

Le prompt est le texte que vous envoyez au modèle : votre instruction, votre question, votre demande. Sa qualité détermine largement celle de la réponse — c’est l’objet d’une leçon entière plus loin dans ce cours. Retenez dès maintenant trois notions. Le system prompt regroupe les instructions générales données au modèle en amont (ton, rôle, contraintes), configurable via l’API. Le user prompt est votre message concret, la question ou la tâche du moment. Et le few-shot prompting consiste à fournir des exemples de réponses attendues pour guider le modèle : montrer vaut souvent mieux qu’expliquer.

Points clés à retenir

• Le RAG enrichit les réponses du modèle avec des données externes fraîches
• Les embeddings transforment le texte en vecteurs pour la recherche sémantique
• Le fine-tuning adapte un modèle à vos besoins spécifiques via Forge
• La température contrôle l’équilibre entre précision et créativité
• Les hallucinations sont des réponses plausibles mais fausses ; le grounding ancre le modèle dans des données vérifiables pour les limiter