Tokens et Contexte

Comprendre la monnaie des modèles de langage

Les tokens sont l’unité fondamentale de tout modèle de langage : tout ce que vous écrivez au modèle et tout ce qu’il vous répond est compté, traité et facturé en tokens. C’est à la fois l’unité de mesure de sa mémoire et la monnaie de sa facturation. Comprendre ce concept est donc essentiel pour utiliser efficacement les modèles Mistral, estimer vos coûts et optimiser vos requêtes — et c’est un investissement modeste, car l’idée est simple une fois qu’on l’a vue de près.

Qu’est-ce qu’un token ?

Un token est la plus petite unité de texte traitée par un modèle de langage. Ce n’est ni exactement un mot, ni exactement une syllabe : c’est un fragment de texte défini par l’algorithme de tokenisation du modèle. En pratique, un mot courant comme « bonjour » correspond généralement à un seul token, tandis qu’un mot rare ou technique est découpé en plusieurs fragments — « désintermédiation » pourrait ainsi devenir 3 ou 4 tokens. Les espaces, la ponctuation et les caractères spéciaux comptent également, et un chiffre ou un symbole peut constituer un token à part entière. Autrement dit, la longueur d’un texte en tokens ne se devine pas à l’œil nu : elle dépend de la fréquence des mots qui le composent.

L’algorithme BPE

D’où vient ce découpage ? La plupart des modèles modernes, y compris ceux de Mistral, utilisent l’algorithme BPE (Byte-Pair Encoding). Son principe : analyser un vaste corpus de texte et identifier les combinaisons de caractères les plus fréquentes pour construire un vocabulaire optimal. Le résultat est une forme de compression intelligente du langage — les mots et expressions fréquents sont représentés par peu de tokens, tandis que les termes rares en nécessitent davantage.

Estimation pratique

Pour estimer rapidement le nombre de tokens d’un texte, retenez ces ordres de grandeur : en anglais, 1 token correspond à environ 4 caractères, soit 0,75 mot ; en français, le ratio est légèrement moins favorable en raison des accents et des mots plus longs — comptez environ 1 token pour 3,5 caractères ; en code, c’est très variable selon le langage, les symboles et l’indentation consommant leur part. Concrètement, une page A4 de texte (environ 500 mots) représente approximativement 650 à 750 tokens en français.

La fenêtre de contexte

La fenêtre de contexte (context window) est la quantité maximale de tokens qu’un modèle peut traiter en une seule requête — votre message (input) et la réponse du modèle (output) compris. Imaginez-la comme la mémoire de travail du modèle : tout ce qu’il « sait » pendant une conversation doit y tenir. Cela inclut votre question actuelle, mais aussi l’historique de l’échange, les documents que vous avez joints, les instructions système et la réponse en cours de génération.

Cette limite explique un phénomène que vous rencontrerez tôt ou tard : dans une conversation très longue, le modèle semble « oublier » ce qui a été dit au début. Ce n’est pas un caprice — les messages les plus anciens sont simplement sortis de la fenêtre, et le modèle ne peut littéralement plus les voir. C’est pourquoi les conversations interminables perdent en cohérence, et pourquoi il vaut souvent mieux ouvrir un nouveau fil pour un nouveau sujet.

Chez Mistral, les tailles varient selon les modèles : Mistral Small 4 et Codestral offrent 256 000 tokens — la plus grande fenêtre de la gamme —, tandis que Mistral Large 3 et Ministral 3 proposent 131 000 tokens. Avec 256k tokens, Mistral Small 4 peut absorber l’équivalent de 500 pages de texte en une seule requête : suffisant pour analyser un contrat complet, un rapport annuel ou un code source de taille conséquente.

Le calcul des coûts

Si vous utilisez l’API Mistral avec le plan Scale, votre facture dépend directement du nombre de tokens consommés. Les prix sont exprimés en dollars par million de tokens, avec une distinction entre les tokens d’entrée (votre question, les documents joints, le contexte) et les tokens de sortie (la réponse générée). Les tokens de sortie sont généralement plus chers, car générer du texte est plus coûteux en calcul que le lire.

Quelques stratégies permettent de maîtriser cette consommation. Soyez concis dans vos prompts : chaque instruction redondante est comptée, donc facturée. Limitez aussi la longueur de sortie quand vous le pouvez — si un résumé en 3 phrases suffit, précisez-le explicitement, d’autant que les tokens de sortie sont les plus chers. Choisissez ensuite le bon modèle pour chaque tâche : Ministral pour les tâches simples, Large pour les tâches complexes. Réutilisez enfin le contexte de la conversation : dans un échange en cours, inutile de répéter les informations déjà fournies, le modèle les a encore dans sa fenêtre.

Tokens et multilinguisme

Un point mérite l’attention des utilisateurs francophones : le français consomme en moyenne plus de tokens que l’anglais pour exprimer la même idée. Les accents peuvent fragmenter les mots différemment, les mots français sont souvent plus longs que leurs équivalents anglais, et les articles et prépositions y sont plus fréquents. En pratique, un texte en français utilisera environ 10 à 20 % de tokens en plus que le même texte en anglais — un facteur à intégrer dans vos estimations de coûts si vous travaillez à grande échelle.

Mise en pratique

Pour rendre ces notions tangibles, faites trois expériences sur Le Chat. Posez d’abord une question courte, puis une question longue, et observez la différence de temps de réponse. Essayez ensuite de faire résumer un document long en une seule requête — la fenêtre de 256k tokens de Small 4 vous le permet. Comparez enfin les réponses d’un même prompt formulé en français puis en anglais, pour constater par vous-même les différences de longueur.

Tarifs relevés le 5 août 2026 — les prix évoluent régulièrement : avant tout calcul de budget, vérifiez la grille en vigueur sur la tarification officielle Mistral.

Points clés à retenir

• Un token est l’unité de base du traitement textuel, correspondant à environ 4 caractères
• La fenêtre de contexte détermine la quantité de texte qu’un modèle peut traiter en une fois
• Mistral Small 4 offre la plus grande fenêtre : 256 000 tokens (environ 500 pages)
• Le coût API est directement proportionnel au nombre de tokens consommés
• Le français consomme plus de tokens que l’anglais pour le même contenu
• Optimisez vos coûts en choisissant le bon modèle et en étant précis dans vos prompts