La Température

Contrôler la créativité du modèle

Jusqu’ici, nous avons travaillé sur le contenu de vos prompts. Nous abordons maintenant un autre levier, tout aussi puissant : les paramètres de génération. Le premier d’entre eux, et le plus fondamental, est la température. Elle agit directement sur la distribution de probabilités des tokens et détermine si le modèle sera plutôt déterministe — des réponses prévisibles, presque identiques d’un appel à l’autre — ou créatif, avec des réponses variées et parfois surprenantes. Le même prompt, envoyé avec deux températures différentes, peut produire une fiche technique sobre ou un texte qui part dans des directions inattendues. Comprendre ce paramètre est donc indispensable pour adapter le comportement des modèles Mistral à chaque cas d’usage.

Comment fonctionne la température

Rappelons le mécanisme de base : à chaque étape de la génération, le modèle calcule une probabilité pour chaque token possible, puis en choisit un. La température modifie la forme de cette distribution avant le tirage. Avec une température basse, proche de 0, la distribution devient « pointue » : le modèle se concentre presque exclusivement sur les tokens les plus probables, et les réponses sont prévisibles et cohérentes. Demandez-lui la capitale de l’Italie à température 0.1, vous obtiendrez à peu près toujours la même phrase.

Avec une température haute, proche de 1, la distribution est au contraire « aplatie » : des tokens moins probables redeviennent accessibles, le modèle considère un éventail plus large de suites possibles, et les réponses gagnent en variété — au prix, parfois, de la cohérence. C’est exactement ce que l’on recherche pour un brainstorming, et exactement ce que l’on veut éviter pour une extraction de données. Le tableau suivant résume les plages utiles.

Utiliser la température avec l’API Mistral

Dans l’API, la température se passe comme un simple paramètre de l’appel. Comparez ces deux requêtes : la première attend une réponse factuelle et stable, la seconde cherche de la variété.

from mistralai import Mistral

client = Mistral(api_key="votre-cle-api")

# Température basse : réponse factuelle et déterministe
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Quelle est la formule du ROI ?"}],
    temperature=0.1
)

# Température haute : réponse créative et variée
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Inventez un slogan pour une marque de café bio."}],
    temperature=0.8
)

La température 0 n’est pas parfaitement déterministe

Une idée reçue mérite d’être corrigée dès maintenant : même avec temperature=0, les réponses de Mistral peuvent présenter de légères variations d’une requête à l’autre. Cela s’explique par des facteurs matériels — calculs en virgule flottante, parallélisation GPU — qui introduisent de minuscules différences dans les arrondis, suffisantes pour faire basculer occasionnellement le choix d’un token. Si vous construisez des tests automatisés ou des benchmarks où la reproductibilité est critique, ne comptez donc pas sur temperature=0 seule : combinez une température basse avec une vérification côté code, qui valide le fond de la réponse plutôt que sa forme exacte.

Adapter la température au contexte

Voyons comment ce réglage se traduit dans trois situations professionnelles typiques. Pour de la classification ou de l’extraction, vous voulez que le même avis client donne toujours le même verdict : c’est la température 0.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Classifiez le sentiment : positif, neutre, négatif."},
        {"role": "user", "content": "Le produit fonctionne correctement."}
    ],
    temperature=0.0
)

Pour de la rédaction marketing, une réponse trop mécanique serait fade ; à 0.7, le modèle varie ses formulations tout en restant cohérent — idéal pour produire plusieurs accroches et choisir la meilleure.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Vous êtes un copywriter créatif."},
        {"role": "user", "content": "Écrivez 3 accroches pour une campagne emailing."}
    ],
    temperature=0.7
)

Pour du brainstorming enfin, montez à 0.9 : vous acceptez que certaines idées soient farfelues, puisque vous filtrerez ensuite. Mieux vaut dix pistes dont trois excellentes que cinq pistes toutes raisonnables et toutes déjà vues.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Proposez 10 idées de fonctionnalités innovantes pour une app de fitness."}
    ],
    temperature=0.9
)

Expérimenter pour trouver le bon réglage

Il n’existe pas de température universellement optimale : la bonne valeur dépend de votre prompt, de votre modèle et de votre tolérance à la variabilité. La seule méthode fiable est l’expérimentation, menée de façon rigoureuse :

1. Commencez avec la valeur par défaut du modèle
2. Testez votre prompt avec 3-4 valeurs de température (0.1, 0.4, 0.7, 0.9)
3. Comparez les résultats sur 5-10 exécutions pour chaque valeur
4. Identifiez la valeur qui offre le meilleur rapport cohérence/variété pour votre cas
5. Documentez le réglage choisi avec votre prompt

Ce dernier point est souvent négligé : un prompt de production sans sa température documentée est un prompt à moitié spécifié, que votre collègue réutilisera avec un réglage différent en s’étonnant d’obtenir d’autres résultats.

Points clés à retenir

• La température contrôle le niveau de créativité vs déterminisme du modèle
• Valeurs basses (0-0.3) pour les tâches factuelles, hautes (0.7-1.0) pour les tâches créatives
• Même à température 0, de légères variations sont possibles
• Expérimentez avec plusieurs valeurs pour trouver le réglage optimal
• Documentez toujours la température utilisée avec vos prompts en production