Température et Paramètres de Génération

Contrôler la génération avec les paramètres

Au-delà du texte de votre prompt, Grok propose plusieurs paramètres numériques qui influencent la manière dont le modèle génère sa réponse. Ces paramètres vous donnent un contrôle fin sur la créativité, la longueur et la reproductibilité des réponses.

Maîtriser ces réglages est ce qui distingue un utilisateur occasionnel d’un praticien efficace du prompting.

La température

La température est le paramètre le plus important. Elle contrôle le degré d’aléatoire dans la sélection des tokens lors de la génération.

• Température basse (0-0.3) : le modèle choisit les tokens les plus probables. Les réponses sont prévisibles, factuelles, et cohérentes. Idéal pour l’extraction de données, la classification, ou les réponses techniques.
• Température moyenne (0.4-0.7) : bon équilibre entre créativité et cohérence. Convient pour la rédaction professionnelle, les explications, et les synthèses.
• Température haute (0.8-2.0) : le modèle explore des choix de tokens moins évidents. Les réponses sont plus créatives, variées, parfois surprenantes. Utile pour le brainstorming, l’écriture créative, ou la génération d’idées.

{
  "model": "grok-4",
  "messages": [{"role": "user", "content": "Propose un slogan pour une boulangerie bio"}],
  "temperature": 1.2
}

Le paramètre top_p (nucleus sampling)

Le paramètre top_p offre une approche complémentaire à la température pour contrôler l’aléatoire. Il fonctionne par échantillonnage nucleus : le modèle ne considère que les tokens dont la probabilité cumulée atteint le seuil défini par top_p.

• top_p = 0.1 : seuls les tokens les plus probables sont considérés (réponse très focalisée)
• top_p = 0.9 : une large palette de tokens est envisagée (réponse plus diverse)
• top_p = 1.0 : tous les tokens sont candidats (valeur par défaut)

{
  "model": "grok-4",
  "messages": [{"role": "user", "content": "Écris un haïku sur la pluie"}],
  "temperature": 0.8,
  "top_p": 0.9
}

La documentation xAI recommande de modifier soit la température, soit le top_p, mais pas les deux en même temps. Ajuster les deux paramètres simultanément rend les résultats difficiles à prédire.

max_completion_tokens

Ce paramètre limite le nombre de tokens que le modèle peut générer dans sa réponse. Il est essentiel pour contrôler les coûts et la longueur des réponses.

{
  "model": "grok-4",
  "messages": [{"role": "user", "content": "Résume ce document en trois points"}],
  "max_completion_tokens": 500
}

Points importants :

• Pour les modèles de raisonnement, cette limite englobe à la fois les tokens de réponse et les tokens de raisonnement interne
• Si la limite est atteinte, la réponse est coupée et le champ finish_reason vaut "length" au lieu de "stop"
• Il n’y a pas de valeur par défaut fixe : sans ce paramètre, le modèle génère jusqu’à la fin naturelle de sa réponse

Le paramètre seed

Le paramètre seed permet d’obtenir des réponses reproductibles. Avec la même seed, le même prompt, et la même température, le modèle produira des résultats identiques ou très proches.

{
  "model": "grok-4",
  "messages": [{"role": "user", "content": "Génère 5 noms de startup tech"}],
  "temperature": 0.5,
  "seed": 42
}

Cas d’usage de la seed :

• Tests et débogage : vérifier que votre prompt produit des résultats stables
• Comparaison : tester différentes formulations de prompt avec la même seed pour isoler l’impact du changement
• Production : garantir la cohérence des résultats dans un pipeline automatisé

Combinaisons recommandées par usage

Extraction de données / classification

{"temperature": 0, "max_completion_tokens": 200}

Rédaction professionnelle

{"temperature": 0.5, "max_completion_tokens": 1000}

Brainstorming / créativité

{"temperature": 1.2, "top_p": 0.95}

Tests reproductibles

{"temperature": 0.3, "seed": 12345, "max_completion_tokens": 500}

Mise en pratique

Envoyez le même prompt trois fois avec des températures différentes (0, 0.7, 1.5) et comparez les résultats :

Prompt : "Propose trois noms originaux pour une application de méditation"

Avec une température de 0, vous obtiendrez les mêmes noms à chaque requête. Avec 1.5, les propositions seront variées et parfois inattendues.

Points clés à retenir

• La température contrôle le niveau de créativité : basse pour le factuel, haute pour le créatif
• Le top_p est une alternative à la température, ne modifiez pas les deux simultanément
• max_completion_tokens limite la longueur de réponse et inclut les tokens de raisonnement
• Le paramètre seed permet d’obtenir des réponses reproductibles
• Adaptez vos paramètres à votre cas d’usage : extraction, rédaction, ou brainstorming