Concept de la Batch API

Cours révisé le 2 novembre 2026 d’après la documentation de xAI : la remise batch est de 20 % sur les modèles texte éligibles (et non 50 %), les exemples suivent l’API REST et le SDK officiel xai-sdk (client.batch.* ; l’API Batch de xAI n’a pas le format de celle d’OpenAI, le SDK OpenAI ne s’y applique pas), et l’API Responses passe avant Chat Completions, endpoint hérité chez xAI. Sources : Batch API · Référence REST · Tarifs batch.

Traitement asynchrone en masse

La Batch API de xAI permet d’envoyer des milliers de requêtes en une seule opération, puis de récupérer les résultats une fois le traitement terminé. Contrairement aux appels synchrones où vous attendez chaque réponse, le mode batch fonctionne de manière asynchrone : vous soumettez un lot, vous continuez votre travail, et vous revenez chercher les résultats plus tard.

Cette approche répond à un besoin concret. Lorsque vous devez résumer 10 000 articles, classer 50 000 tickets de support ou rédiger les descriptions d’un catalogue, envoyer les requêtes une par une serait lent, coûteux, et vous ferait buter sur les limites de débit. Les requêtes batch, elles, ne comptent pas dans ces limites.

Une remise de 20 % sur les modèles éligibles

L’avantage économique est réel, mais plus mesuré qu’on ne le lit parfois. xAI applique une remise de 20 % aux requêtes batch de ses modèles texte éligibles — au 2 novembre 2026 : grok-4.7, grok-4.6, grok-4.5, grok-4.3 et les trois variantes grok-4.20-0309 —, sur tous les types de tokens : entrée, sortie, cache et raisonnement. Les modèles absents de cette liste n’ont aucune remise, même quand ils acceptent le batch.

Les générations d’images et de vidéos passent en batch, mais au tarif standard. Et tous les modèles n’acceptent pas le batch : la page de chaque modèle l’indique, et une requête vers un modèle non éligible est rejetée avec le message not supported for batch processing.

Workflow en quatre étapes

Le fonctionnement de la Batch API suit un schéma simple et prévisible :

1. Créer un batch nommé, via POST /v1/batches
2. Ajouter des requêtes, par appels successifs ou d’un coup avec un fichier JSONL
3. Surveiller la progression grâce aux compteurs du batch
4. Récupérer les résultats, au fil de l’eau ou à la fin

Ce workflow découple la soumission du traitement : nul besoin de maintenir une connexion ouverte pendant que Grok travaille. La plupart des batchs sont traités en moins de 24 heures, mais xAI ne le garantit pas : le délai varie avec la charge et la taille du lot.

Endpoints supportés

La Batch API ne se limite pas au texte. Un même batch peut mêler des requêtes vers :

• /v1/responses — l’API Responses, avec les outils serveur (recherche web, recherche X, exécution de code, MCP)
• /v1/chat/completions — l’API Chat Completions, endpoint hérité chez xAI
• /v1/images/generations et /v1/images/edits — génération et édition d’images
• /v1/videos/generations (ou /v1/videos), /v1/videos/edits et /v1/videos/extensions — génération, édition et prolongation de vidéos

Vous pouvez par exemple rédiger des descriptions de produits et générer leurs visuels dans le même lot.

Quand utiliser la Batch API

La Batch API est pertinente dès que le résultat peut attendre :

• Traitement de données en masse : classification, extraction, résumé de milliers de documents
• Évaluations : faire passer des milliers de prompts de test à un modèle
• Pipelines de données : enrichissement de bases, modération d’un arriéré de contenus, rapports préparés la nuit

Si votre cas d’usage exige une réponse immédiate (chatbot, assistant en temps réel), la Batch API n’est pas adaptée : elle sert les traitements où un délai de quelques heures est acceptable.

Points clés à retenir

• La Batch API traite les requêtes de manière asynchrone, la plupart en moins de 24 heures, sans garantie
• Remise de 20 % sur tous les tokens des modèles texte éligibles ; images et vidéos au tarif standard
• Le workflow suit quatre étapes : créer, ajouter, surveiller, récupérer
• Texte, images et vidéos peuvent cohabiter dans un même batch
• Les requêtes batch ne comptent pas dans les limites de débit, mais ne conviennent pas au temps réel