Production — Batch, Optimisation et Observabilité
Passez en production : batch inference jusqu'à 1M requêtes, predicted outputs, citations avec sources, et observabilité complète (Explorer, Judges, Campaigns).
Objectifs pédagogiques
À l'issue de cette formation, vous serez capable de :
- Préparer un job de batch inference en JSONL, suivre son statut et récupérer les résultats
- Réduire la latence des réponses avec les predicted outputs sur des tâches de réécriture
- Implémenter les citations avec reference object pour ancrer les réponses dans leurs sources
- Inspecter le trafic de production avec Explorer et automatiser l'évaluation via les Judges
- Construire un jeu d'évaluation à partir des campaigns d'annotation et itérer sur la qualité
Fiche pédagogique
- Public visé
- Développeurs, ingénieurs et intégrateurs souhaitant exploiter Mistral AI par API dans leurs applications.
- Prérequis
- Expérience confirmée du développement d'applications et de leur mise en production.
- Durée
- 1h15 — 16 leçons
- Modalités
- Formation 100 % en ligne, en autonomie, accessible 24h/24 depuis un navigateur. Progression enregistrée, reprise possible à tout moment. Durée estimée : 1h15.
- Évaluation
- Auto-évaluation à partir des « Points clés à retenir » qui concluent chaque leçon, et mise en pratique directe des exemples sur vos propres cas. Un quiz final de 5 questions corrigées, en fin de dernière leçon, permet de valider les acquis.
- Accessibilité
- Formation accessible aux personnes en situation de handicap : contenus textuels compatibles avec les lecteurs d'écran, navigation au clavier et contrastes conformes. Pour tout besoin d'adaptation, écrivez à [email protected].
- Tarif
- Gratuit — accès immédiat après inscription
Programme
Batch Inference
Predicted Outputs
Citations et Références
Observabilité
- 11 Introduction à l'Observabilité : Visibilité, Qualité et Itération
- 12 Explorer : Filtrer et Inspecter le Trafic de Production
- 13 Judges : Évaluation Automatique par LLM
- 14 Campaigns : Annotation à Grande Échelle
- 15 Datasets : Construire des Jeux d'Évaluation et Itérer
- 16 Pipeline Complet : Explorer, Judge, Campaign, Dataset