Production — Batch, Optimisation et Observabilité
Passez en production : batch inference jusqu'à 1M requêtes, predicted outputs, citations avec sources, et observabilité (traces, juges, évaluations hors ligne).
Objectifs pédagogiques
À l'issue de cette formation, vous serez capable de :
- Préparer un job de batch inference en JSONL, suivre son statut et récupérer les résultats
- Réduire la latence des réponses avec les predicted outputs sur des tâches de réécriture
- Implémenter les citations avec reference object pour ancrer les réponses dans leurs sources
- Tracer une application avec OpenTelemetry, explorer les traces de production et automatiser l'évaluation par des juges LLM
- Construire des datasets à partir des traces et mesurer chaque version par des évaluations hors ligne
Fiche pédagogique
- Public visé
- Développeurs, ingénieurs et intégrateurs souhaitant exploiter Mistral AI par API dans leurs applications.
- Prérequis
- Expérience confirmée du développement d'applications et de leur mise en production.
- Durée
- 1h15 — 16 leçons
- Modalités
- Formation 100 % en ligne, en autonomie, accessible 24h/24 depuis un navigateur. Progression enregistrée, reprise possible à tout moment. Durée estimée : 1h15.
- Évaluation
- Auto-évaluation à partir des « Points clés à retenir » qui concluent chaque leçon, et mise en pratique directe des exemples sur vos propres cas. Un quiz final de 5 questions corrigées, en fin de dernière leçon, permet de valider les acquis.
- Accessibilité
- Formation accessible aux personnes en situation de handicap : contenus textuels compatibles avec les lecteurs d'écran, navigation au clavier et contrastes conformes. Pour tout besoin d'adaptation, écrivez à [email protected].
- Tarif
- Gratuit — accès immédiat après inscription
Programme
Batch Inference
Predicted Outputs
Citations et Références
Observabilité
- 11 Introduction à l'observabilité : traces, juges et évaluations
- 12 Explorer : rechercher et inspecter les traces de production
- 13 Judges : évaluation automatique par LLM
- 14 Évaluations hors ligne : mesurer avant de déployer
- 15 Datasets : construire des jeux d'évaluation et itérer
- 16 Pipeline complet : traces, juges, datasets, évaluations