Mistral sur Google Vertex AI

Pourquoi Vertex AI ?

Google Cloud Vertex AI est la plateforme MLOps de Google qui héberge des modèles partenaires, dont ceux de Mistral. Si votre infrastructure repose sur Google Cloud (BigQuery, Cloud Run, GKE), l’intégration avec Vertex AI vous offre une authentification unifiée via les comptes de service Google, une facturation centralisée, et un accès aux outils MLOps de Google.

Modèles disponibles sur Vertex AI

En avril 2026, Vertex AI donne accès à :

• Mistral Medium — modèle polyvalent hautes performances
• Mistral Small — rapide et économique
• Codestral — spécialisé dans le code, avec support FIM (Fill-in-the-Middle)
• Mistral OCR — extraction de contenu documentaire

Prérequis

Avant de commencer, vous devez configurer votre environnement Google Cloud :

1. Un projet Google Cloud avec l’API Vertex AI activée
2. Les rôles IAM suivants attribués à votre compte :
   • Vertex AI User — pour invoquer les modèles
   • Consumer Procurement Entitlement Manager — pour activer les modèles partenaires
3. Le CLI gcloud installé et configuré :

# Installer gcloud (si pas déjà fait)
# Voir https://cloud.google.com/sdk/docs/install

# S'authentifier
gcloud auth application-default login

# Définir le projet par défaut
gcloud config set project votre-projet-id

Activer un modèle Mistral

Rendez-vous sur la console Vertex AI, cherchez le modèle Mistral souhaité dans le Model Garden, et cliquez sur Activer. Cette étape est nécessaire une seule fois par modèle et par projet.

Utilisation avec le SDK Python

Le SDK Mistral V2 inclut un client dédié pour Google Cloud :

from mistralai.gcp import MistralGCP

# L'authentification utilise google.auth.default()
# Assurez-vous d'avoir exécuté : gcloud auth application-default login
client = MistralGCP()

response = client.chat.complete(
    model="mistral-small-latest",
    messages=[
        {"role": "user", "content": "Expliquez l'architecture de BigQuery."}
    ]
)

print(response.choices[0].message.content)

Spécifier la région

Par défaut, le client utilise la région europe-west4 (Pays-Bas). Pour changer de région :

client = MistralGCP(region="us-central1")

Les régions disponibles dépendent du modèle. Consultez la documentation Vertex AI pour la liste complète.

Streaming sur Vertex AI

stream = client.chat.stream(
    model="mistral-small-latest",
    messages=[
        {"role": "user", "content": "Listez les services serverless de Google Cloud."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

FIM avec Codestral sur Vertex AI

Codestral sur Vertex AI supporte le Fill-in-the-Middle (FIM) — une fonctionnalité unique pour la complétion de code. Vous fournissez le début et la fin du code, et le modèle génère le contenu intermédiaire :

from mistralai.gcp import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-latest",
    prompt="def calculer_moyenne(notes: list[float]) -> float:",
    suffix="    return moyenne"
)

print(response.choices[0].message.content)

Le modèle génèrera le corps de la fonction entre la signature et le return. Cette approche est particulièrement efficace pour :

• La complétion de fonctions dans un IDE
• Le remplissage de blocs de code manquants
• La génération de code respectant une structure existante

Utilisation avec le SDK TypeScript

import { MistralGoogleCloud } from '@mistralai/mistralai/gcp';

const client = new MistralGoogleCloud({
  region: 'europe-west4',
});

const response = await client.chat.complete({
  model: 'mistral-small-latest',
  messages: [
    { role: 'user', content: 'Comment optimiser une requête BigQuery ?' },
  ],
});

console.log(response.choices?.[0]?.message?.content);

Bonnes pratiques Vertex AI

• Utilisez des comptes de service en production plutôt que l’authentification utilisateur
• Choisissez europe-west4 comme région par défaut pour la conformité européenne
• Activez Cloud Logging pour suivre vos appels et diagnostiquer les erreurs
• Configurez des budgets Cloud Billing pour éviter les dépassements

Points clés à retenir

• Le client MistralGCP utilise l’authentification Google Cloud native (gcloud auth)
• La région par défaut est europe-west4 — modifiable à l’initialisation
• Codestral sur Vertex supporte le FIM (Fill-in-the-Middle) pour la complétion de code
• Aucune clé API Mistral n’est nécessaire : l’authentification passe par Google Cloud IAM
• Activez chaque modèle dans le Model Garden avant de l’utiliser