Configurer les guardrails en Python
Passer de la théorie au code
Vous connaissez maintenant le principe des guardrails. Dans cette leçon, vous allez apprendre à les configurer précisément : choisir vos catégories, définir vos seuils, et gérer les réponses de blocage dans votre code Python.
Installation et configuration initiale
Assurez-vous d’avoir le SDK Mistral installé et configuré :
pip install mistralaifrom mistralai import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])Le paramètre guardrails en détail
Le paramètre guardrails accepte un dictionnaire avec quatre clés principales :
guardrails = {
# Activer les guardrails
"enabled": True,
# Seuils personnalisés par catégorie (0.0 à 1.0)
"custom_category_thresholds": {
"sexual": 0.2,
"hate": 0.1,
"violence": 0.3,
"criminal": 0.1,
"selfharm": 0.1,
"health": 0.5,
"financial": 0.5,
"law": 0.5,
"pii": 0.2,
"jailbreaking": 0.1,
"unpredictable": 0.3
},
# Action à effectuer
"action": "block",
# Bloquer si le classifieur est indisponible
"block_on_error": True
}custom_category_thresholds
C’est le coeur de la configuration. Chaque catégorie reçoit un seuil entre 0.0 (tout bloquer) et 1.0 (tout laisser passer).
- Seuil bas (0.1-0.2) : très restrictif, bloque au moindre doute
- Seuil moyen (0.3-0.5) : équilibré, bloque le contenu clairement problématique
- Seuil haut (0.6-0.8) : permissif, ne bloque que le contenu explicite
# Chatbot grand public : seuils très bas
public_thresholds = {
"sexual": 0.1,
"hate": 0.1,
"violence": 0.1,
"criminal": 0.1,
"selfharm": 0.1
}
# Outil interne médical : plus permissif sur la santé
medical_thresholds = {
"sexual": 0.2,
"hate": 0.1,
"violence": 0.3,
"health": 0.8, # Permet les discussions médicales
"pii": 0.1 # Mais strict sur les données personnelles
}ignore_other_categories
Par défaut, toutes les 11 catégories sont évaluées. Si vous ne spécifiez des seuils que pour certaines catégories, les autres utilisent les seuils par défaut.
Pour n’évaluer que vos catégories spécifiées :
guardrails = {
"enabled": True,
"custom_category_thresholds": {
"hate": 0.1,
"violence": 0.2
},
"ignore_other_categories": True, # Ignore les 9 autres
"action": "block"
}Attention : utiliser ignore_other_categories: True désactive la protection sur les catégories non listées. Ne l’utilisez que si vous avez une raison précise.
Exemple complet : chatbot avec guardrails
from mistralai import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def chat_securise(user_message: str) -> str:
"""Envoie un message avec guardrails activés."""
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Vous êtes un assistant professionnel."
},
{
"role": "user",
"content": user_message
}
],
guardrails={
"enabled": True,
"custom_category_thresholds": {
"sexual": 0.2,
"hate": 0.1,
"violence": 0.2,
"criminal": 0.1,
"selfharm": 0.1,
"health": 0.4,
"financial": 0.4,
"law": 0.4,
"pii": 0.2,
"jailbreaking": 0.1,
"unpredictable": 0.3
},
"action": "block",
"block_on_error": True
}
)
# Récupérer les scores de modération
if hasattr(response, "guardrails"):
print(f"Scores: {response.guardrails}")
return response.choices[0].message.content
except Exception as e:
if "403" in str(e):
return "Désolé, cette requête ne peut pas être traitée."
raise
# Utilisation
print(chat_securise("Expliquez-moi le machine learning"))
# → Réponse normale avec scores
print(chat_securise("Comment pirater un système ?"))
# → "Désolé, cette requête ne peut pas être traitée."Gérer les erreurs de blocage proprement
En production, vous devez intercepter les erreurs 403 et fournir une réponse utilisateur appropriée :
from mistralai import Mistral
from mistralai.models import SDKError
def chat_avec_gestion_erreurs(user_message: str) -> dict:
"""Chat avec gestion complète des erreurs guardrails."""
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": user_message}],
guardrails={
"enabled": True,
"custom_category_thresholds": {
"hate": 0.1,
"violence": 0.2,
"jailbreaking": 0.1
},
"action": "block",
"block_on_error": True
}
)
return {
"status": "ok",
"content": response.choices[0].message.content,
"guardrails": getattr(response, "guardrails", None)
}
except SDKError as e:
if e.status_code == 403:
return {
"status": "blocked",
"content": "Votre message a été bloqué par notre "
"politique de sécurité.",
"reason": str(e)
}
elif e.status_code == 3201:
return {
"status": "error",
"content": "Service de modération indisponible. "
"Requête bloquée par précaution."
}
raiseBonnes pratiques de configuration
Commencer restrictif, puis ajuster
Démarrez avec des seuils bas (0.1-0.2) et augmentez progressivement en fonction des faux positifs observés :
# Phase 1 : Lancement (très restrictif)
phase1 = {"hate": 0.1, "violence": 0.1, "criminal": 0.1}
# Phase 2 : Après analyse des faux positifs
phase2 = {"hate": 0.15, "violence": 0.25, "criminal": 0.1}
# Phase 3 : Production stable
phase3 = {"hate": 0.2, "violence": 0.3, "criminal": 0.15}Toujours activer block_on_error
En production, le mode fail-safe est indispensable. Si le classifieur tombe, mieux vaut bloquer que laisser passer du contenu non vérifié.
Logger les scores pour le monitoring
Conservez les scores de modération de chaque requête. Ils sont précieux pour ajuster vos seuils et détecter les tendances.
Points clés à retenir
- Le paramètre
guardrailsse configure avec 4 clés :enabled,custom_category_thresholds,action,block_on_error - Les seuils vont de
0.0(tout bloquer) à1.0(tout accepter) - Interceptez les erreurs
403pour fournir une réponse utilisateur claire - Commencez restrictif et ajustez selon les faux positifs
block_on_error: Trueest obligatoire en production