Éviter les hallucinations

De quoi parle-t-on

Claude peut parfois « halluciner », c’est-à-dire produire des affirmations fausses ou non justifiées, énoncées avec le même aplomb que les affirmations exactes. Ce n’est pas une anomalie propre à un modèle particulier : c’est un comportement connu de tous les grands modèles de langage, qui découle de leur fonctionnement même. Il ne s’élimine pas, il se réduit — et le prompt est votre principal levier.

Donner une porte de sortie

La première technique est aussi la plus contre-intuitive : dites explicitement à Claude qu’il est acceptable de ne pas savoir.

"Réponds uniquement si tu es certain de la réponse. Si tu n'es pas sur, dis 'Je ne suis pas certain.'"

Sans cette autorisation, le modèle se trouve dans une situation où toute réponse vaut mieux que pas de réponse : il est là pour aider, et l’aveu d’ignorance ne fait pas partie du répertoire attendu. En nommant une sortie honorable, vous cessez de le pousser à inventer pour être « utile ». Le gain se mesure vite sur des questions de niche, où le taux d’invention chute dès que l’échappatoire existe.

Exiger des preuves avant de répondre

La deuxième technique s’applique aux questions posées sur un document. Au lieu de laisser Claude lire et conclure d’un même mouvement, imposez deux temps : extraire, puis répondre.

"Commence par extraire les passages pertinents du document entre des balises <citations></citations>.
Ensuite, reponds a la question en te basant uniquement sur ces citations.
Si aucune citation ne repond a la question, dis-le explicitement."

L’effet est double. Le modèle doit d’abord montrer sur quoi il s’appuie, ce qui rend l’invention beaucoup plus coûteuse — inventer une citation exige un effort que ne demande pas une affirmation vague. Et vous, côté relecture, disposez des passages exacts pour vérifier la réponse en dix secondes au lieu de relire le document entier.

Baisser la température

Le troisième levier n’est pas dans le texte du prompt mais dans les paramètres d’appel. Une temperature proche de 0 produit des réponses plus conservatrices et standardisées, et peut réduire les hallucinations, surtout sur des questions factuelles. Le compromis est net : ce réglage bride aussi la variété, ce qui est excellent pour une extraction de données et discutable pour de la génération d’idées. Choisissez selon la nature de la tâche, pas par principe.

Combiner les approches

Les meilleures stratégies ne reposent jamais sur une seule de ces techniques. Elles empilent la clarté et la précision dans les instructions, les balises XML pour séparer les données des consignes, la réflexion étape par étape, et la porte de sortie explicite. Chacune traite une cause différente : l’ambiguïté de la demande, la confusion entre données et instructions, la précipitation du raisonnement, la pression à répondre coûte que coûte. Vous reconnaissez ici les quatre leçons précédentes — la lutte contre les hallucinations n’est pas une technique de plus, c’est l’application combinée de tout ce qui précède.

Le cas des informations distractrices

Reste un scénario particulièrement traître. Quand un document contient des informations proches du sujet mais pas exactement pertinentes, Claude peut être trompé : il trouve un passage qui ressemble à une réponse et s’en contente. Pensez à un rapport annuel où figurent le chiffre d’affaires de trois filiales, alors que la question portait sur une seule. La technique « extraire d’abord, répondre ensuite » est particulièrement efficace dans ce cas, parce qu’elle vous met sous les yeux le passage retenu : l’erreur de sélection devient visible, là où une réponse synthétique l’aurait masquée.

À expérimenter

Commencez par le cas le plus simple : Claude affirme parfois des faits erronés sur des célébrités. Modifiez le prompt pour lui donner la possibilité de dire qu’il n’est pas sûr, et observez sur quelles questions il saisit cette perche. Enchaînez ensuite sur un long document : posez une question dont la réponse s’y trouve, exigez l’extraction de citations préalable, puis une réponse fondée uniquement sur ces citations. Glissez enfin dans le document un passage voisin mais hors sujet, et vérifiez laquelle de vos deux versions de prompt s’y laisse prendre.