Cas pratique : prompt médical

Un terrain où l’approximation ne pardonne pas

Ce cas pratique se déroule dans un contexte médical, là où la précision est critique et où une erreur de prompting ne se solde pas par une reformulation agacée mais par une conséquence sérieuse. Ce qui distingue ce projet d’un assistant de rédaction généraliste n’est pas sa difficulté technique, c’est le coût de l’échec : une information erronée glissée dans un outil consulté par un professionnel de santé circule, se recopie, et devient très difficile à rattraper.

Quatre exigences se cumulent ici. La précision factuelle d’abord : aucune hallucination n’est acceptable, ce qui revient à dire que le prompt doit rendre le silence préférable à l’invention. Le formatage strict ensuite, parce que les professionnels de santé ont des attentes précises sur la structure des informations et survolent en diagonale un bloc qui ne respecte pas la présentation attendue. Viennent enfin les limites claires — le système doit savoir ce qu’il ne doit pas faire, à commencer par diagnostiquer et prescrire — et la traçabilité, qui impose que chaque affirmation soit sourcée, donc vérifiable.

Poser le rôle avant d’écrire la moindre instruction

Le rôle attribué à Claude remplit ici deux fonctions à la fois : il fixe le registre et il pose la première barrière fonctionnelle. Un prompt système qui se contente d’annoncer un « assistant santé » laisse grande ouverte la porte du conseil thérapeutique ; celui qui nomme explicitement les interdits la referme dès la première ligne.

Tu es un assistant d'information medicale. Tu ne diagnostiques pas et tu ne prescris pas.
Tu fournis des informations factuelles basees uniquement sur les documents fournis.

Notez la restriction aux documents fournis : elle ne dit pas quoi faire, elle circonscrit la matière autorisée. Sans elle, Claude puise dans ses connaissances générales et vous perdez tout moyen de savoir d’où vient une phrase donnée — impossible, dès lors, de la vérifier ou de la corriger à la source.

Séparer les natures d’information

Les entrées d’un tel système n’ont rien d’homogène : on y mélange des données propres au patient, de la littérature de référence et la question posée par le praticien. Les jeter dans un même bloc revient à demander à Claude de deviner ce qui relève du fait établi, ce qui relève de la source et ce qui constitue la demande. Les balises XML lèvent cette ambiguïté en donnant à chaque nature d’information son enveloppe : <dossier_patient> accueille les données du patient, <litterature> les articles et références médicales, <question> la question du professionnel de santé.

Ce découpage sert bien au-delà de la clarté immédiate. Quand une réponse dérape, vous savez dans quelle section chercher le contenu qui a induit Claude en erreur, au lieu de relire un mur de plusieurs milliers de mots en vous demandant quelle phrase a produit cet effet.

Rendre chaque affirmation vérifiable

Demandez à Claude de citer les sources exactes de chaque information fournie. Cette exigence produit deux effets qu’il faut bien distinguer. Elle réduit d’abord les hallucinations, parce qu’une affirmation qui doit être rattachée à un passage précis est plus coûteuse à inventer qu’une phrase flottante. Elle permet ensuite la vérification par un humain compétent : le praticien remonte à la référence en dix secondes, au lieu de refaire lui-même la recherche pour s’assurer que la synthèse tient.

Les garde-fous complètent ce dispositif et gagnent à figurer explicitement dans le prompt : ne pas poser de diagnostic, ne pas recommander de traitement, ne pas contredire un professionnel, et dire clairement quand l’information est insuffisante. Cette dernière consigne est la plus souvent oubliée et la plus utile. Un modèle à qui l’on n’a jamais donné le droit de répondre « les documents fournis ne permettent pas de trancher » comblera le vide, parce que produire une réponse plausible est le comportement qu’on lui a appris.

Ce que le prompt assemble

Ce prompt n’illustre aucune technique isolée : il en combine quatre, et c’est l’intérêt de l’exercice. Le rôle installe l’assistant médical et ses interdits. Les balises XML structurent les données. La chaîne de pensée fait raisonner Claude étape par étape avant sa conclusion, ce qui devient indispensable dès qu’une réponse repose sur le croisement d’un dossier et d’un article. L’anti-hallucination, enfin, tient aux citations et aux portes de sortie qu’on ménage volontairement.

Avant toute mise en service, éprouvez le résultat sur des cas limites et des informations trompeuses : un dossier incomplet, une question hors périmètre, une référence contradictoire glissée dans la littérature. C’est sur ces entrées-là, jamais sur les cas propres, que la solidité du dispositif se révèle.

Points clés à retenir

• Plus le domaine est à risque, plus la part du prompt consacrée aux garde-fous augmente.
• Le rôle système doit nommer les interdits (diagnostiquer, prescrire) et restreindre la matière aux documents fournis.
• Trois balises suffisent à distinguer dossier, littérature et question, et facilitent le débogage.
• L’obligation de citer rend les affirmations vérifiables et rend l’invention plus coûteuse.
• La structure du prompt compte autant que son contenu : testez-la sur des cas limites et des informations trompeuses.