Introduction au RAG

Nouvelle section, nouveau défi : les grands documents. La génération augmentée par la recherche (RAG, Retrieval Augmented Generation) est la technique de référence pour les apprivoiser — elle consiste à découper les documents en morceaux plus petits et à ne fournir à Claude que les parties les plus pertinentes pour chaque question. Avant de la construire pièce par pièce, posons le problème qu’elle résout et l’arbitrage qu’elle impose.

Le problème des grands documents

Le scénario type : vous avez un document massif — un rapport financier de 800 pages, par exemple — et vous voulez poser des questions spécifiques dessus. Comment transmettre les bonnes informations à Claude ? Deux chemins s’offrent à vous, et le premier mérite d’être examiné honnêtement avant d’être écarté.

Option 1 : Tout inclure dans le prompt

L’approche directe consiste à extraire tout le texte et à le mettre dans un seul prompt. Zéro infrastructure, zéro prétraitement — et des limites sérieuses. D’abord une barrière dure : les limites de tokens empêchent les très longs documents de tenir, tout simplement. Ensuite une dégradation sournoise : même quand tout tient, Claude devient moins efficace avec des prompts extrêmement longs — la performance se dégrade quand il y a trop d’informations à trier, l’aiguille se perd dans la botte de foin. Enfin l’économie : les prompts plus gros coûtent plus cher et prennent plus de temps, et ce coût se répète à chaque question — 800 pages refacturées pour demander un chiffre qui tient en deux paragraphes.

Option 2 : Découper en morceaux (RAG)

Le RAG prend une approche plus intelligente en prétraitant les documents en morceaux gérables, puis en ne récupérant que les chunks pertinents pour chaque question :

1. Découper le document en chunks (Perspectives stratégiques, Facteurs de risque, Bilan, etc.)
2. Quand un utilisateur pose une question, analyser ce qu’il cherche
3. Trouver les chunks les plus pertinents pour sa question
4. N’inclure que ces chunks pertinents dans le prompt à Claude

Le renversement est complet : au lieu d’envoyer tout et de laisser Claude trier, on trie d’abord et on n’envoie que l’utile. Le gros du travail — découpage, indexation — se fait une seule fois, en amont ; chaque question n’exécute plus que la recherche et un prompt court.

Avantages du RAG

Les bénéfices découlent tous de cette concentration. Claude peut se focaliser sur le contenu le plus pertinent au lieu de naviguer dans des centaines de pages — la qualité des réponses s’en ressent directement. L’approche passe à l’échelle pour de très grands documents, et fonctionne à travers des collections entières : dix rapports interrogés d’un coup ne changent rien à la taille du prompt. Et l’équation économique s’inverse : des prompts plus petits signifient un traitement plus rapide et des coûts réduits, à chaque question.

Défis du RAG

Le prix à payer est une complexité nouvelle, à regarder en face. Le RAG nécessite une étape de prétraitement pour découper les documents — du code, des choix, du temps de calcul. Il exige un mécanisme de recherche capable de trouver les bons chunks, et c’est une pièce d’ingénierie à part entière : si la recherche rate le passage clé, Claude répondra sans lui, avec aplomb. Les chunks récupérés pourraient aussi ne pas contenir tout le contexte nécessaire — un paragraphe isolé de sa section perd parfois son sens. Et il existe de nombreuses façons de découper le texte, chacune avec ses compromis. Toute la section qui s’ouvre affronte ces défis un par un.

Quand utiliser le RAG

La règle de décision est simple : le RAG excelle quand vous travaillez avec de grands documents ou des collections où les utilisateurs posent des questions spécifiques qui ne nécessitent que des portions du contenu. La complexité du prétraitement se justifie quand vous devez dépasser ce qui tient — confortablement et économiquement — dans un seul prompt. Pour un document de dix pages interrogé deux fois, ne construisez pas de pipeline : joignez le document. C’est l’échelle qui appelle le RAG.

Points clés à retenir

• Le RAG ne fournit à Claude que les extraits pertinents, au lieu du document entier à chaque question
• Tout-dans-le-prompt bute sur les limites de tokens, dilue l’attention et refacture le document en boucle
• Pipeline RAG : découper une fois, puis rechercher + prompt court à chaque question
• Contreparties : prétraitement, qualité dépendante de la recherche, contexte parfois amputé
• Choisissez le RAG à l’échelle — grands documents, collections, questions ciblées