Les limites et hallucinations de ChatGPT

Ce que ChatGPT ne sait pas faire (et pourquoi c’est important)

Savoir utiliser ChatGPT efficacement, c’est aussi connaître ses limites. ChatGPT est un outil extraordinairement puissant, mais il a des failles systémiques qu’il faut comprendre pour ne pas tomber dans les pièges. Cette leçon est peut-être la plus importante de la formation.

Les hallucinations : quand ChatGPT invente

Une hallucination, dans le contexte des modèles de langage, c’est une réponse qui semble correcte, qui est formulée avec assurance, mais qui est factuellement fausse. ChatGPT ne « ment » pas volontairement — il génère la suite de mots la plus probable, et parfois cette suite est fausse.

Exemples typiques d’hallucinations

• Citations inventées : ChatGPT peut attribuer une citation à une personne qui ne l’a jamais dite
• Sources fictives : il peut citer un article de journal, un livre ou une étude qui n’existent pas
• Faits incorrects : des dates, des statistiques ou des événements inventés
• Personnes confondues : mélanger les biographies de deux personnes au parcours similaire

Pourquoi ça arrive

ChatGPT ne consulte pas une base de données de faits vérifiés. Il prédit le texte le plus probable en fonction des motifs appris pendant l’entraînement. Quand il ne « sait » pas, au lieu de dire « je ne sais pas », il génère une réponse plausible — qui peut être fausse.

Comment s’en protéger

• Vérifiez les faits critiques : si une information est importante (chiffre, date, nom, source), vérifiez-la indépendamment
• Activez la recherche web : pour les questions factuelles, la recherche web fournit des sources vérifiables
• Demandez les sources : « Cite tes sources pour cette affirmation. » Si ChatGPT ne peut pas fournir de lien vérifiable, l’information est suspecte
• Utilisez les modèles de raisonnement : o3 et o4-mini hallucinent généralement moins que GPT-5.3 sur les questions factuelles

Les limites de connaissances

Date de coupure

Les connaissances de ChatGPT ont une date de coupure. Sans recherche web, il ne connaît pas les événements survenus après cette date. Pour les informations récentes, activez toujours la recherche web.

Sujets de niche

ChatGPT est excellent sur les sujets largement documentés. Sur des sujets très spécifiques ou de niche, la qualité des réponses baisse significativement.

Langues minoritaires

La qualité des réponses en français est excellente, mais elle diminue pour les langues moins représentées dans les données d’entraînement.

Les limites de raisonnement

Calculs complexes

GPT-5.3 peut faire des erreurs sur des calculs en plusieurs étapes. Pour les calculs critiques, utilisez o3/o4-mini ou vérifiez avec un outil dédié.

Logique longue

Sur des chaînes de raisonnement très longues (plus de 10 étapes), ChatGPT peut perdre le fil ou introduire des incohérences.

Comptage

ChatGPT a du mal à compter les lettres, les mots ou les éléments dans une liste. Si vous demandez « combien de fois la lettre R apparaît dans le mot fraise », il peut se tromper.

Les limites pratiques

Taille du contexte

Chaque conversation a une taille maximale de contexte (la « fenêtre de contexte »). Sur de très longues conversations, ChatGPT peut « oublier » ce qui a été dit au début. Si la conversation dépasse plusieurs dizaines de messages, envisagez d’en ouvrir une nouvelle avec un résumé des points clés.

Cohérence dans les tâches longues

Si vous demandez à ChatGPT de rédiger un document de 20 pages section par section, des incohérences peuvent apparaître entre les sections. Relisez l’ensemble et signalez les contradictions.

Biais

ChatGPT peut refléter des biais présents dans ses données d’entraînement. Sur des sujets sensibles ou controversés, croisez toujours avec d’autres sources.

Mise en pratique

Testez les limites de ChatGPT pour mieux les comprendre :

1. Demandez une citation précise d’un auteur français et vérifiez-la sur Google
2. Posez une question sur un événement très récent sans activer la recherche web — observez la réponse
3. Demandez un calcul en 5 étapes et vérifiez le résultat à la main
4. Demandez « Combien de lettres R dans le mot extraordinaire ? » et comptez vous-même

Ces exercices vous donneront un sens intuitif de quand faire confiance à ChatGPT et quand vérifier.

Erreurs courantes

• Faire confiance aveuglément : c’est l’erreur numéro un. ChatGPT n’est pas une encyclopédie infaillible. Plus l’enjeu est élevé, plus vous devez vérifier.
• Blâmer l’outil quand c’est le prompt le problème : souvent, une mauvaise réponse vient d’une question imprécise. Avant de conclure que ChatGPT se trompe, essayez de reformuler.
• Ignorer les hallucinations par paresse : si une information « sonne » bien mais que vous n’êtes pas sûr, prenez 30 secondes pour vérifier. C’est toujours plus rapide que de corriger une erreur après diffusion.

Points clés à retenir

• Les hallucinations sont inhérentes au fonctionnement de ChatGPT — il génère du texte probable, pas nécessairement vrai
• Vérifiez toujours les faits critiques, citations, sources et données chiffrées
• La recherche web et les modèles de raisonnement (o3, o4-mini) réduisent mais n’éliminent pas les hallucinations
• ChatGPT a des limites en calcul, comptage, cohérence longue et sujets de niche
• Connaître ces limites ne diminue pas l’utilité de ChatGPT — au contraire, cela vous rend plus efficace