Les limites et hallucinations de ChatGPT

Ce que ChatGPT ne sait pas faire, et pourquoi cela compte

Savoir se servir de ChatGPT, c’est d’abord savoir où il achoppe. L’outil est puissant, mais il présente des failles systémiques : elles ne disparaissent pas avec l’expérience, elles se contournent. Cette leçon est sans doute la plus décisive de la formation, parce qu’elle sépare l’utilisateur qui vérifie de celui qui diffusera un jour une information fausse avec assurance.

Les hallucinations : quand le modèle invente

Une hallucination est une réponse qui a toutes les apparences de la justesse — formulation assurée, structure impeccable — et qui est factuellement fausse. ChatGPT ne ment pas : il produit la suite de mots la plus probable, parfois inexacte. Il ne consulte aucune base de faits vérifiés, il prédit du texte à partir de motifs appris. Quand il ne « sait » pas, il ne s’arrête pas pour le dire ; il génère une réponse plausible.

Le phénomène prend des formes reconnaissables : une citation attribuée à quelqu’un qui ne l’a jamais prononcée, cas le plus fréquent et le plus embarrassant en réunion ; une source fictive, article de presse, livre ou étude dont le titre sonne juste mais qui n’existe pas ; des dates, statistiques ou événements inventés ; et la confusion entre deux personnes aux parcours voisins, fondues en une biographie hybride.

La parade tient en quatre réflexes. Vérifiez indépendamment toute information critique — chiffre, date, nom, source. Activez la recherche web sur les questions factuelles, puisqu’elle fournit des liens contrôlables. Demandez explicitement les sources : « Cite tes sources pour cette affirmation. » Si aucun lien vérifiable ne vient, l’information est suspecte. Enfin, montez le niveau de raisonnement de GPT-5.6 sur les questions délicates : un modèle qui prend le temps de réfléchir hallucine sensiblement moins.

Ce que le modèle ne peut pas savoir

Les connaissances de ChatGPT s’arrêtent à une date de coupure. Sans recherche web, tout ce qui s’est produit après est invisible, et il n’en a pas nécessairement conscience : pour l’actualité, activez la recherche, sans exception.

La couverture est aussi inégale selon les sujets. Sur un domaine largement documenté, les réponses sont excellentes ; sur un sujet de niche ou peu écrit, la qualité chute nettement — et rien dans le ton ne vous en avertit. Même phénomène sur les langues : le français est très bien servi, les langues moins représentées dans les données d’entraînement beaucoup moins.

Les limites de raisonnement

Un calcul en plusieurs étapes reste un point faible : GPT-5.6 peut se tromper dans un enchaînement d’opérations si vous le laissez répondre sans effort de réflexion. Pour un calcul qui engage une décision, augmentez le réglage de raisonnement ou recoupez avec un outil dédié. Les chaînes logiques très longues, au-delà d’une dizaine d’étapes, exposent au même risque : le fil se perd, des incohérences s’introduisent en route. Quant au comptage, c’est le défaut le plus contre-intuitif du modèle : dénombrer des lettres, des mots ou des éléments d’une liste lui pose de réelles difficultés. Demandez-lui combien de fois la lettre R apparaît dans le mot « fraise » et vous obtiendrez peut-être une réponse fausse, sur une tâche qu’un enfant réussit.

Les limites pratiques d’une conversation

Chaque échange dispose d’une fenêtre de contexte, la quantité maximale de texte que le modèle garde sous les yeux. Sur une conversation très longue, le début finit par en sortir : ChatGPT « oublie » vos consignes initiales. Passé plusieurs dizaines de messages, ouvrez un nouveau fil en y recollant un résumé des points clés.

Le même effet joue sur les productions longues : faites rédiger un document de vingt pages section par section, et des contradictions apparaîtront entre les parties. La relecture d’ensemble n’est pas facultative, et les incohérences signalées se corrigent en un message. S’y ajoutent les biais des données d’entraînement, qui transparaissent sur les sujets sensibles et justifient de croiser avec d’autres sources.

Éprouvez-le vous-même

Rien ne remplace l’expérience directe de l’erreur. Demandez une citation précise d’un auteur français et cherchez-la sur Google. Posez une question sur un événement très récent sans activer la recherche web. Faites faire un calcul en cinq étapes et refaites-le à la main. Demandez enfin combien de lettres R contient le mot « extraordinaire », puis comptez vous-même. Ces quatre essais donnent le sens intuitif — plus fiable qu’une règle apprise — du moment où il faut vérifier.

Deux travers guettent ensuite. La confiance aveugle d’abord : plus l’enjeu est élevé, plus le contrôle doit être serré. L’excès inverse ensuite, accuser l’outil quand la demande était floue ; avant de conclure à l’erreur, reformulez. Et quand une réponse « sonne » bien sans certitude de votre part, accordez-lui trente secondes de vérification — toujours moins coûteux que de corriger après diffusion.

Points clés à retenir

• Les hallucinations sont inhérentes au fonctionnement de ChatGPT — il génère du texte probable, pas nécessairement vrai
• Vérifiez toujours les faits critiques, citations, sources et données chiffrées
• La recherche web et un niveau de raisonnement élevé réduisent mais n’éliminent pas les hallucinations
• ChatGPT a des limites en calcul, comptage, cohérence longue et sujets de niche
• Connaître ces limites ne diminue pas l’utilité de ChatGPT — au contraire, cela vous rend plus efficace