Chapitre 03 / 12

Ce qu'un modèle sait faire, et ce qu'il invente

Vous avez peut-être déjà vu un outil répondre avec assurance à côté de la plaque : une référence qui n'existe pas, un chiffre inventé. Le plus gênant, c'est qu'il l'affirme du même ton que lorsqu'il a raison.

Une invention (ou hallucination) survient quand un modèle de langage produit une réponse qui ressemble à une réponse correcte sans être appuyée sur une source réelle. Le modèle ne sait pas qu'il se trompe : il complète une phrase de manière plausible, pas vérifiée.

Pourquoi un modèle invente sans le savoir

Un modèle de langage prédit le mot suivant le plus probable à partir de ce qu'il a appris. Sans document à lire, il produit la réponse la plus vraisemblable, pas la réponse vérifiée.

C'est exactement pour cette raison qu'un assistant IA crédible doit s'appuyer sur vos documents réels plutôt que sur la mémoire générale du modèle : c'est le sujet du chapitre suivant.

Ce qui réduit le risque en pratique

Obliger le modèle à citer sa source et à dire quand il ne trouve rien réduit fortement le risque d'invention.

Un cadre d'évaluation régulier (chapitre 10) permet de mesurer ce risque au lieu de le supposer.

Questions fréquentes

Un assistant IA invente-t-il autant qu'un chatbot grand public ?

Beaucoup moins, quand il est obligé de répondre à partir de vos documents et de citer sa source plutôt que sa mémoire générale.

Peut-on éliminer totalement ce risque ?

Non, on le réduit et on le mesure. Le chapitre 10 explique comment savoir si l'assistant répond juste.

Le problème vient-il du modèle ou de la manière de l'utiliser ?

Des deux, mais la manière de le brancher sur vos documents (chapitre 4) pèse davantage que le choix du modèle seul.

Un assistant qui cite ses sources

L'invention n'est pas une fatalité : un assistant correctement relié à vos documents cite le passage d'où vient sa réponse, et vous pouvez vérifier. Nous construisons les nôtres sur ce principe.

Voir comment l'assistant appuie ses réponses

Tous les chapitres

  1. 01. Ce qu'est un assistant IA, et pourquoi vos équipes cherchent encore
  2. 02. Chatbot interne, assistant IA : ce qui les sépare
  3. 03. Ce qu'un modèle sait faire, et ce qu'il invente
  4. 04. Le RAG : répondre sur vos documents plutôt que sur Internet
  5. 05. Répondre sur vos documents ou autre chose : comment trancher
  6. 06. Brancher l'assistant sur vos logiciels
  7. 07. Agent IA en entreprise : quand l'assistant agit au lieu de répondre
  8. 08. Données personnelles et RGPD : ce qu'un assistant a le droit de lire
  9. 09. IA souveraine et française : où vivent vos données
  10. 10. Comment vous savez qu'il répond juste
  11. 11. Ce que ça coûte vraiment
  12. 12. Pourquoi ça échoue
Faire le point sur ma situation