Une hallucination désigne le cas où une IA générative produit une information fausse, inventée ou inexacte, tout en la formulant avec la même assurance qu'une information correcte. C'est l'une des limites les plus importantes à connaître avant d'utiliser l'IA en contexte professionnel.
Une IA générative ne « sait » pas au sens humain du terme : elle prédit la suite la plus probable d'un texte à partir de ce qu'elle a appris. Lorsqu'elle manque d'information fiable sur un sujet précis, elle peut malgré tout produire une réponse plausible mais incorrecte — une référence juridique inexistante, un chiffre inventé, une citation erronée.
Ce risque est plus élevé sur des sujets très spécifiques, peu représentés dans les données d'entraînement, ou lorsque le prompt est imprécis.
La règle est simple et non négociable : tout contenu généré par une IA doit être relu et vérifié par un professionnel avant d'être transmis à un client, en particulier sur les données chiffrées, les références réglementaires ou les engagements pris au nom du cabinet. Des techniques comme le RAG permettent de réduire ce risque en ancrant les réponses dans des documents vérifiables.
Leur fréquence varie selon le modèle, le sujet traité et la précision du prompt. Elles restent plus probables sur des sujets pointus ou peu documentés.
Fournir un contexte précis dans le prompt, demander à l'IA de citer ses sources, utiliser des techniques comme le RAG, et surtout systématiser un contrôle humain avant toute diffusion.
OPTIGEN CONSEIL — organisme de formation certifié Qualiopi. Contact : Alexandre Brubach — alexandre.brubach@ieseg.fr — 06 60 03 15 11.
Prendre rendez-vous