Réduire les hallucinations d'IA dans l'écriture : invites et flux de travail

À quoi ressemblent les hallucinations dans l'écriture assistée par IA

Les hallucinations surviennent lorsqu'une IA écrit quelque chose qui sonne confiant et précis, mais qui est faux ou tout simplement inventé. Le danger vient du ton. Une phrase peut se lire comme un fait vérifié alors qu'il ne s'agit que d'une supposition.

On repère souvent les hallucinations à leurs détails « trop nets ». Un brouillon inclut soudain des chiffres exacts, des dates précises ou des citations parfaites que vous n'avez pas fournies. Il peut citer une étude, un livre ou un expert qui n'existe pas.

Signes courants :

• Statistiques inventées (par exemple, "72% des entreprises ont vu une hausse de 3,4x") sans source.
• Noms, titres ou organisations erronés qui semblent plausibles.
• Citations inventées entre guillemets sans origine traçable.
• Chronologies et dates propres qui ne correspondent pas à la réalité.
• Affirmations causales confiantes ("X cause Y") alors que les preuves sont floues.

Cela arrive parce que les modèles de langage prédisent des séquences de mots probables. Quand le modèle n'a pas assez d'information, il comble les vides par quelque chose qui ressemble au style d'un bon article. Les invites qui demandent de l'autorité ("inclure des stats" ou "ajouter une citation") sans fournir de sources poussent le modèle à improviser.

L'objectif n'est pas la perfection. Il s'agit de s'assurer que les affirmations risquées sont soit étayées par des preuves, soit clairement marquées comme non vérifiées. Un processus solide garde le brouillon utile tout en vous laissant le contrôle de ce qui est présenté comme un fait.

Une règle simple aide : si une affirmation peut affecter une décision, la réputation ou la conformité, considérez-la comme à haut risque et exigez une source avant qu'elle reste dans le texte.

Définir le périmètre, le public et le budget d'affirmations d'abord

Pour réduire les hallucinations, commencez avant la première invite. Indiquez au modèle ce qu'il est autorisé à dire, ce qu'il doit éviter et à qui il s'adresse. Des limites claires rendent le brouillon plus facile à vérifier et beaucoup plus difficile à « inventer ».

Rédigez un budget d'affirmations simple. Ce n'est pas être timide, c'est être explicite.

• Autorisé : explications simples, définitions et résumés des sources fournies.
• Autorisé : opinions clairement étiquetées (uniquement si vous les demandez).
• Interdit : statistiques, classements, citations nommées ou "selon X" à moins que vous fournissiez le texte source.
• Interdit : dates, conseils juridiques/médicaux ou détails de tarification sauf si vous fournissez une référence approuvée.
• Obligatoire : marquer toute incertitude par "needs verification" au lieu de deviner.

Définissez le lecteur en une phrase. Exemple : "Responsable marketing occupé, non technique, lit sur mobile, veut une checklist pratique." Cette seule ligne change le ton et le choix des mots plus que la plupart des invites de style.

Fixez des limites de périmètre pour que le modèle ne mélange pas les contextes.

• Géographie : global, États-Unis uniquement, UE uniquement ou un pays spécifique.
• Temps : "à partir de 2025" ou "seulement les 12 derniers mois."
• Sources : "utiliser uniquement les sources collées" ou "utiliser uniquement les notes internes."

Enfin, choisissez le type de sortie dès le départ (section de blog, résumé d'actualité, entrée de glossaire). Quand c'est vague, les modèles ont tendance à remplir avec des affirmations inutiles.

Utiliser des invites « source-first » qui exigent des preuves

Si vous laissez une IA écrire d'abord puis justifier ensuite, vous l'invitez à produire de la fiction confiante. Inversez l'ordre : faites-lui collecter des preuves avant qu'elle n'affirme quoi que ce soit.

Commencez en demandant un plan de sources, pas un brouillon. L'objectif est un petit ensemble de sources (ou des emplacements) sur lesquelles le modèle devra s'appuyer pour rédiger.

Un modèle simple d'invite source-first

Utilisez une requête en deux passes : d'abord les sources, puis le brouillon. Verrouillez l'étape de rédaction à ces sources.

1. Demandez une liste de sources de 5 à 8 éléments maximum, chacune avec : titre, auteur/organisation, date et ce qu'elle soutient.
2. Exigez une clé de citation pour chaque source (S1, S2, etc.).
3. Ce n'est qu'après cela que vous demandez le brouillon qui cite S1-S8 après chaque affirmation factuelle.
4. Si le modèle ne peut pas trouver ou inférer une source, il doit écrire "No source" et passer à la suite.

Cette étiquette "No source" est le but : mettre en évidence ce qui doit être vérifié et empêcher le modèle d'inventer une référence qui sonne réelle.

Forcer un format de citation (même si vous vérifiez plus tard)

Choisissez un format strict et ennuyeux pour pouvoir le scanner rapidement :

• La phrase d'affirmation se termine par [S#] ou [No source]
• Les citations doivent inclure l'intervenant, le contexte et [S#]
• Les chiffres et les dates doivent inclure [S#]

Exemple (à coller dans un outil ou un appel API) :

Task: Write a 700-word section.
Step 1: Propose 6 sources (S1-S6). For each: title, publisher, date, what it supports.
Step 2: Draft the section using ONLY S1-S6. After every factual claim add [S#].
If you cannot support a claim, write [No source] and do not guess.
Output: sources list, then draft.

Contraindre les affirmations à haut risque (chiffres, noms, citations, dates)

La plupart des hallucinations se cachent dans des détails qui paraissent crédibles : pourcentages, dates de lancement, classements "top 10" et citations exactes. Traitez-les comme des affirmations à haut risque qui nécessitent des règles supplémentaires.

Un garde-fou pratique est simple : si le brouillon inclut des nombres, des dates, des classements, des noms ou des citations, il doit aussi inclure une source vérifiable. Si aucune source n'est disponible, le modèle doit supprimer le détail ou le marquer comme inconnu.

Contraintes utiles à intégrer dans les invites :

• Nombres et dates : autorisez-les seulement quand l'invite fournit un extrait de source ou une note vérifiée. Sinon, écrivez "no confirmed figure available" et continuez.
• Classements et affirmations "meilleur/au top" : interdisez "#1", "leader" et "le plus populaire" à moins que vous fournissiez la méthode de classement et la source.
• Citations exactes : exigez le texte copié-collé depuis la source. Pas de paraphrases présentées comme des citations.
• Noms et études : interdisez les personnes, institutions, enquêtes et lignes "la recherche montre" inventées à moins que vous fournissiez les détails de l'étude.
• Fonctionnalités produit : décrivez uniquement ce qui figure explicitement dans vos notes. Si vous n'êtes pas sûr, étiquetez comme inconnu.

Les étiquettes d'incertitude maintiennent les brouillons utilisables sans prétendre. Demandez au modèle de taguer les affirmations risquées comme confirmé, probable ou inconnu. N'autorisez probable que lorsqu'il indique aussi pourquoi (par exemple, "basé sur l'extrait du changelog fourni").

Un flux de travail reproductible pour des brouillons peu sujets aux hallucinations

Le plus grand bénéfice vient de la constance. Utilisez le même petit flux de travail à chaque fois pour que la vérification ne soit pas une réflexion après coup.

Une boucle rapide qui attrape quand même l'essentiel :

1. Plan avec types d'affirmations. Étiquetez chaque point comme contexte/définition, opinion/interprétation ou fait vérifiable.
2. Rédigez d'abord les sections à faible risque. Écrivez définitions et contexte avant d'ajouter statistiques, noms, citations, dates ou listes de "meilleurs outils".
3. Extrait de la liste d'affirmations. Rassemblez chaque affirmation factuelle dans un petit tableau : l'affirmation, pourquoi elle importe et quel type de source la soutiendrait.
4. Vérifiez, éditez, puis réécrivez les parties affectées. Ajoutez les détails confirmés, supprimez les affirmations faibles et réécrivez seulement ce qui a changé.
5. Passe finale pour certitude et citations manquantes. Si une phrase fait se dire au lecteur "Vraiment ?", elle a besoin d'une citation ou d'un ton plus prudent.

Exemple : si un brouillon dit "Google a confirmé X en 2023", la liste d'affirmations force le suivi : quelle annonce, quelle date et où est-elle enregistrée ? Si vous ne pouvez pas répondre rapidement, adoucissez ou supprimez la phrase.

Signaler les énoncés non vérifiables sans ralentir

L'édition devient lente si chaque phrase se transforme en audience. Une approche plus rapide est de faire en sorte que le brouillon identifie lui-même ce qui doit être vérifié, puis de ne vérifier que les lignes à haut risque.

Au lieu de dire au modèle "sois précis", demandez-lui d'étiqueter l'incertitude. S'il n'a pas vu de source, il ne doit pas avoir l'air sûr.

Utilisez des espaces réservés qui ressortent pendant l'édition :

• [VERIFY] pour les faits que vous vérifierez (nombres, dates, affirmations "premier/seul/plus")
• [SOURCE NEEDED] pour les énoncés qui doivent être appuyés par une référence spécifique
• [UNSURE] pour les éléments qui pourraient être vrais mais ne figurent pas dans les documents fournis
• [QUOTE?] pour toute citation ou phrase attribuée

Faites ensuite une seconde passe qui réécrit les lignes signalées de façon plus sûre.

Exemple : "Acme a été lancé en 2018 et sert maintenant 10 000 clients." Si vous n'avez pas de source, réécrivez : "Acme a été lancé en [VERIFY: year] et sert [VERIFY: customer count]." Une alternative sûre : "Acme a connu une croissance régulière depuis son lancement et sert des clients sur plusieurs marchés." Moins tape-à-l'oeil, mais pas faux.

Quand vous passez en revue les signaux, décidez vite :

• Supprimer si le détail est accessoire.
• Adoucir si l'idée importe mais que le fait exact est inconnu.
• Faire des recherches si l'affirmation est centrale.
• Remplacer par quelque chose d'observable ou clairement sourcé.

Artéfacts légers qui facilitent le contrôle qualité

Vous pouvez réduire les hallucinations sans instaurer un processus lourd. L'astuce est de garder quelques petits artefacts qui accompagnent le brouillon et rendent la vérification rapide.

Un petit tableau d'affirmations

Gardez un tableau simple à côté du brouillon (même en note). Chaque fois que le modèle fait une affirmation factuelle, capturez-la une fois et décidez quoi faire ensuite :

• Affirmation (une phrase)
• Niveau de risque (faible/moyen/élevé)
• Source (titre/auteur/date, ou "aucune pour l'instant")
• Statut (vérifié, besoin de source, supprimer, reformuler)
• Notes (quoi vérifier, quelle formulation adoucir)

Si vous ne pouvez pas sourcer "La société X a été lancée en 2017", traitez-la comme hautement risquée et réécrivez le paragraphe pour qu'il fonctionne même si la date change.

Un journal de citations réutilisable

Séparé du brouillon, conservez un journal des sources déjà vérifiées. Avec le temps, cela devient votre étagère de références fiables et réduit la tentation d'accepter ce que le modèle invente.

Gardez-le simple : nom de la source, à quoi elle sert et ses limites (par exemple, "bon pour définitions, pas pour stats de marché").

Une liste de signaux d'alerte et un script de relecture court

Les signaux rouges méritent une seconde lecture : superlatifs ("le meilleur"), statistiques précises, personnes/entreprises nommées, citations, dates et affirmations "premier/seul/plus".

Un script de relecture court suffit :

• Scanner pour les signaux rouges et les surligner.
• Vérifier chaque surlignage dans le tableau d'affirmations.
• Exiger une source pour tout ce qui est à haut risque.
• Si aucune source n'existe, adoucir, généraliser ou couper.
• Confirmer que le brouillon final respecte le périmètre et le public.

Erreurs qui laissent passer les hallucinations

Les hallucinations apparaissent généralement quand le modèle est autorisé à combler les vides et que personne ne s'en rend compte. La plupart de la solution consiste à supprimer ces vides.

Pièges fréquents :

• Des invites comme "écrire un article d'expert" sans références ni matériel source.
• Des demandes de "statistiques sectorielles" sans nom de rapport, jeu de données ou dépôt.
• Des réécritures qui cherchent un ton plus percutant et changent silencieusement les années, noms ou degrés de certitude.
• Des invites qui mélangent temporalités et sujets (tendances passées, prix actuels, prévisions) sans limites claires.
• Aucune règle sur ce qu'il faut faire quand une source manque.

Si vous avez besoin de statistiques, exigez un type de source spécifique (rapport nommé, jeu de données public, dépôt financier) et forcez "unknown" quand ce n'est pas disponible.

Checklist rapide avant publication

Avant de publier, considérez le brouillon comme un ensemble d'affirmations, pas seulement de phrases.

Lisez une fois pour le sens. Puis scannez pour les détails à haut risque : chiffres, dates, classements, citations et tout ce qui est trop spécifique.

• Nombres, dates et classements : ajoutez une source vérifiable ou réécrivez en généralité (ou supprimez).
• Citations et attributions : si vous ne pouvez pas vérifier, supprimez-les ou transformez-les en paraphrase non attribuée.
• Noms et orthographes : vérifiez personnes, entreprises et noms de produits. Une lettre erronée peut créer une entité factice.
• Vérification du périmètre : assurez-vous que les affirmations correspondent à la région et à la période indiquées.
• Gestion de l'incertitude : tout ce que vous ne pouvez pas vérifier rapidement doit être réécrit, étiqueté ("varie selon") ou retiré.

Une astuce pratique : marquez les lignes douteuses avec [VERIFY] pendant l'édition. Si des tags [VERIFY] restent à la fin, l'article n'est pas prêt.

Exemple : transformer un brouillon risqué en article vérifié par sources

Imaginez un billet sur une question de finances personnelles : "Dois-je rembourser mon prêt hypothécaire plus vite ou investir ?" C'est un terrain où l'IA produit souvent des affirmations sûres sur les rendements, l'inflation, les règles fiscales et les moyennes historiques.

Traitez-le comme une tâche source-first, pas comme un exercice créatif. Commencez par une invite courte mais stricte :

Task: Write a 900-word blog post for US readers deciding between extra mortgage payments vs investing.
Scope: General education only. No personal advice.
Allowed claims: Only claims supported by the sources I provide.
High-risk claims (must be cited): rates of return, inflation, tax rules, dates, named products, quotes.
Citations: After any sentence with a high-risk claim, add [S1], [S2], etc.
If a claim cannot be supported: mark it as [UNVERIFIED] and suggest what source is needed.
Sources:
S1: (paste a trusted explainer)
S2: (paste IRS page excerpt or official guidance excerpt)
S3: (paste a reputable calculator methodology page excerpt)

Puis suivez un flux strict :

• Planifiez d'abord (seulement les titres) et confirmez que chaque section a au moins une source attachée.
• Rédigez avec citations inline, en utilisant [UNVERIFIED] quand nécessaire.
• Construisez un tableau d'affirmations : copiez chaque phrase à haut risque dans un tableau deux colonnes (Affirmation, Balise source).
• Vérifiez : comparez chaque affirmation aux extraits de source.
• Réécrivez : supprimez, réduisez ou adoucissez tout ce qui ne vérifie pas.

Une phrase à risque typique est : "Le marché actions rapporte 10% par an en moyenne." Si vos sources ne le disent pas, réécrivez pour éviter une précision fictive : "Les rendements à long terme varient selon les périodes et aucun rendement annuel n'est garanti. [UNVERIFIED: needs a specific source and timeframe]" Ou remplacez par une phrase plus étroite et sourcée (par exemple, "Certaines études à long terme rapportent des moyennes historiques sur des périodes spécifiques. [S1]").

Prochaines étapes : construire un pipeline reproductible

Le moyen le plus rapide de réduire les hallucinations est d'arrêter de traiter chaque article comme un cas isolé. Sauvegardez vos meilleures invites comme modèles avec les mêmes garde-fous : sources autorisées, types d'affirmations interdits et comment marquer l'incertitude.

Si vous publiez à grande échelle, il est utile que vos outils supportent la même structure à travers brouillons, réécritures et mises à jour. GENERATED (generated.app) est un exemple de plateforme de contenu qui peut générer via une API, aider au polissage et aux traductions, et maintenir un workflow cohérent autour des brouillons et des révisions.