KI‑Halluzinationen beim Schreiben reduzieren: Prompts und Workflows

Wie Halluzinationen beim KI-unterstützten Schreiben aussehen

Halluzinationen treten auf, wenn eine KI etwas schreibt, das selbstbewusst und konkret klingt, aber falsch oder einfach erfunden ist. Gefährlich ist der Ton: Ein Satz kann sich wie eine verifizierte Tatsache lesen, obwohl er nur eine Vermutung ist.

Oft erkennst du Halluzinationen an ihren „zu sauberen“ Details. Ein Entwurf enthält plötzlich genaue Zahlen, präzise Daten oder perfekte Zitate, die du nicht geliefert hast. Er kann eine Studie, ein Buch oder einen Expertin zitieren, die es nicht gibt.

Häufige Anzeichen sind:

• Erfundenen Statistiken (zum Beispiel: „72% der Unternehmen verzeichneten einen 3,4‑fachen Anstieg") ohne Quelle.
• Falsche Namen, Titel oder Organisationen, die plausibel klingen.
• Erfundenen Zitate in Anführungszeichen ohne auffindbare Herkunft.
• Saubere Zeitlinien und Daten, die nicht mit der Realität übereinstimmen.
• Selbstbewusste Ursache‑Wirkung‑Aussagen ("X verursacht Y"), wenn die Belege unklar sind.

Das passiert, weil Sprachmodelle wahrscheinliche Wortfolgen vorhersagen. Wenn das Modell nicht genug Informationen hat, füllt es Lücken mit etwas, das zum Muster eines guten Artikels passt. Prompts, die nach Autorität fragen ("füge Statistiken ein" oder "fünf Zitate"), ohne Quellen zu liefern, treiben das Modell in Richtung Improvisation.

Das Ziel ist nicht Perfektion. Es geht darum, riskante Behauptungen entweder zu belegen oder klar als unbestätigt zu kennzeichnen. Ein robuster Prozess macht den Entwurf nützlich, während du kontrollierst, was als Fakt dargestellt wird.

Eine einfache Regel hilft: Wenn eine Behauptung eine Entscheidung, Reputation oder Compliance beeinflussen könnte, behandle sie als hochriskant und fordere eine Quelle, bevor sie im Text bleibt.

Umfang, Zielgruppe und Anspruchsgrenzen zuerst definieren

Wenn du Halluzinationen reduzieren willst, starte vor dem ersten Prompt. Sag dem Modell, was es sagen darf, was es vermeiden muss und für wen es schreibt. Klare Grenzen machen den Entwurf leichter verifizierbar und deutlich schwieriger zu „erfinden“.

Schreibe ein einfaches Behauptungs‑Budget. Es geht nicht um Zögerlichkeit, sondern um Explizitheit.

• Erlaubt: schlichte Erklärungen, Definitionen und Zusammenfassungen der bereitgestellten Quellen.
• Erlaubt: klar gekennzeichnete Meinungen (nur wenn du danach fragst).
• Nicht erlaubt: Statistiken, Rankings, namentliche Zitate oder „laut X“, es sei denn, du lieferst den Quelltext.
• Nicht erlaubt: Daten, Rechts‑/Medizin‑Rat oder Preisangaben, es sei denn, du gibst eine freigegebene Referenz.
• Verpflichtend: Alles Unsichere muss als „muss verifiziert werden“ markiert werden, statt zu raten.

Definiere die Leserschaft mit einem Satz. Beispiel: "Gestresste Marketing‑Managerin, nicht technisch, liest mobil, will eine praktische Checkliste." Diese eine Zeile verändert Ton und Wortwahl mehr als die meisten Stil‑Prompts.

Setze Grenzen für den Umfang, damit das Modell Kontexte nicht vermischt:

• Geografie: global, nur USA, nur EU oder ein bestimmtes Land.
• Zeit: „Stand 2025“ oder „nur die letzten 12 Monate."
• Quellen: „nur die eingefügten Quellen verwenden“ oder „nur interne Notizen verwenden."

Und wähle im Voraus den Ausgabetyp (Blog‑Abschnitt, News‑Zusammenfassung, Glossareintrag). Wenn das unklar ist, neigen Modelle dazu, mit Füllmaterial und riskanten Behauptungen aufzufüllen.

Quellen‑zuerst‑Prompts verwenden, die Belege verlangen

Wenn du eine KI zuerst schreiben lässt und später rechtfertigen lässt, lädst du selbstbewusste Fiktionen ein. Dreh die Reihenfolge um: Lass sie Belege sammeln, bevor sie Behauptungen aufstellt.

Beginne damit, nach einem Quellenplan zu fragen, nicht nach einem Entwurf. Ziel ist eine kleine Menge an Quellen (oder Platzhaltern), auf die sich das Modell beim Schreiben stützen muss.

Ein einfaches Quellen‑zuerst‑Promptmuster

Nutze eine Anfrage in zwei Durchgängen: zuerst Quellen, dann der Entwurf. Halte den Schreibschritt an diese Quellen gebunden.

1. Fordere eine Quellenliste mit maximal 5–8 Einträgen, jeweils mit: Titel, Autor/Organisation, Datum und was sie stützt.
2. Verlange einen Zitier‑Schlüssel für jede Quelle (S1, S2 usw.).
3. Erst danach bitte um den Entwurf, der S1–S8 nach jeder faktischen Aussage zitiert.
4. Wenn das Modell keine Quelle findet oder ableiten kann, muss es schreiben: "No source" und weitermachen.

Dieses "No source"‑Label ist der Punkt. Es macht deutlich, was geprüft werden muss, und verhindert, dass das Modell eine Referenz erfindet, die echt klingt.

Ein Zitierformat erzwingen (auch wenn du später prüfst)

Wähle ein striktes, langweiliges Format, damit du es schnell überfliegen kannst:

• Einstelliger Behauptungssatz endet mit [S#] oder [No source]
• Zitate müssen Sprecher, Kontext und [S#] enthalten
• Zahlen und Daten müssen [S#] enthalten

Beispiel (zum Einfügen in ein Tool oder einen API‑Call):

Task: Write a 700-word section.
Step 1: Propose 6 sources (S1-S6). For each: title, publisher, date, what it supports.
Step 2: Draft the section using ONLY S1-S6. After every factual claim add [S#].
If you cannot support a claim, write [No source] and do not guess.
Output: sources list, then draft.

Hochrisiko‑Behauptungen einschränken (Statistiken, Namen, Zitate, Daten)

Die meisten Halluzinationen verstecken sich in Details, die glaubwürdig klingen: Prozentsätze, Start‑Dates, „Top‑10“‑Rankings und exakte Zitate. Behandle diese als Hochrisiko‑Behauptungen und gib ihnen zusätzliche Regeln.

Eine praktische Leitplanke ist simpel: Wenn der Entwurf Zahlen, Daten, Rankings, Namen oder Zitate enthält, muss er auch eine prüfbare Quelle angeben. Fehlt eine Quelle, soll das Modell die Angabe entfernen oder als unbekannt markieren.

Nützliche Einschränkungen, die du in Prompts einbauen kannst:

• Zahlen und Daten: Erlaube sie nur, wenn der Prompt ein Quell‑Zitat oder eine verifizierte Notiz liefert. Andernfalls: „no confirmed figure available“ schreiben und fortfahren.
• Rankings und „best of“‑Aussagen: Verbiete „#1“, „führend“ und „am beliebtesten“, es sei denn, du lieferst die Methode und Quelle der Rangliste.
• Exakte Zitate: Erfordere kopierten Text aus der Quelle. Keine zitatförmigen Paraphrasen.
• Namen und Studien: Verbanne erfundene Personen, Institutionen, Umfragen und „Forschung zeigt“‑Sätze, sofern du keine Studiendetails lieferst.
• Produktfunktionen: Beschreibe nur, was explizit in deinen Notizen steht. Wenn du unsicher bist, kennzeichne es als unbekannt.

Unsicherheits‑Labels halten Entwürfe brauchbar, ohne vorzutäuschen. Bitte das Modell, riskante Aussagen als confirmed, likely oder unknown zu kennzeichnen. "Likely" nur zulassen, wenn es auch begründet wird (z. B. "basierend auf dem bereitgestellten Changelog‑Ausschnitt").

Ein wiederholbarer Workflow für wenig‑halluzinierende Entwürfe

Der größte Gewinn ist Konsistenz. Verwende jedes Mal denselben kleinen Workflow, damit Verifikation kein Nachgedanke wird.

Eine schnelle Schleife, die dennoch das Risiko trifft:

1. Gliederung mit Behauptungsarten. Kennzeichne jeden Punkt als Kontext/Definition, Meinung/Interpretation oder verifizierbare Tatsache.
2. Schreibe erst die wenig risikoreichen Abschnitte. Definitionen und Hintergrund bevor du Zahlen, Namen, Zitate, Daten oder „Top‑Tools“‑Listen einfügst.
3. Extrahiere eine Behauptungsliste. Ziehe jede faktische Behauptung in eine kurze Tabelle: die Behauptung, warum sie wichtig ist und welche Art Quelle sie stützt.
4. Verifizieren, bearbeiten, dann die betroffenen Teile neu schreiben. Füge bestätigte Details hinzu, entferne schwache Behauptungen und schreibe nur das um, was sich geändert hat.
5. Abschlussdurchgang auf Vollständigkeit und fehlende Zitate. Wenn ein Satz beim Leser ein „Wirklich?“ auslöst, braucht er eine Quelle oder eine abgeschwächte Formulierung.

Beispiel: Wenn ein Entwurf sagt „Google bestätigte X im Jahr 2023“, zwingt die Behauptungsliste zu Nachforschungen: Welche Ankündigung, an welchem Datum und wo ist sie dokumentiert? Wenn du das nicht schnell beantworten kannst, schwäche die Aussage ab oder entferne sie.

Unverifizierbare Aussagen markieren, ohne das Tempo zu brechen

Editing wird langsam, wenn jeder Satz zum Gerichtssaal wird. Ein schnellerer Ansatz ist, den Entwurf sich selbst markieren zu lassen, was geprüft werden muss, und anschließend nur die Hochrisiko‑Zeilen zu verifizieren.

Sag dem Modell nicht nur „sei genau“, sondern veranlasse es, Unsicherheit zu kennzeichnen. Wenn es keine Quelle gesehen hat, darf es nicht sicher klingen.

Verwende auffällige Platzhalter für die Bearbeitung:

• [VERIFY] für Fakten, die du prüfen wirst (Zahlen, Daten, "first/only/biggest"‑Aussagen)
• [SOURCE NEEDED] für Aussagen, die durch eine spezifische Referenz belegt werden müssen
• [UNSURE] für Punkte, die stimmen könnten, aber nicht in den gelieferten Materialien standen
• [QUOTE?] für Zitate oder zugeschriebene Formulierungen

Führe dann einen zweiten Durchgang durch, der markierte Zeilen sicherer umformuliert.

Beispiel: „Acme wurde 2018 gegründet und bedient jetzt 10.000 Kunden.“ Wenn du keine Quelle hast, schreibe: "Acme wurde [VERIFY: Gründungsjahr] gegründet und bedient [VERIFY: Kundenzahl]." Eine sichere Alternative: "Acme ist seit der Gründung stetig gewachsen und bedient Kunden in mehreren Märkten." Weniger spektakulär, aber nicht falsch.

Bei der Prüfung der Markierungen entscheide zügig:

• Löschen, wenn die Angabe nice‑to‑have ist.
• Abschwächen, wenn der Punkt wichtig ist, aber die genaue Angabe unbekannt ist.
• Nachforschen, wenn die Behauptung zentral ist.
• Ersetzen durch Beobachtbares oder ausdrücklich Quellenbasiertes.

Leichte Artefakte, die die Qualitätskontrolle erleichtern

Du kannst Halluzinationen reduzieren, ohne einen schweren Prozess aufzubauen. Der Trick ist, ein paar kleine Artefakte mit dem Entwurf mitlaufen zu lassen, die das Prüfen beschleunigen.

Eine einfache Behauptungstabelle

Halte eine kleine Tabelle neben dem Entwurf (auch als Notiz). Jedes Mal, wenn das Modell eine faktische Aussage macht, erfasse sie einmal und entscheide dann:

• Behauptung (ein Satz)
• Risikoniveau (niedrig/mittel/hoch)
• Quelle (Titel/Autor/Datum oder "noch keine")
• Status (verifiziert, Quelle nötig, entfernen, umformulieren)
• Notizen (was zu prüfen ist, welche Formulierung zu entschärfen ist)

Wenn du "Firma X wurde 2017 gegründet" nicht belegen kannst, behandle es als hochriskant und formuliere den Absatz so um, dass er auch ohne das Datum funktioniert.

Ein wiederverwendbares Zitierprotokoll

Führe getrennt vom Entwurf ein laufendes Zitierprotokoll mit Quellen, die du bereits geprüft hast. Mit der Zeit wird das dein Standard‑Regal für verlässliche Referenzen und reduziert die Versuchung, das zu akzeptieren, was das Modell erfindet.

Halte es einfach: Quellname, wofür sie gut ist und mögliche Einschränkungen (z. B. "gut für Definitionen, nicht für Marktstatistiken").

Eine Roter‑Flag‑Liste und ein kurzes Review‑Skript

Rote Flags verdienen einen zweiten Blick: Superlative ("das beste"), präzise Statistiken, namentliche Personen/Firmen, Zitate, Daten und "erste/einzige/größte"‑Aussagen.

Ein kurzes Review‑Skript reicht:

• Scanne nach roten Flags und markiere sie.
• Prüfe jede Markierung gegen die Behauptungstabelle.
• Fordere eine Quelle für alles Hochrisikohafte.
• Wenn keine Quelle existiert, abschwächen, verallgemeinern oder löschen.
• Bestätige, dass der finale Text zum Umfang und zur Zielgruppe passt.

Fehler, die Halluzinationen durchrutschen lassen

Halluzinationen entstehen meist, wenn das Modell Lücken füllen darf und niemand es bemerkt. Der Hauptteil der Lösung ist, diese Lücken zu schließen.

Häufige Fallen:

• Prompts wie "schreibe einen Expertenartikel" ohne Referenzen oder Quellmaterial.
• Anfragen nach "Branchenstatistiken" ohne Berichtstitel, Datensatz oder Einreichung.
• Umschreibungen, die nach einem prägnanteren Ton jagen und dabei Jahre, Namen oder Grad der Sicherheit stillschweigend ändern.
• Prompts, die Zeitrahmen und Themen vermischen (Vergangenheit, aktuelle Preise, Vorhersagen) ohne klare Grenzen.
• Keine Regel dafür, was zu tun ist, wenn eine Quelle fehlt.

Wenn du Statistiken brauchst, fordere einen bestimmten Quelltyp (benannter Bericht, öffentliches Dataset, Geschäftsbericht) und zwinge das Modell, "unbekannt" zu schreiben, wenn die Angabe nicht verfügbar ist.

Schnelle Checkliste vor der Veröffentlichung

Behandle den Entwurf vor der Veröffentlichung wie eine Sammlung von Behauptungen, nicht als Aneinanderreihung von Sätzen.

Lies einmal für den Sinn. Scanne dann gezielt nach Hochrisiko‑Details: Zahlen, Daten, Rankings, Zitate und alles zu Spezifisches.

• Zahlen, Daten und Rankings: Füge eine nachprüfbare Quelle an oder schreibe es allgemeiner (oder entferne es).
• Zitate und Zuschreibungen: Wenn du es nicht verifizieren kannst, lösche es oder formuliere es als unattribuierte Paraphrase.
• Namen und Schreibweisen: Prüfe Personen, Firmen und Produktnamen. Ein falscher Buchstabe kann eine erfundene Entität erzeugen.
• Umfangsprüfung: Stelle sicher, dass Behauptungen zur angegebenen Region und zum angegebenen Zeitraum passen.
• Umgang mit Unsicherheit: Alles, was du nicht schnell verifizieren kannst, wird umformuliert, mit "variiert je nach" gekennzeichnet oder entfernt.

Ein praktischer Trick: Markiere zweifelhafte Zeilen beim Editieren mit [VERIFY]. Bleiben am Ende noch [VERIFY]‑Markierungen, ist der Beitrag nicht bereit.

Beispiel: Einen riskanten Entwurf in einen quellgeprüften Artikel verwandeln

Stell dir einen Beitrag zur persönlichen Finanzfrage vor: „Soll ich meine Hypothek vorzeitig ablösen oder investieren?“ Hier produziert KI oft selbstbewusste Aussagen über Renditen, Inflation, Steuerregeln und historische Durchschnitte.

Behandle es als Quellen‑zuerst‑Aufgabe, nicht als Kreativauftrag. Beginne mit einem kurzen, strengen Prompt:

Task: Write a 900-word blog post for US readers deciding between extra mortgage payments vs investing.
Scope: General education only. No personal advice.
Allowed claims: Only claims supported by the sources I provide.
High-risk claims (must be cited): rates of return, inflation, tax rules, dates, named products, quotes.
Citations: After any sentence with a high-risk claim, add [S1], [S2], etc.
If a claim cannot be supported: mark it as [UNVERIFIED] and suggest what source is needed.
Sources:
S1: (paste a trusted explainer)
S2: (paste IRS page excerpt or official guidance excerpt)
S3: (paste a reputable calculator methodology page excerpt)

Dann folge einem strengen Ablauf:

• Erst Gliederung (nur Überschriften) und bestätige, dass jeder Abschnitt mindestens eine Quelle hat.
• Draft mit Inline‑Zitaten, [UNVERIFIED] verwenden, wenn nötig.
• Bau eine Behauptungstabelle: kopiere jede Hochrisiko‑Zeile in eine Zwei‑Spalten‑Tabelle (Behauptung, Quellen‑Tag).
• Verifizieren: Prüfe jede Behauptung gegen die Quell‑Auszüge.
• Umschreiben: Entferne, verengere oder schwäche alles, was sich nicht verifizieren lässt.

Eine typische riskante Aussage ist: "Der Aktienmarkt bringt im Durchschnitt 10% pro Jahr." Wenn deine Quellen das nicht so explizit sagen, formuliere es weniger genau: "Langfristige Renditen können je nach betrachteter Periode stark variieren; es gibt keine garantierte jährliche Rendite. [UNVERIFIED: benötigt spezifische Quelle und Zeitraum]" Oder ersetze sie durch eine engere, belegt‑bare Aussage (z. B. "Einige Langzeitstudien berichten für bestimmte Zeiträume von historischen Durchschnittsrenditen. [S1]").

Nächste Schritte: Eine wiederholbare Pipeline aufbauen

Der schnellste Weg, Halluzinationen zu reduzieren, ist aufzuhören, jeden Beitrag als Einzelprojekt zu behandeln. Speichere deine besten Prompts als Vorlagen mit denselben Leitplanken: erlaubte Quellen, verbotene Behauptungsarten und wie Unsicherheit zu markieren ist.

Wenn du in großem Maßstab veröffentlichst, hilft es, wenn deine Tools dieselbe Struktur über Entwürfe, Umschreibungen und Updates unterstützen. GENERATED (generated.app) ist ein Beispiel für eine Content‑Plattform, die Inhalte über eine API generieren, polieren und übersetzen kann und dabei hilft, einen konsistenten Workflow für Entwürfe und Überarbeitungen beizubehalten.