KI-Halluzinationen vermeiden: Quellen prüfen, aber richtig

Kompass, dessen Nadel auf eine Quelle zeigt, als Bild dafür, KI-Halluzinationen vermeiden zu können, mit der Überschrift Quellen prüfen, aber richtig

Kurz gesagt: KI-Halluzinationen vermeiden Sie an zwei Stellen. Vorher im Auftrag: Geben Sie alles in die erste Nachricht, damit die KI nichts raten muss, und lassen Sie Fehlendes als [offen] markieren. Nachher beim Prüfen: Eine Quelle zeigt nur, wo die KI gesucht hat, nicht, dass die Aussage stimmt.

Dieser Beitrag beruht auf meiner Masterclass „Vom Prompten zum Delegieren“ im Hiscox KI-Bootcamp 2026 am 23. Oktober 2026.

Warum die KI erfindet, was sie nicht weiß

KI-Halluzinationen sind Angaben, die eine KI erfindet: eine Referenz, die es nie gab, eine Zahl ohne Herkunft, ein Zitat, das nirgends steht. Nicht jede Erfindung lässt sich durch einen besseren Auftrag verhindern. Die drei Quellenstudien weiter unten haben vollständig gestellte Einzelfragen geprüft und trotzdem viele Fehler gefunden. Was Sie selbst in der Hand haben, sind Lücken im Auftrag, die die KI mit Annahmen füllt.

Ein Beispiel aus meinem Alltag ist die Bewerbung auf eine Projektausschreibung. Schreiben Sie nur „Schreib mir eine Bewerbung für dieses Projekt“ und fügen die Ausschreibung darunter, rät die KI Ziel, Leser, Länge und Belege. Was sie nicht weiß, erfindet sie. Typische Beispiele für KI-Halluzinationen in solchen Texten sind Referenzen und Zahlen, die niemand geliefert hat. Genau darauf achte ich, wenn ich die bloße Frage mit einem vollständigen Auftrag samt Steckbrief vergleiche, dazu auf austauschbare Sätze und den Bezug zu jeder Muss-Anforderung.

Warum Ergebnisse schlechter werden, wenn Angaben nach und nach kommen, haben Forschende von Microsoft und Salesforce untersucht. Sie beschreiben vier Muster, Halluzinationen haben sie dabei nicht gemessen:

  • Zu früh: Die KI antwortet, bevor alles da ist, und rät den Rest
  • Flickwerk: Sie baut auf eigenen Fehlern auf, statt neu anzufangen
  • Die Mitte: Die erste und die letzte Nachricht wiegen am meisten
  • Zu lang: Lange Antworten bringen vermutlich neue Annahmen mit

Das Modell kann die Aufgabe also. Aber es füllt Lücken mit Annahmen und hält daran fest. Daraus ergeben sich die zwei Stellen, an denen Sie ansetzen: der Auftrag vorher und die Prüfung nachher.

KI-Halluzinationen vermeiden beginnt im Auftrag

Die wichtigste Regel ist schlicht: Alles, was Sie wissen, gehört in die erste Nachricht. Vier Angaben reichen dafür:

  • Ziel: was am Ende vorliegt und für wen
  • Kontext: Unterlagen und Ausgangslage, am besten als Datei, etwa Steckbrief, Ausschreibung oder frühere Texte
  • Grenzen: Umfang, Ton und was nicht passieren darf
  • Maßstab: woran Sie ein gutes Ergebnis erkennen, die KI prüft sich vorher selbst daran

Gegen erfundene Angaben wirkt vor allem ein Satz in den Grenzen:

Nichts erfinden. Fehlt etwas, schreib [offen].

Damit sehen Sie im Ergebnis sofort, wo Ihnen eine Angabe fehlt. Statt einer plausiblen Erfindung steht dort eine Lücke, die Sie füllen können. Gemessen hat das keine der hier genannten Studien, es ist ein Arbeitsschritt aus meiner Praxis. Auch Anthropic empfiehlt, der KI ausdrücklich zu erlauben, eine Lücke zuzugeben. Ganz verhindern lassen sich erfundene Angaben so nicht, wohl aber seltener machen und leichter erkennen.

Für größere Aufträge hängen Sie zusätzlich diesen Zusatz an. Statt zu raten, stellt die KI dann zuerst Rückfragen:

Fang noch nicht an. Was fehlt dir noch? Stell mir alle Rückfragen in einer Nachricht.
Mit meinen Antworten schreibst du einen kurzen Plan, der den ganzen Auftrag enthält.
Setz ihn erst um, wenn ich „Freigabe“ schreibe.

Beantworten Sie die Rückfragen gesammelt in einer Nachricht, nicht einzeln. Dann stehen Auftrag und Antworten im Plan wieder beisammen, und Sie entscheiden, bevor Arbeit entsteht. Für die schnelle Mail lassen Sie den Zusatz weg.

Wie viel die erste Nachricht ausmacht, zeigt die genannte Studie von Microsoft und Salesforce. Dieselbe Aufgabe mit denselben Angaben brachte bei GPT-4o 93 Punkte, wenn alles in der ersten Nachricht stand, und 59 Punkte, wenn die Angaben nach und nach kamen. Im Schnitt aller Versuche waren es rund 90 gegen rund 65 Punkte.

Diese Zahlen sind keine Halluzinationsrate, gemessen wurde die Qualität der Ergebnisse. Die Werte für GPT-4o stammen aus Programmier-, Datenbank-, Mathematik- und API-Aufgaben. Der Schnitt von 90 gegen 65 bezieht sich auf alle Aufgaben der Studie, 600 Aufgaben in sechs Typen mit je zehn Durchläufen, darunter auch Zusammenfassungen. Den Nutzer spielte ein Sprachmodell, die Aufgaben waren englisch, nicht gemessen wurden Deutsch, freies Schreiben und aktuelle Modelle. Für den Alltag folgt daraus trotzdem eine klare Regel: alles in die erste Nachricht. Wie Power-User ihren Auftrag aufbauen, beschreibe ich im Beitrag Richtig prompten.

Eine Quelle zeigt, wo die KI gesucht hat

Ob die Aussage dort auch steht, prüfen Sie selbst. Das ist keine übertriebene Vorsicht. Die Hersteller schreiben es selbst:

  • Microsoft zu Copilot: Antworten können Informationen enthalten, die nicht in den Quellen stehen. Die Verweise sind zum Nachprüfen da
  • OpenAI zur Suche in ChatGPT: Suchergebnisse und Zitate können unvollständig, veraltet oder falsch sein
  • Anthropic zu Claude: Claude kann Zitate anzeigen, die überzeugend klingen, aber nicht belegt sind. Bei der Websuche sollen Sie die zitierten Quellen selbst prüfen

Halluzinationen der KI verschwinden also nicht, nur weil eine Quelle dabeisteht. Die Quellenangabe macht eine Antwort prüfbar, nicht richtig. Manchmal stimmt nicht einmal die Quelle selbst. Öffnen Sie die zitierte Quelle, prüfen Sie, ob es sie gibt, und suchen Sie dort die Stelle, auf die sich die Aussage stützt.

Schneller geht das, wenn die KI die Zuordnung gleich mitliefert. Diesen Quellen-Zusatz hängen Sie an Ihren Auftrag oder schieben ihn im selben Chat nach:

Zeig mir am Ende eine Übersicht: Welche Aussage stammt aus welcher Quelle? Wo hast du wörtlich zitiert, wo nur angenommen? Was du nicht weißt, schreib als „weiß ich nicht“.

Die Übersicht ersetzt nicht den Blick in die Quelle, denn auch sie stammt von der KI und kann selbst falsch sein. Sie zeigt aber, wo Sie zuerst hinsehen sollten: bei den Aussagen, die die KI nur angenommen hat.

Wie oft die Quellen nicht stimmen

Eine einheitliche Zahl für Halluzinationen bei KI gibt es nicht. Für Quellenangaben in KI-Antworten haben aber drei Studien, die nicht von KI-Anbietern stammen, nachgeprüft, wie oft sie stimmen. Sie kommen auf drei verschiedene Werte, und keine sagt: Quellen sind verlässlich.

Taschenrechner mit den Ergebnissen dreier Studien zu fehlerhaften Quellen in KI-Antworten: EBU und BBC 2025 mit 31 Prozent ernsten Quellenproblemen, Tow Center 2025 mit über 60 Prozent falsch zugeordneten Antworten und Nature Communications 2025 mit 50 bis 90 Prozent nicht voll durch ihre Quellen gestützten Antworten
  • EBU und BBC, Oktober 2025: 22 Sender aus 18 Ländern haben über 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity zu Nachrichten geprüft. 45 Prozent hatten mindestens ein erhebliches Problem, 31 Prozent ernste Quellenprobleme
  • Tow Center, Columbia Journalism Review, März 2025: 8 KI-Suchen sollten zu Auszügen aus Artikeln von 20 Verlagen den Originalartikel nennen, 1.600 Anfragen. Über 60 Prozent der Antworten waren falsch zugeordnet
  • Nature Communications, April 2025: 7 Modelle aus dem Jahr 2024, 800 medizinische Fragen, rund 58.000 Paare aus Aussage und Quelle. Je nach Modell waren 50 bis 90 Prozent der Antworten nicht voll durch ihre Quellen gestützt

Zwei Einschränkungen gehören dazu. Die Studien betreffen Nachrichten, Zeitungsartikel und medizinische Fragen, nicht Ihren Arbeitsalltag mit Angeboten, Protokollen oder Bewerbungen. Und die geprüften Modelle sind nicht die von heute. Claude kommt nur in der Nature-Studie vor, in der älteren Version Claude 2.1. Über heutige Modelle sagen die Werte wenig, auch nicht über Claude. Was bleibt, ist die Richtung: Eine Quellenangabe ist ein Hinweis, wo Sie nachsehen können, kein Beleg.

Ergebnisse hinterfragen: drei Nachfragen und eine Prüflinse

Quellen prüfen ist die eine Hälfte. Die andere ist das Ergebnis selbst: Was hat die KI angenommen, und was steht nur da, weil es überall stehen könnte? Für jeden Entwurf stelle ich drei Nachfragen im selben Chat. Bewerbung und Projektleitung ersetzen Sie durch Ihre Textart und Ihren Leser.

Austauschbares

Welche Sätze könnten in jeder Bewerbung stehen? Ersetze sie.

Leserblick

Lies es als Projektleitung. Nach welchem Satz hörst du auf?

Annahmen

Was steht nicht in meinem Auftrag? Markiere es.

Gegen erfundene Angaben hilft vor allem die dritte Nachfrage. Sie holt alles nach oben, was die KI ergänzt hat, ohne dass es in Ihrem Auftrag stand.

Noch weiter trägt eine Prüflinse. Das ist der Maßstab einer echten Person als Datei: Ihr Chef, Ihr Mentor, Ihr schwierigster Kunde. Pro Person eine Datei mit drei Teilen:

  • was der Person wichtig ist
  • wofür sie Punkte abzieht
  • typische Sätze von ihr
Ein Entwurf und eine Prüflinse stehen sich gegenüber, dazwischen die drei Nachfragen Austauschbares, Leserblick und Annahmen

Für den Start reicht eine einfache Vorlage als Datei im Projekt. Aufgerufen wird die Linse mit einer Zeile, für [Name] setzen Sie die Person ein:

Lass [Name] das von 0 bis 30 bewerten. Kriterien vorab, Schwachstellen am Ende.

Ehrlich dazu: Die drei Nachfragen und die Prüflinse stammen aus meiner Praxis. Wissenschaftlich getestet sind sie nicht.

Wenn der Chat an einer falschen Annahme festhält

Nachbessern ja, nachreichen nein. Im Chat bleiben Sie, wenn das Ergebnis im Wesentlichen stimmt, jede Korrektur sichtbar wirkt und Sie nur sagen, was anders werden soll. Neu anfangen sollten Sie in drei Fällen:

  • Ihnen fällt erst im Chat ein, was das Ziel ist
  • die KI hält an einer frühen Annahme fest
  • zwei Korrekturen haben nichts gebracht

Die Schwelle von zwei Korrekturen ist mein Erfahrungswert, keine Zahl aus einer Studie. Die Studie von Microsoft und Salesforce hat das Nachreichen von Angaben gemessen, nicht das Nachbessern eines fertigen Ergebnisses. Den Neustart mit Zusammenfassung empfehlen die Studienautoren aber selbst. Für einen eigenen Chat pro Aufgabe sprechen auch Tests mit langen Eingaben: Mit wachsender Länge lässt die Leistung von Sprachmodellen nach.

Neu beginnen Sie deshalb auch bei einer neuen Aufgabe oder wenn die KI Vereinbartes vergisst. Damit beim Umzug nichts verloren geht, lassen Sie vorher eine Übergabe schreiben:

Wir ziehen in einen neuen Chat um. Schreib mir eine Übergabe, die ich dort als erste Nachricht einfüge, so vollständig, dass du ohne dieses Gespräch weiterarbeiten kannst.
1. Ziel und das Ergebnis, das am Ende stehen soll
2. alle Angaben, die ich gemacht habe, Zahlen, Namen und Daten im Wortlaut
3. getroffene Entscheidungen und was ich ausdrücklich nicht will
4. der Maßstab, an dem ich das Ergebnis messe
5. der Stand, was fertig ist und was offen
Lass Lösungsversuche und verworfene Ideen weg. Wo du nicht sicher bist, ob ich etwas so gemeint habe, markiere es mit [prüfen]. Gib alles in einem Block zum Kopieren aus.

Die Übergabe lesen Sie gegen, vor allem die Stellen mit [prüfen], und fügen sie im neuen Chat als erste Nachricht ein.

Was Sie nie ungeprüft weitergeben

43 Prozent mussten KI-Arbeit neu machen, die ihnen jemand geschickt hat. So steht es in einer Umfrage von Use.AI unter 8.316 Erwachsenen, die KI nutzen, veröffentlicht am 8. Oktober 2026. Das ist eine Anbieterumfrage mit Selbstauskunft, also ein Stimmungsbild und keine Messung. Für Ihre Kunden sind Sie dieser Jemand.

Darum gibt es Aufgaben, die nie oder nur mit Prüfung an die KI gehen:

  • Zusagen an Kunden: Preis, Termin, Umfang
  • Steuer, Recht, Verträge
  • Ihre Haltung

Die Faustregel dafür: Geben Sie ab, was Sie prüfen. Behalten Sie, was Sie unterschreiben.

Welche Aufgaben in Ihrem Unternehmen an die KI gehen können und wo eine Prüfung fest dazugehört, klären wir gemeinsam in der kostenlosen KI-Potenzialanalyse.

Kostenlose KI-Potenzialanalyse buchen

Quellen

Alle Links abgerufen und die Zahlen gegen die verlinkten Veröffentlichungen geprüft am 23. Oktober 2026.

Häufige Fragen

Was sind KI-Halluzinationen?

KI-Halluzinationen sind Angaben, die eine KI erfindet, etwa Referenzen, Zahlen oder Zitate ohne Grundlage. Sie haben mehrere Ursachen, und nicht jede lässt sich durch einen besseren Auftrag verhindern. Was Sie beeinflussen können, sind Lücken im Auftrag: Die KI füllt sie mit Annahmen und hält an ihnen fest, statt nachzufragen.

Wie kann ich KI-Halluzinationen vermeiden?

An zwei Stellen. Vorher geben Sie Ziel, Kontext, Grenzen und Maßstab in die erste Nachricht und setzen die Grenze „Nichts erfinden. Fehlt etwas, schreib [offen].“ Nachher prüfen Sie die Quellen und das Ergebnis selbst, zum Beispiel mit drei Nachfragen zu Austauschbarem, Leserblick und Annahmen.

Ist eine Quellenangabe der KI ein Beleg?

Nein. Eine Quellenangabe zeigt, worauf sich die KI beruft. Ob es die Quelle gibt und ob die Aussage dort steht, prüfen Sie selbst. Das schreiben Microsoft, OpenAI und Anthropic in ihren eigenen Hinweisen zu Copilot, ChatGPT und Claude.

Wie oft stimmen die Quellen in KI-Antworten nicht?

Je nach Studie hatten 31 Prozent der Antworten ernste Quellenprobleme (EBU und BBC, über 3.000 Antworten zu Nachrichten), über 60 Prozent waren falsch zugeordnet (Tow Center, 1.600 Anfragen zu Zeitungsartikeln) oder 50 bis 90 Prozent nicht voll durch ihre Quellen gestützt (Nature Communications, 800 medizinische Fragen). Keine der drei Studien nennt die Quellen verlässlich.

Hilft es, der KI eine Rolle zu geben?

Verlässlich hilft es nicht. In einer Studie mit 162 Rollen und 2.410 Wissensfragen brachte eine Rolle im Prompt keine verlässliche Verbesserung, die Wirkung einzelner Rollen war eher zufällig. Gemessen wurde an Wissensfragen, nicht an Texten. Verlässlicher ist nach meiner Erfahrung ein vollständiger Auftrag mit Ziel, Kontext, Grenzen und Maßstab.

Wann sollte ich einen neuen Chat beginnen?

Wenn die KI an einer frühen Annahme festhält oder zwei Korrekturen nichts gebracht haben. Die zwei Korrekturen sind ein Erfahrungswert aus meiner Praxis, keine Zahl aus einer Studie. Lassen Sie die KI vorher eine Übergabe schreiben und fügen Sie diese im neuen Chat als erste Nachricht ein.

KI-Transparenz: Beiträge auf inseleric.de entstehen mit KI-Unterstützung und werden redaktionell von Eric Insel geprüft. Wie ich KI-Inhalte nach EU-Vorgaben kennzeichne, erkläre ich in meiner EU-AI-Act-Schulung.