KI einfach nutzen Du fragst ein KI-Modell nach einer Studie, bekommst eine Antwort mit Fußnote, Autorenname, Jahr und Zeitschriftentitel, alles seriös verpackt. Du suchst den Titel bei Google Scholar. Nichts. Der Autor existiert, hat aber nie etwas in diese Richtung veröffentlicht. Das Journal gibt es, die angegebene Ausgabe nicht. Erfundene Quellen, die aussehen wie echte, gehören zu den nervigsten Nebenwirkungen von KI-Antworten, gerade weil sie plausibel klingen statt offensichtlich falsch zu sein.
KI-Modelle erzeugen Text, indem sie wahrscheinliche Wortfolgen vorhersagen, nicht, indem sie gegen eine Literaturdatenbank abgleichen. Ein Modell, das gelernt hat, wie ein wissenschaftliches Zitat aussieht, kann dieses Muster reproduzieren, ohne dass ein reales Dokument dahintersteckt. Betrifft dich das jedes Mal, wenn du eine KI-Antwort ungeprüft in eine Arbeit, einen Artikel oder eine Präsentation übernimmst.
Sechs Warnsignale, an denen erfundene Quellen auffliegen
Citely hat aus der Praxis von Studierenden sechs typische Muster zusammengetragen 1: Der exakte Titel liefert bei Google Scholar keinen Treffer. Ein angegebener DOI löst sich auf doi.org nicht auf oder führt zu einem anderen Dokument. Die genannte Autorin existiert, aber der Aufsatz taucht in ihrer Publikationsliste nirgends auf. Der Journal-Name klingt fast wie ein echtes Fachblatt, stimmt aber nicht exakt. Die angegebenen Seitenzahlen passen nicht zum Umfang des Hefts. Und, paradox: Wenn ein Titel deine These zu perfekt trifft, ist das selbst ein Warnsignal, weil das Modell dann eher aus deiner Frage generiert als aus echter Literatur.
Kein einzelnes dieser Signale beweist eine Fälschung. Zwei oder drei gemeinsam sind der Punkt, an dem du aufhörst zu schreiben und anfängst zu prüfen.
Vier Schritte statt Bauchgefühl
Metamandrill beschreibt den Kern eines belastbaren Vorgehens in vier Schritten 2: Jede konkrete Behauptung (Name, Zahl, Zitat, Quellenangabe) einzeln herausziehen, bevor du irgendetwas anderes tust. Die exakte Aussage unabhängig suchen, mit Anführungszeichen um die genaue Formulierung; kein Treffer ist ein Warnsignal, kein Beweis. Jede angegebene Quelle tatsächlich anklicken und lesen, ob dort wirklich steht, was behauptet wird, denn ein plausibel aussehendes Zitat mit Autor, Journal und Jahr ist noch keine bestätigte Quelle. Und zuletzt einschätzen, ob die gefundene Bestätigung wirklich unabhängig ist oder nur eine zweite Seite, die dieselbe Behauptung wiederholt.
Wie ernst das gemeint ist, zeigt der Deloitte-Fall: 2025 musste Deloitte Australia einen Teil eines Regierungsauftrags über umgerechnet rund 440.000 australische Dollar zurückzahlen, nachdem ein Forscher der University of Sydney frei erfundene akademische Zitate und ein erfundenes Gerichtszitat im ausgelieferten Bericht fand 2. Ein professionelles Unternehmen, dessen Job Verifikation war, hatte die KI-generierten Belege durchgewunken.
Fünf Signale für Halluzinationen im laufenden Text
Neben komplett erfundenen Quellen gibt es Muster, die schon beim Lesen auffallen 3: zu glatt formulierte Zitate mit Autor, Jahr und Seitenzahl, die fast zu perfekt zur These passen; plausibel klingende, aber nicht auffindbare Fachzeitschriften; DOIs, die auf eine Fehlerseite oder ein völlig anderes Paper führen; bekannte Forschende, kombiniert mit Co-Autoren, mit denen sie nie publiziert haben; und Prozentangaben ohne jede nachvollziehbare Studie dahinter. Faustregel: Je präziser eine Zahl wirkt und je besser sie zur These passt, desto skeptischer solltest du sein, denn echte Forschung ist oft sperriger und schlechter formuliert, als eine KI sie liefert.
Was du realistisch erwarten kannst
Dieser Prüfprozess kostet Zeit, pro Behauptung, nicht pro Text. Es gibt einzelne Werkzeuge, die Arbeit ersparen, etwa DOI-Resolver oder automatisierte Zitations-Checks, aber keine vollautomatisierte Kette von Extraktion bis Bewertung, die dir das eigene Nachdenken abnimmt. Genau das bleibt der Unterschied zwischen einer Antwort, die gut klingt, und einer, die stimmt.