KI-Halluzinationen erkennen
KI erfindet Fakten — selbstbewusst und überzeugend. Das ist kein Defekt, sondern die Kehrseite ihrer Funktionsweise. Hier sind die Warnsignale und der 30-Sekunden-Check, mit dem du dich davor schützt.
Warum KI überhaupt halluziniert
Ein Sprachmodell ist im Kern eine Maschine, die das nächste Wort vorhersagt. Es berechnet nicht die Wahrheit, sondern die Wahrscheinlichkeit. Das erklärt fast alles: warum es brillant formuliert und im selben Atemzug Fakten erfindet, warum es seinen Irrtum nie bemerkt und warum dieselbe Frage zweimal leicht unterschiedliche Antworten gibt.
Eine Halluzination ist also keine Panne, sondern die logische Folge davon. Ein erfundenes Zitat ist statistisch wahrscheinlich — auch wenn es nie existiert hat. Wer das versteht, behandelt jede KI-Antwort als Entwurf, nicht als Beleg.
Fünf Warnsignale für erfundene Fakten
1 Zu konkrete Details ohne Beleg
Je präziser eine Behauptung klingt, ohne dass eine Quelle dabeisteht, desto eher prüfst du sie. „Studien zeigen, dass 73 % …" ohne Studie ist ein Warnsignal, kein Fakt.
2 Quellen, Studien oder Paragraphen mit Namen
Benannte Quellen wirken seriös — und sind besonders oft erfunden. Modelle erzeugen etwas, das wie eine Quelle aussieht. Öffne jede zitierte Studie, jedes Urteil, jeden Paragraphen selbst.
3 Exakte Zahlen und Daten
Runde, selbstsichere Zahlen und genaue Jahreszahlen klingen verlässlich, sind aber leicht erfunden. Behandle jede Zahl, die zählt, als ungeprüft, bis du sie gesehen hast.
4 Innere Widersprüche
Wenn die Antwort an einer Stelle X und an anderer das Gegenteil sagt, ist mindestens eine Stelle geraten. Lass dir denselben Punkt zweimal erklären und vergleiche.
5 Antworten auf Erfundenes
Frag nach einem Buch oder Gesetz, das es nicht gibt — viele Modelle beschreiben es trotzdem bereitwillig. Wenn die KI nie „das kenne ich nicht" sagt, ist Misstrauen angebracht.
Der 30-Sekunden-Check
- An der Quelle prüfen: Was stimmen muss, verifizierst du am Original — nicht bei der KI und nicht in einem Blogpost.
- Quellen verlangen: „Nenn mir die Quelle und zitier die Stelle wörtlich." Erfundenes bricht hier oft zusammen.
- Unsicherheit erlauben: Sag im Prompt: „Wenn du es nicht sicher weißt, sag das." Das senkt das Erfinden spürbar.
- Gegenrechnen: Stell dieselbe Frage neu formuliert. Weichen die Antworten stark ab, ist mindestens eine geraten.
Wo Halluzinationen besonders teuer sind
Nicht jeder Fehler kostet gleich viel. Eine schiefe Überschrift korrigierst du in Sekunden — eine falsche Zahl im Angebot oder ein erfundener Paragraph im Kundenschreiben nicht. Behandle diese Bereiche grundsätzlich als prüfpflichtig:
- Recht: Paragraphen, Fristen, Urteile — immer am Gesetzestext gegenprüfen.
- Gesundheit & Finanzen: Dosierungen, Beträge, Steuerregeln — nie ungeprüft übernehmen.
- Zitate & Quellen: alles, was du als Beleg weitergibst, vorher selbst öffnen.
- Zahlen nach außen: alles, was an Kunden oder in Veröffentlichungen geht.
Häufige Fragen
Was ist eine KI-Halluzination?
Warum erfindet die KI Quellen?
Wie erkenne ich eine Halluzination?
Sind neuere Modelle frei davon?
Gratis-eBook: „Anti-Hype“
Dieses Denken zieht sich durchs ganze eBook: der 3-Fragen-Filter, dein minimaler KI-Stack und wie du Substanz von Show trennst. Ohne Anmeldung.
eBook lesen →Jeden Werktag: KI ohne Bullshit, in 5 Minuten
aban news liefert dir Mo–Fr die relevanten KI-Entwicklungen für deine Arbeit — ehrlich eingeordnet, ohne Panik und ohne Hype.
5-Min-KI-Briefing gratis →Kein Spam. Abmeldung per Klick. DSGVO-konform.
Weiterlesen
Ehrlichkeits-Hinweis: Dieser Leitfaden enthält keine Affiliate-Links. Halluzinationen lassen sich nicht abschalten, nur eingrenzen — die hier beschriebene Prüf-Routine ersetzt im Einzelfall keine fachliche Verifikation. Bei rechtlich oder gesundheitlich heiklen Themen gilt: an der Primärquelle prüfen oder Fachperson fragen.