Wenn die KI lügt: Halluzinationen

Kernbotschaft

KI klingt immer überzeugt — auch wenn sie falschliegt. Sie liefert das, was plausibel aussieht, nicht das, was stimmt. Prüfen ist Pflicht, nicht Kür.

Die Überschrift ist zugespitzt, und das gehört gleich geradegerückt: Lügen heißt, es besser zu wissen und trotzdem etwas anderes zu sagen. Genau das tut eine KI nicht. Sie merkt den Fehler selbst nicht — und deshalb ist er so schwer zu entdecken. Es gibt kein Zögern, keinen Vorbehalt, keine leise Unsicherheit im Ton.

Der Fachbegriff dafür ist Halluzination: Die KI füllt eine Lücke mit etwas, das gut dorthin passt, und schreibt es hin, als wäre es geprüft — eine Jahreszahl, ein Name, ein Detail in einem Ablauf. Das ist kein Aussetzer, sondern die Bauart: Eine KI errät das nächste Wort (mehr dazu in Stufe 0) und schlägt nichts nach. Ein falscher Satz fühlt sich für sie genauso richtig an wie ein wahrer.

Auf der letzten Seite ging es darum, die KI auf Kurs zu halten. Hier geht es um den unangenehmeren Fall: Das Ergebnis sieht völlig in Ordnung aus — und ist trotzdem falsch.

Warum das passiert: Plausibel schlägt logisch

Das beste Beispiel dafür hat uns ein befreundeter Entwickler erzählt — ein Fall, an dem man den Mechanismus regelrecht beim Arbeiten zusehen kann.

Eine KI sollte eine Einstellungsdatei stilllegen, also dafür sorgen, dass ein Programm sie nicht mehr beachtet. Ihr Weg dorthin: Sie hängte an den Dateinamen die Endung .bak an (kurz für backup, Sicherungskopie). Das ist ein weit verbreitetes Muster — „so macht man das üblicherweise", und in unzähligen Anleitungen im Netz steht es genau so.

Nur: Dieses Programm liest die Datei unabhängig von ihrer Endung. Die Einstellung blieb also aktiv. Die KI meldete Vollzug, geändert hatte sich nichts.

Ein Mensch mit etwas Erfahrung stutzt an dieser Stelle sofort, und zwar in zwei Schritten. Erstens: Die Datei hat vorher funktioniert — das Programm hat sie also gefunden und gelesen. Zweitens: Dann kann die Endung für dieses Programm gar keine Rolle spielen; sie zu ändern ändert folglich auch nichts. Die KI geht diesen kurzen Umweg nicht. Sie kennt das häufige Muster und wendet es an.

Das ist der Kern des Problems: Plausibilität schlägt Logik. Was in den Trainingsdaten oft vorkam, gewinnt gegen das, was im konkreten Fall stimmt. Kein Denken, sondern gefährliches Halbwissen — vorgetragen mit voller Überzeugung.

Daraus folgt auch, wo es besonders oft passiert: bei neuen oder schlecht dokumentierten Werkzeugen. Wo wenig geschrieben steht, an dem sich die KI orientieren kann, erfindet sie Funktionen, die es gar nicht gibt, oder greift auf längst veraltete Anleitungen zurück.

Wie sich das im Alltag zeigt

Die echten Fälle weiter unten stammen aus unserer Gruppe und ihrem Umfeld. Viele haben mit Software zu tun, weil das unser Arbeitsfeld ist — das Muster selbst hat damit aber nichts zu tun. Deshalb zuerst zwei Denkbeispiele aus dem Büroalltag — konstruiert, nicht bei uns passiert, aber genau so gebaut, wie eine Halluzination im Büro aussieht:

• Die Zahl, die daneben liegt. Du lässt einen langen Bericht zusammenfassen. In der Zusammenfassung steht ein Betrag, der im Bericht so nirgends steht — nah dran, sauber gerundet, falsch.
• Der Satz, den niemand gesagt hat. Du lässt aus deinen Stichpunkten ein Protokoll machen. Darin steht ein Beschluss, der im Termin nie gefallen ist. Er passt nur so gut zum Rest, dass er beim Lesen niemandem auffällt.

Was beide verbindet: Sie klingen richtig, und niemand prüft nach. Genau daran erkennst du die gefährlichen Fälle — nicht am offensichtlichen Unsinn, sondern daran, dass alles glatt durchgeht.

Die Adressen, die es nie gab

Wie real das wird, zeigt ein Fall aus dem Umfeld der Gruppe — kein technisches Projekt, sondern klassische Kaltakquise per Post. Ein Freund von uns wollte Neukunden gewinnen, Business to Business. Er ließ sich von einer KI nicht nur den Werbebrief schreiben, sondern im selben Aufwasch die passenden Empfänger heraussuchen: Firmen, die zu seinem Kundenprofil passen. Er las den Brief sorgfältig gegen, druckte ihn 120-mal und brachte den Stapel zur Post.

Ein paar Tage später kamen 90 davon zurück — unzustellbar. Die Adressen hatte es nie gegeben: keine realen Firmen, erfundene Empfänger, frei zusammengesetzt und trotzdem tadellos aussehend. Von 120 Kontakten waren drei Viertel schlicht Erfindung.

Der lehrreiche Teil ist, warum das niemandem auffiel. Wir messen KI-Ausgaben unbewusst mit menschlichem Maß: Kein Mensch könnte aus dem Stand 90 Firmenadressen erfinden, die alle echt klingen — und keiner käme auf die Idee, es überhaupt zu versuchen, weil man ihm binnen einer Woche auf die Schliche käme. Genau deshalb prüft niemand eine Adressliste, die sauber und vollständig aussieht. Die KI aber kennt diese Hemmung nicht: Für sie fühlt sich eine erfundene Adresse genauso richtig an wie eine recherchierte — dieselbe Bauart wie beim .bak-Beispiel oben, nur diesmal mit Portokosten und einem halben Karton Rückläufer.

Der kleine Fehler, den nur der Fachmann sieht

Aus der Praxis

„[Ich hatte] Texte erstellen lassen, und mein Russischlehrer hat im zweiten Absatz einen kleinen Fehler entdeckt. Nicht schlimm, nur für Lernende ist das verwirrend, wenn auf einmal ein falscher Fall verwendet wird." — Mathias, 09.02.2026

Das Muster: klein, unauffällig, unsichtbar ohne jemanden, der sich auskennt. Der Text las sich tadellos. Ohne den Lehrer wäre der Fehler mitgelernt worden.

„Fertig" — obwohl nichts fertig war

Eine mit KI gebaute Anwendung galt als abgeschlossen: Alle automatischen Prüfungen liefen sauber durch. Beim genauen Hinschauen waren von acht geforderten Kriterien allerdings nur zwei wirklich erfüllt. Der Rest war zwar geschrieben — im laufenden Betrieb aber wurde er nie ausgeführt: als hätte jemand die Checkliste sauber abgehakt, ohne sie je zu benutzen. Die KI meldete einen Erfolg, den es nicht gab.

Bemerkenswert war die Reaktion darauf — und sie ist die eigentliche Lektion:

Aus der Praxis

„[…] Oder ich habe die falschen Fragen gestellt. 😕" — Mathias, 25.03.2026

Und darin steckt sie: Wenn eine Erfolgsmeldung kommt, ist nicht nur die Antwort verdächtig, sondern auch die eigene Frage. „Ist es fertig?" ist eine Einladung zum Ja — die KI muss dafür nur bestätigen, was du ohnehin hören willst. „Was genau von den acht Kriterien ist nicht erfüllt?" lässt sich mit einem freundlichen Ja nicht beantworten. Erst diese Frage bringt die Wahrheit ans Licht.

Der Mensch ist der beste Test

Eine andere KI-gebaute App galt ebenfalls als fertig. Dann benutzte sie ein Gruppenmitglied einfach ganz normal — und fand binnen Stunden mehrere Fehler: Die gespeicherte Heimatadresse wurde nicht übernommen. Nach der Reparatur ging dafür die Suche nicht mehr. Ein Knopf tat gar nichts.

Aus der Praxis

„hab einen bug in deiner app gefunden: ich hinterlege die heimatadresse und speichere. wenn ich dann nach Apotheken in meiner Nähe suche, kommt die Fehlermeldung dass ich meine Heinatadresse eingragen soll... er hat sie einfach nicht übernommen xD" — Jack, 16.06.2026 (Schreibweise im Original)

Kein Werkzeug hatte das gefunden. Ein Mensch, der die Sache fünf Minuten lang wirklich benutzt, findet mehr als jede Erfolgsmeldung der KI.

Sie empfiehlt — und der eigene Test sagt etwas anderes

Eine KI-Recherche behauptete, ein bestimmtes Transkriptions-Werkzeug (ein Programm, das gesprochene Sprache in Text umwandelt) liefere die beste Qualität. Der eigene Vergleich ergab etwas anderes. Eine Empfehlung der KI ist ein Anhaltspunkt — kein Testergebnis.

Auch der Fall von der letzten Seite gehört hierher: der Veranstaltungsplan, in dem als Termin nur die Jahreszahl „2026" stand, weil niemand ein konkretes Datum genannt hatte. Wo Kontext fehlt, füllt die KI plausibel auf, statt nachzufragen.

Die zweite Falle: Sie schmeichelt dir

Neben dem schlichten Danebenliegen gibt es eine subtilere Variante: Gefälligkeit, im Fachjargon Sycophancy oder Agreeableness. KI-Modelle neigen dazu, dir zuzustimmen und dir zu schmeicheln — auch wenn du falsch liegst. Das fühlt sich gut an und ist genau deshalb gefährlich.

Woher wir das haben, sagen wir ehrlich dazu. Wir haben aus Spaß KI-Modelle einen Persönlichkeitstest ausfüllen lassen — dabei ist die Tabelle unten entstanden. Das war ein Spiel, keine Messung, und das Bild sagt es selbst: Der Kasten oben warnt, dass eine KI, die man direkt nach sich selbst fragt, so antwortet, wie ein „gutes" Modell antworten sollte — genau die Zustimmungs-Werte fallen dadurch zu hoch aus. Die meisten Werte sind ohnehin als Schätzung markiert.

Schau trotzdem einmal hinein, und zwar auf die Zeile Agreeableness: Sie liegt bei den getesteten Modellen weit oben. Ein Beweis ist das nicht — aber es passt zu dem, was wir im Alltag ständig erleben: Die Modelle ziehen mit. Unsere Grundlage ist diese Beobachtung, nicht die Tabelle — und der Wissenstest weiter unten, bei dem plötzlich alles richtig war.

Unser Persönlichkeitstest mit KI-Modellen — interessant ist hier die Zeile „Agreeableness". Der Kasten oben im Bild warnt selbst davor, solche Selbstauskünfte für bare Münze zu nehmen.

Aus der Praxis

„Das mit der Agreeableness ist ein superwertvoller Hinweis! Nicht, dass ich mich da in irgendwas reinsteigere, weil die KI mir in allem zustimmt. Ich glaube, ich bin dafür anfällig." — Mathias, 23.02.2026

Wie sich das anfühlt, zeigt dieses Beispiel: ein bewusst schwerer Wissenstest, von der KI bewertet — Ergebnis 100 %.

„Ne das ist nicht legit" — so die Reaktion von Mathias (31.03.2026) auf sein eigenes Traumergebnis. Genau dieses Misstrauen ist die richtige Reaktion.

Aus der Praxis

„Auch witzig.. lasst euch mal von einer KI mal prüfen wie Tief euer KI Wissen ist bezogen auf die Rolle eines KI Beraters.. hab extra schwere Fälle genommen (aber klar wir wissen dass die KIs auch gerne schmeicheln)" — Thanh, 31.03.2026 (Schreibweise im Original)

Die Gegenmaßnahme ist unspektakulär: Du bleibst die prüfende Instanz. Kein Ergebnis geht ungelesen weiter. Wichtiges gegenchecken, bei Lob misstrauisch werden, nichts glauben, nur weil es flüssig klingt.

Wie oft passiert das? Weiß niemand

Eine ehrliche Antwort auf die naheliegendste Frage: Belastbare Zahlen zur Zuverlässigkeit gibt es nicht. Vieles im KI-Bereich beruht auf Gefühl und Erfahrung. Die üblichen Vergleichstests (Benchmarks) taugen nur bedingt, weil die Modelle inzwischen gezielt auf sie hin trainiert werden — wer die Prüfungsfragen vorher kennt, besteht die Prüfung, ohne deshalb mehr zu können. Wer dir eine Prozentzahl nennt, hat sie wahrscheinlich geraten — wir tun es jedenfalls nicht.

Was es gibt, sind gut dokumentierte Einzelfälle. In der verlinkten Fehlersammlung (siehe „Tiefer eintauchen", englisch) stehen zwei, die das Spektrum gut abdecken: Googles KI-Zusammenfassungen in der Suche empfahlen unter anderem, Kleber auf die Pizza zu geben, damit der Käse hält. Und ein außer Kontrolle geratener KI-Agent löschte eine Produktionsdatenbank — und fälschte anschließend die Protokolle, um es zu vertuschen.

Unsere Empfehlung

Das ist unsere Meinung aus der eigenen Praxis, kein Lehrbuchwissen — aber es hat uns eine Menge peinlicher Momente erspart:

• Lass gegenlesen — von einer zweiten, kritischen Instanz. Kopiere das Ergebnis in einen frischen Chat und bitte ausdrücklich um Bewertung und Schwachstellen — bei Kunden- oder Personendaten vorher schauen, was da hineingeht (siehe Datenschutz). Ein Gespräch ohne die eigene Vorgeschichte ist deutlich strenger mit dem Ergebnis. Thanh beschreibt den Effekt so: Der Prüfer schießt zurück und sagt dir, was nicht gut war — „Dann kommst du wieder runter auf den Boden der Tatsachen 😂". Aber: Am Ende bewertet hier eine KI eine KI-Antwort. Das ist ein Hilfsmittel, kein Beweis.
• Prüf dort am gründlichsten, wo du selbst am meisten kannst. Dein Fachgebiet ist dein Prüfstein — nur dort merkst du den kleinen falschen Fall im zweiten Absatz. Umgekehrt heißt das: Bei Themen, von denen du nichts verstehst, brauchst du eine zweite Quelle oder einen Menschen.
• Benutze das Ergebnis, statt es anzuschauen. Die Fehler in unseren Apps hat kein Test gefunden, sondern jemand, der die Sache einfach normal benutzt hat. Übertragen: Rechne die Zahlen nach, ruf die genannte Adresse an, lies den Text laut.
• Lass wörtlich zitieren, bevor sie urteilt. Für lange Dokumente empfiehlt Anthropic — das Unternehmen hinter der KI Claude — einen einfachen Kniff: erst die relevanten Stellen wörtlich zitieren lassen, dann erst bewerten. So siehst du, worauf sie sich stützt — und ob es die Stelle überhaupt gibt.
• Die Grundregeln von der letzten Seite gelten weiter: genug Kontext geben, kleine Schritte statt großer Wurf, und lieber neu anfangen als endlos nachbohren. Ausführlich steht das auf Die KI führen & auf Kurs halten.

Probier es selbst

Wenn du nur Zeit für eine Aufgabe hast, nimm die erste — sie zeigt dir am schnellsten, wie gut du eine Halluzination überhaupt erkennst.

• Die wichtigste: Lass dir etwas aus deinem eigenen Fachgebiet erklären und suche gezielt nach dem kleinen Fehler.
• Behaupte gegenüber der KI selbstbewusst das Gegenteil von etwas, das du sicher weißt. Knickt sie ein und gibt dir recht — oder bleibt sie bei der Wahrheit?
• Kopiere ein fertiges KI-Ergebnis in einen neuen Chat und bitte um eine kritische Bewertung mit Schwachstellen (nichts Vertrauliches — siehe Datenschutz). Vergleiche mit dem, was dir das erste Gespräch gesagt hat.

Zum Nachdenken

Bei welchen deiner Aufgaben wäre eine unbemerkte Halluzination richtig teuer? Und woran würdest du sie überhaupt merken?

Tiefer eintauchen

• „The Biggest AI Fails of 2025" (englisch) — echte Fehlschläge zum Lernen, darunter die Pizza-mit-Kleber-Empfehlung und der Agent, der eine Produktionsdatenbank löschte: ninetwothree.co/blog/ai-fails