Warum KI überzeugend falsch liegen kann

Der eingebaute Haken

Diese Lektion ist die wichtigste des Kurses. Denn KI-Chatbots haben eine Eigenschaft, die man kennen muss, bevor man ihnen irgendetwas glaubt: Sie erfinden gelegentlich Dinge — und zwar in makellosem Deutsch und felsenfestem Ton. Da wird ein Buch zitiert, das nie geschrieben wurde, ein Paragraf genannt, den es nicht gibt, eine Telefonnummer erzeugt, die ins Leere führt, ein historisches Datum um Jahre verschoben. Fachleute nennen das Halluzination, gesprochen „Ha-lu-zi-na-zjon“ — das Programm „sieht“ gewissermaßen Dinge, die nicht da sind.

Das ist keine seltene Panne, sondern eine Grundeigenschaft dieser Technik. Sie wird mit jeder Programm-Generation seltener, aber sie verschwindet nicht — und wer sie nicht kennt, tappt früher oder später hinein.

Warum das passiert: kein Defekt, sondern Bauart

Erinnern Sie sich an Lektion 1: Ein Chatbot schlägt nicht nach, sondern berechnet die wahrscheinlichste Fortsetzung eines Textes. Meistens ist das Wahrscheinliche auch das Richtige — deshalb funktionieren die Programme so oft so gut. Aber wenn die richtige Antwort in den gelernten Mustern fehlt, passiert nicht das, was ein ehrlicher Mensch täte („Das weiß ich nicht“). Stattdessen produziert das Programm das, was eine richtige Antwort täuschend ähnlich nachbildet: Eine erfundene Quellenangabe hat Autor, Titel und Jahr; ein erfundener Paragraf klingt exakt wie ein echter.

Der Vergleich aus Lektion 1 hilft wieder: der belesene Mensch, der nie nachschlagen darf und immer antworten muss. Fragen Sie ihn nach dem Geburtsjahr eines berühmten Komponisten, liegt er wohl richtig. Fragen Sie nach dem dritten Bürgermeister Ihrer Kleinstadt im Jahr 1962, wird er — weil Schweigen nicht vorgesehen ist — einen plausiblen Namen nennen. Ohne böse Absicht: Der Chatbot lügt nicht, denn Lügen setzt voraus, die Wahrheit zu kennen. Er kennt nur Wahrscheinlichkeiten, und er merkt selbst nicht, wann er erfindet. Genau deshalb gibt es auch kein Warnsignal im Ton: Erfundenes klingt exakt so souverän wie Gewusstes.

Wo Halluzinationen am ehesten lauern

Aus der Bauart folgt, wo Vorsicht besonders angebracht ist:

• Präzise Einzelfakten: Zahlen, Daten, Namen, Adressen, Telefonnummern, Paragrafen, Preise. Je genauer die geforderte Angabe, desto eher wird geraten.
• Quellen und Zitate: Die Bitte „Nenne mir Belege“ beantworten Chatbots notorisch mit erfundenen Titeln — die dann sehr wissenschaftlich aussehen.
• Randthemen: Je seltener ein Thema in den Trainingstexten vorkam — Ihr Heimatort, ein Nischenhobby, ein kleiner Verein —, desto dünner das Muster, desto mehr Erfindung.
• Aktuelles: Was nach dem Wissensstand des Programms geschah, kann es nicht wissen — manche Programme sagen das dazu, andere erfinden munter weiter.
• Suggestivfragen: Fragen Sie „Warum ist X gesund?“, liefert das Programm bereitwillig Gründe — auch wenn X gar nicht gesund ist. Chatbots widersprechen ungern; sie vervollständigen lieber die Richtung, die Sie vorgeben. Das macht sie zu schmeichelhaften, aber unzuverlässigen Bestätigern der eigenen Meinung.

Entspannt bleiben dürfen Sie dagegen bei den Aufgaben aus Lektion 3, bei denen Sie die Fakten liefern: umformulieren, zusammenfassen, erklären, übersetzen, Ideen sammeln. Wo nichts gewusst werden muss, kann wenig erfunden werden.

Ihre Schutzregeln

Aus alledem ergeben sich drei Gewohnheiten, die Sie vor den Folgen schützen:

1. Die Grundhaltung: Behandeln Sie jede Faktenaussage eines Chatbots wie den Hinweis eines belesenen Bekannten — wertvoll als Ausgangspunkt, aber kein Beleg. „Der Chatbot hat gesagt“ hat dieselbe Beweiskraft wie „einer am Stammtisch hat gesagt“, nur in besserem Deutsch.
2. Die Konsequenz-Frage: Fragen Sie sich vor dem Verwenden einer Angabe: Was passiert, wenn das falsch ist? Beim Gedicht zum Geburtstag: nichts. Bei Frist, Dosierung, Überweisung: viel. Je größer die Folgen, desto zwingender die Gegenprüfung in einer verlässlichen Quelle — wie das praktisch geht, zeigt Lektion 6.
3. Nachhaken entlarvt: Fragen Sie ruhig nach: „Bist du sicher? Woher stammt diese Angabe?“ Manchmal korrigiert sich das Programm dann — aber Achtung: Auch die Korrektur kann erfunden sein, und manche Programme knicken bei Widerspruch sogar bei richtigen Antworten ein. Das Nachhaken ersetzt die echte Prüfung nicht, es erinnert Sie nur daran, dass hier nichts felsenfest ist.

Merksatz: Ein Chatbot sagt nie „Ich weiß es nicht“ — er formuliert Erfundenes genauso souverän wie Gewusstes. Je genauer die Angabe und je größer die Folgen, desto nötiger die Prüfung in einer echten Quelle.

Das Wichtigste in Kürze

• Halluzination: Das Programm erfindet plausible, aber falsche Angaben — Bauart, kein seltener Defekt.
• Ursache: Es berechnet Wahrscheinliches statt nachzuschlagen und kennt selbst nicht den Unterschied zwischen wahr und erfunden.
• Kein Warnsignal im Ton: Falsches klingt exakt so überzeugt wie Richtiges.
• Besonders riskant: genaue Zahlen, Namen, Paragrafen, Quellenangaben, Randthemen, Aktuelles, Suggestivfragen.
• Risikoarm sind Aufgaben, bei denen Sie die Fakten liefern: umformulieren, zusammenfassen, übersetzen.
• Grundhaltung: Chatbot-Aussagen sind Stammtisch-Hinweise in gutem Deutsch — bei Folgen fürs Leben immer gegenprüfen.