Halluzination

Halluzinationen entstehen auf demselben Weg wie richtige Antworten: Das Modell schreibt, was an dieser Stelle plausibel folgt. Fehlt die nötige Information, füllt es die Lücke mit etwas, das so aussieht wie eine Antwort. Besonders anfällig sind genaue Angaben, die es nicht nachschlagen kann: Zahlen, Namen, Paragraphen, Literaturangaben, Termine.

Du erkennst eine Halluzination nicht am Ton. Sie steht genauso sicher da wie der Rest. Du erkennst sie, indem du die tragenden Angaben gegen deine Unterlagen oder die Quelle prüfst.

Beispiel aus dem Arbeitsalltag

Du lässt dir eine Zusammenfassung eines Vertragsentwurfs schreiben. Darin steht „Kündigungsfrist: drei Monate zum Quartalsende“. Im Vertrag steht das nirgends. Das Modell hat eine übliche Formulierung ergänzt, weil sie in solche Zusammenfassungen passt.

Häufiges Missverständnis

„Das Modell lügt.“ Lügen setzt eine Absicht voraus. Ein Sprachmodell hat keine; es setzt Text fort. Hilfreicher als ein Vorwurf ist die Frage, welche Information im Prompt gefehlt hat.

So benutzt du den Begriff

„Die Zahl im Entwurf ist eine Halluzination, im Bericht steht sie nicht.“

„Bei Paragraphen und Fristen rechnen wir mit Halluzinationen und prüfen jede Angabe.“