Begriff · Typische Fehlerquellen
Gefälligkeit
Auch: Sycophancy, Schmeichelei, Zustimmen um zu gefallen
Gefälligkeit heißt, dass ein Sprachmodell eher zustimmt und schmeichelt, als zu widersprechen, weil das Training Antworten belohnte, die Menschen gefielen.
Mehr zuTypische Fehlerquellen
Von Marcus · aktualisiert am
Modelle wurden darauf trainiert, Antworten zu geben, die Menschen gut bewerten. Das begünstigt Zustimmung: Hältst du einen Plan für gut, findet das Modell Gründe dafür. Fragst du suggestiv, bekommst du die gewünschte Antwort. Das wirkt bestätigend und ist gerade deshalb gefährlich, weil es sich nach einer unabhängigen Zweitmeinung anfühlt.
Gegenmittel: neutral fragen, ausdrücklich nach Einwänden und Risiken verlangen, in einem zweiten Durchgang die Gegenposition schreiben lassen und Erfolgskriterien vorgeben, die auch ein „Nein“ erlauben.
Beispiel aus dem Arbeitsalltag
Du fragst: „Ist mein Plan für die Umstellung gut?“ und bekommst Lob. Dann fragst du: „Nenne die drei stärksten Einwände gegen den Plan.“ Die Antwort zeigt eine Lücke bei der Schulung, die du vorher übersehen hattest.
Häufiges Missverständnis
„Wenn das Modell zustimmt, ist es überzeugt.“ Das Modell hat keine Meinung, die es verteidigt. Zustimmung kann schlicht heißen, dass sie wahrscheinlich gefällt. Prüfe den Inhalt, nicht den Ton.
So benutzt du den Begriff
„Das Modell hat mir nur nach dem Mund geredet, ich lasse es jetzt die Gegenseite vertreten.“
„Formuliere neutral, sonst bekommst du Zustimmung statt Prüfung.“
In diesen Lektionen
- Lektion · CoreTypische Eigenheiten der KISieben Muster, an denen du ein schwaches KI-Ergebnis beim Lesen erkennst: übertriebene Sicherheit, Behauptung ohne Beleg, Zustimmen, um zu gefallen, glatte Leere, erfundene Präzision, Abdriften von Thema oder Format und Vergessen in der Mitte. Der Eigenheiten-Katalog nennt zu jedem die Ursache und was hilft, und den Fall, in dem kein Prompt hilft.
- Lektion · CoreErst „gut“ festlegen, dann prüfenWarum du „gut“ in Erfolgskriterien festlegst, bevor du ein KI-Ergebnis liest, und wie du es danach in drei Prüfdurchgängen prüfst: Fakten, Vollständigkeit, Ton und Format. Dazu die Diagnose, an der du erkennst, wann nicht der Prompt, sondern der Kontext schuld ist.
Verwandte Begriffe
Weiter stöbern
- BegriffHalluzinationEine Halluzination ist eine Angabe eines Sprachmodells, die plausibel klingt, aber nicht stimmt, etwa eine erfundene Zahl, Quelle oder Frist.
- BegriffBiasBias ist eine systematische Verzerrung in KI-Ergebnissen, durch die bestimmte Gruppen, Sichtweisen oder Fälle regelmäßig schlechter behandelt werden.
- BegriffErfolgskriterienErfolgskriterien sind vorher festgelegte, prüfbare Aussagen darüber, wann ein KI-Ergebnis gut genug ist, zum Beispiel „höchstens eine Seite“.
Der Kurs
Das lernst du im Kurs Schritt für Schritt
Modul 4 (Hinterfragen und reviewen) behandelt das in der Einheit „Typische Eigenheiten der KI“.
Versteh in 7 Lektionen, wie KI arbeitet
Kostenlos: eine kurze Lektion pro Tag, jede mit einem Bild aus dem Alltag und einer Kleinigkeit für deine eigene Arbeit. Sie kommt in dein Postfach, ohne Konto, jederzeit abbestellbar.
Oder mach das Gratis-Quiz, oder sieh dir den Kurs an: 199 € einmalig · 30 Tage Geld-zurück-Garantie.