Bias

Sprachmodelle lernen aus Texten, in denen gesellschaftliche Schieflagen stecken. Das zeigt sich zum Beispiel, wenn Stellenanzeigen für bestimmte Berufe immer mit denselben Eigenschaften beschrieben werden oder wenn Bewertungen für Texte in einfacher Sprache strenger ausfallen. Einzelne Ergebnisse sehen dabei oft unauffällig aus; die Verzerrung zeigt sich erst im Vergleich vieler Fälle.

Besonders heikel ist Bias, wenn KI bei Bewertungen über Menschen mitwirkt, etwa bei Bewerbungen, Leistungsbeurteilungen oder der Vergabe von Leistungen. Dort gehören Stichproben, klare Zuständigkeiten und eine Person, die entscheidet, zum Ablauf.

Beispiel aus dem Arbeitsalltag

Ein Team lässt Kundenanfragen nach Dringlichkeit vorsortieren. Eine Stichprobe zeigt: Anfragen in holprigem Deutsch landen häufiger in „niedrig“, obwohl ihr Anliegen genauso dringend ist. Das Team ändert die Kriterien und prüft die Stichprobe nach einem Monat erneut.

Häufiges Missverständnis

„Bias betrifft nur Fragen von Geschlecht und Herkunft.“ Diese Fälle sind wichtig, aber Verzerrungen gibt es auch bei Sprache, Region, Alter oder Branche. Gemeinsam ist ihnen, dass sie systematisch sind und nicht zufällig.

So benutzt du den Begriff

„Bevor wir die Vorsortierung ausweiten, prüfen wir eine Stichprobe auf Bias.“

„Das sieht nach Bias aus, das eskaliere ich an die zuständige Stelle.“