# Inferenz

Auch: Inference, Modellaufruf

> Inferenz ist das Anwenden eines fertig trainierten Sprachmodells: Es bekommt deine Eingabe und erzeugt daraus Token für Token die Antwort.

Jede Antwort, die du bekommst, ist eine Inferenz: Das Modell liest den Kontext und schreibt Token für Token die Fortsetzung. Dabei ändert sich am Modell nichts. Inferenz kostet Rechenzeit, und genau dafür berechnen Anbieter Gebühren pro Token.

Der Unterschied zum Training erklärt viel: Training formt das Modell einmalig, Inferenz nutzt es bei jeder Anfrage. Nur das Zweite passiert, wenn du im Chat tippst.

## Beispiel aus dem Arbeitsalltag

Eine Anbieter-Seite nennt „Inferenzkosten“. Du liest: Das ist der Preis dafür, dass das Modell deine Anfragen beantwortet, gemessen in Tokens. Mit dem Training hat das nichts zu tun.

## Häufiges Missverständnis

„Inferenz ist eine besonders fortgeschrittene Fähigkeit des Modells.“ Es ist nur der Fachausdruck für das normale Beantworten einer Anfrage mit einem fertigen Modell.

## So benutzt du den Begriff

„Die Inferenz läuft beim Anbieter, nicht auf unserem Rechner.“

„Längere Antworten bedeuten mehr Inferenz und damit mehr Kosten.“

## In diesen Lektionen
- [Vorhersagen statt nachschlagen](/kurs/lesson-sprachmodell-grundlagen/md)

## Verwandte Begriffe
- [Kosten pro Token](/glossar/kosten-pro-token/md)
- [Sprachmodell](/glossar/sprachmodell/md)
- [Token](/glossar/token/md)
- [Training](/glossar/training/md)