Token

Ein Modell liest keine Buchstaben und keine ganzen Sätze, sondern Tokens. Kurze, häufige Wörter sind oft ein einziges Token, lange deutsche Zusammensetzungen wie „Budgetfreigabeprozess“ zerfallen in mehrere. Als Faustregel ist eine Normseite deutscher Text einige hundert Tokens lang.

Tokens sind die Einheit für alle Grenzen und Preise eines Werkzeugs: wie viel in ein Gespräch passt, wie lang eine Antwort werden darf und was eine Anfrage kostet. Die Antwort des Modells zählt dabei mit.

Beispiel aus dem Arbeitsalltag

Das Werkzeug meldet bei einem langen Vertrag „Eingabe zu lang“. Der Vertrag hat vierzig Seiten, das sind grob zwanzigtausend Tokens plus deine Anweisung. Statt ihn zu kürzen, bis es passt, gibst du nur die drei Paragraphen mit, um die es geht.

Häufiges Missverständnis

„Ein Token ist ein Wort.“ Oft stimmt das ungefähr, aber nicht immer: Zahlen, Fachbegriffe und lange Komposita brauchen mehr Tokens, als man denkt. Rechne deshalb in Seiten und Größenordnungen, nicht in Wörtern.

So benutzt du den Begriff

„Das Protokoll ist zu lang für ein Gespräch, das sind zu viele Tokens. Ich gebe nur die Beschlüsse mit.“

„Die Antwort verbraucht auch Tokens, deshalb bitte ich um höchstens eine halbe Seite.“