Begriff · Wie Sprachmodelle arbeiten
Kosten pro Token
Auch: Tokenpreis, Nutzungskosten
Kosten pro Token sind der Preis, den ein Anbieter für jedes gelesene und geschriebene Token berechnet; lange Eingaben und Antworten kosten mehr.
Mehr zuWie Sprachmodelle arbeiten
Von Marcus · aktualisiert am
Wer KI über eine Schnittstelle oder einen nutzungsbasierten Tarif einsetzt, zahlt nach Tokens. Meist ist das Schreiben teurer als das Lesen, und größere Modelle kosten mehr als kleinere. Bei einer Pauschale im Chat-Werkzeug siehst du die Kosten nicht direkt, dafür greifen dort Nutzungsgrenzen.
Für den Alltag reicht die Größenordnung: Ein einzelner Entwurf kostet wenig. Teuer wird es, wenn ein automatisierter Ablauf bei jedem Durchgang ganze Dokumente mitschickt, hundertmal am Tag.
Beispiel aus dem Arbeitsalltag
Ein Team plant, jede eingehende Support-Mail automatisch mit dem ganzen Produkthandbuch zu beantworten. Der Probelauf zeigt: Das Handbuch ist bei jeder Mail der größte Kostenblock. Mit Retrieval, also nur den passenden Abschnitten, sinken die Kosten und die Antworten werden genauer.
Häufiges Missverständnis
„Kosten pro Token betreffen nur die Entwicklung.“ Sobald eine Aufgabe regelmäßig und automatisch läuft, sind die Tokens ein laufender Posten, den jemand im Budget verantwortet.
So benutzt du den Begriff
„Bevor wir das automatisieren, rechnen wir die Kosten pro Token für einen typischen Durchgang.“
„Das ganze Handbuch mitzuschicken ist bei diesen Kosten pro Token nicht sinnvoll.“
In diesen Lektionen
Verwandte Begriffe
Weiter stöbern
- BegriffInferenzInferenz ist das Anwenden eines fertig trainierten Sprachmodells: Es bekommt deine Eingabe und erzeugt daraus Token für Token die Antwort.
- BegriffKontextfensterDas Kontextfenster ist alles, was ein Sprachmodell in einem Durchgang gleichzeitig sieht: Anweisung, Material, bisheriger Chatverlauf und die eigene Antwort.
- BegriffThinking-ModusIm Thinking-Modus schreibt ein Sprachmodell vor der Antwort eigene Zwischenüberlegungen; das kostet Tokens und Zeit und hilft bei mehrstufigen Aufgaben.
Der Kurs
Das lernst du im Kurs Schritt für Schritt
Modul 1 (Wie KI funktioniert) behandelt das in der Einheit „Welches Modell für welche Aufgabe“.
Versteh in 7 Lektionen, wie KI arbeitet
Kostenlos: eine kurze Lektion pro Tag, jede mit einem Bild aus dem Alltag und einer Kleinigkeit für deine eigene Arbeit. Sie kommt in dein Postfach, ohne Konto, jederzeit abbestellbar.
Oder mach das Gratis-Quiz, oder sieh dir den Kurs an: 199 € einmalig · 30 Tage Geld-zurück-Garantie.