Begriff · Wie Sprachmodelle arbeiten
Trainingswissen und Kontextwissen
Auch: Parametrisches Wissen, Kontextuelles Wissen, Parametric Knowledge
Trainingswissen steckt fest im Modell und ist ungenau und veraltet; Kontextwissen ist das, was du im Gespräch mitgibst, und kann das Modell genau nachlesen.
Mehr zuWie Sprachmodelle arbeiten
Von Marcus · aktualisiert am
Ein Modell hat zwei Wissensquellen. Das Trainingswissen ist beim Training in seine Zahlenwerte eingeflossen: breit, aber verschwommen, ohne Quelle und nur bis zum Wissensstand. Das Kontextwissen ist das, was gerade im Gespräch steht: Es kann das Modell wörtlich lesen und genau wiedergeben.
Deshalb ist es sicherer, das Modell mit mitgegebenem Material arbeiten zu lassen („Antworte nur anhand dieses Textes“), als es aus dem Gedächtnis antworten zu lassen. Aus dem Training stammen Halluzinationen, aus dem Kontext stammen belegbare Antworten.
Beispiel aus dem Arbeitsalltag
Du fragst nach einer Frist im Mietrecht und bekommst eine plausible Zahl. Dann gibst du den Gesetzestext mit und fragst: „Welche Frist steht hier?“ Die Antwort verweist auf den Absatz und lässt sich nachprüfen.
Häufiges Missverständnis
„Das Modell weiß das, es hat ja das ganze Internet gelesen.“ Gelesen heißt nicht gemerkt. Aus dem Training bleibt ein verschwommener Eindruck, kein Nachschlagewerk.
So benutzt du den Begriff
„Antworte nur aus dem beigefügten Text, nicht aus deinem Trainingswissen.“
„Das kommt aus dem Training, ich prüfe es gegen die Quelle.“
In diesen Lektionen
- Lektion · CoreWarum KI Dinge erfindetWarum erfundene Angaben auf demselben Weg entstehen wie richtige, wo sich KI im Büroalltag fast immer lohnt und wo sie regelmäßig scheitert. Endet mit den zwei Fragen, die die Übung am Ende des Moduls auf deine Woche anwendet.
- Lektion · CoreTools und Wissen mitgebenWas ein Tool dem Modell hinzufügt, was Retrieval bedeutet (ausgewähltes Wissen mitgeben statt antrainieren) und woran du erkennst, ob deiner Aufgabe Wissen, ein Tool oder nur ein besserer Prompt fehlt.
Verwandte Begriffe
Weiter stöbern
- BegriffTrainingTraining ist der einmalige, aufwendige Vorgang, in dem ein Sprachmodell an viel Text lernt, den nächsten Textteil vorherzusagen; danach steht sein Wissen fest.
- BegriffWissensstandDer Wissensstand ist der Zeitpunkt, bis zu dem die Trainingsdaten eines Sprachmodells reichen; was danach geschah, kennt es nur aus deinem Kontext.
- BegriffKontextKontext ist alles, was ein Sprachmodell für deine Aufgabe gerade vorliegen hat: deine Anweisung, mitgegebenes Material und der bisherige Gesprächsverlauf.
Der Kurs
Das lernst du im Kurs Schritt für Schritt
Modul 1 (Wie KI funktioniert) behandelt das in der Einheit „Warum KI Dinge erfindet“.
Versteh in 7 Lektionen, wie KI arbeitet
Kostenlos: eine kurze Lektion pro Tag, jede mit einem Bild aus dem Alltag und einer Kleinigkeit für deine eigene Arbeit. Sie kommt in dein Postfach, ohne Konto, jederzeit abbestellbar.
Oder mach das Gratis-Quiz, oder sieh dir den Kurs an: 199 € einmalig · 30 Tage Geld-zurück-Garantie.