Was ist das Knowledge Cutoff Date?

Das „Knowledge Cutoff Date" (deutsch etwa: Wissensstichtag) bezeichnet bei Large Language Models (LLMs) den Zeitpunkt, bis zu dem Informationen in die Trainingsdaten eines Modells eingeflossen sind.

Wissen über Ereignisse, Entwicklungen und Fakten nach diesem Datum ist im LLM nicht enthalten.

1. Bedeutung des Knowledge Cutoff Dates

Stell dir vor, du willst aktuelle Infos über ein Ereignis, das gerade erst passiert ist. Wenn das Knowledge Cutoff Date deines LLMs aber schon ein paar Monate oder sogar Jahre zurückliegt, dann hat es von diesem Ereignis keine Ahnung und kann dir keine Infos dazu geben.

So weiß ChatGPT (mit GPT-3.5) etwa nicht, wer den Super Bowl 2024 gewonnen hat.

Das kann manchmal ziemlich unpraktisch sein, besonders wenn du auf dem neuesten Stand bleiben möchtest.

Außerdem kann es passieren, dass das LLM aufgrund seines veralteten Wissensstands „halluziniert". Das heißt, es generiert Antworten, die nicht mehr aktuell oder sogar falsch sind.

Um das zu umgehen, nutzen manche Tools Techniken wie Retrieval-Augmented Generation (RAG), bei der das LLM auf aktuelle externe Datenquellen zugreifen kann, um sein Wissen zu erweitern und aktuellere Antworten zu liefern.

2. Wie finde ich das Knowledge Cutoff Date heraus?

Bei den meisten LLMs kannst du einfach nach dem Knowledge Cutoff Date fragen, um es herauszufinden.

Folgende Prompts kannst du dafür benutzen:

Was ist dein Knowledge Cutoff Date?

Oder wahlweise:

Bis wann reichen deine Trainingsdaten?

3. Knowledge Cutoff Dates aktueller LLMs

Hier findest du eine interaktive Übersicht der Knowledge-Cutoff-Daten für über 80 aktuelle LLMs von OpenAI, Anthropic, Google, Meta und anderen führenden Anbietern:

Die Tabelle zeigt auch das Veröffentlichungsdatum jedes Modells. Interessant: Zwischen Knowledge Cutoff und Veröffentlichung liegen oft mehrere Monate – die Zeit, die für Training, Fine-Tuning und Sicherheitstests benötigt wird.

Modelle mit Web-Zugang (gekennzeichnet durch das Globe-Symbol) können trotz älterem Knowledge Cutoff auf aktuelle Informationen zugreifen.

4. Wichtige Hinweise

Bitte beachte, dass manche LLMs auch nach dem Wissensstichtag noch mit neuen Daten nachtrainiert werden können – dies ist aber nicht bei allen Modellen der Fall bzw. in unterschiedlichem Ausmaß.

Bei manchen LLMs ist das Knowledge Cutoff Date auch nicht bekannt oder die Modelle sind online, das heißt, sie haben kein Knowledge Cutoff Date.