Llama 3.1 Nemotron Ultra 253B

Llama 3.1 Nemotron Ultra 253B CPT v1 ist ein NVIDIA-Basismodell, das von Llama 3.1 405B Instruct abgeleitet und anschließend kontinuierlich vortrainiert wurde. Die Modellkarte nennt Englisch und Programmiersprachen als hauptsächliche Einsatzbereiche. Der darauf aufbauende Reasoning-Checkpoint Llama 3.1 Nemotron Ultra 253B v1 bleibt eine separate Modellidentität und wird dort als Preview-API verlinkt.

Der CPT-v1-Checkpoint umfasst 253 Milliarden Parameter, unterstützt bis zu 131.072 Token Kontext und erzeugt Text. Die offenen Gewichte stehen unter der NVIDIA Open Model License. Für eigene Anpassungen ist dieser Basispunkt gedacht, nicht als fertiger Reasoning-Chatbot.