Zum Hauptinhalt springen
SprachmodellOffene Gewichte

K2 Horizon 0.9B

Institute of Foundation Models

Veröffentlicht
3. September 2026
Datenstand
7. Oktober 2026
Eingabe
Text
Ausgabe
Text

K2 Horizon 0.9B ist das kompakte dichte Modell der Reihe. Es verarbeitet bis zu 131.072 Token mit YaRN-RoPE-Skalierung und nutzt nach Vortraining, Midtraining und RL eine zusätzliche On-Policy-Destillation, die IFM MOPD nennt.

Technische Daten und Zugang

AngabeWert und Quelle
Parameter
0,9 Mrd. GesamtparameterQuelle
Aktive Parameter
0,9 Mrd. Parameter je TokenQuelle
Kontextfenster
131.072 TokenQuelle
Eingabemodalitäten
TextQuelle
Ausgabemodalitäten
TextQuelle
Dokumentierte Trainingsstufen
Vortraining, zwei Midtraining-Stufen, RL-Fachmodelle mit Merge und anschließende MOPD-On-Policy-Destillation.Quelle
Lizenz
Apache 2.0Quelle