Zum Hauptinhalt springen
Sprachmodell

Falcon 180B

TII

Veröffentlicht
September 2023

Falcon 180B bleibt ein Rohmodell für weiteres Fine-Tuning und ist kein fertiger Chat-Assistent. Der dichte Decoder des 2023 veröffentlichten Foundation-Modells wurde auf 3,5 Billionen Token aus RefinedWeb und kuratierten Quellen trainiert, bietet aber nur 2K Kontext.

Die offizielle Modellkarte rechnet für schnelle Inferenz mit ungefähr 400 GB Speicher und empfiehlt zusätzliche Anpassung sowie eigene Sicherheitsvorkehrungen. Die Falcon-180B-TII-Lizenz enthält eigene Acceptable-Use-Regeln.

Technische Daten und Zugang

AngabeWert und Quelle
Gewichte
Open WeightsQuelle
Parameter
180 Mrd.Quelle
Kontextfenster
2.048 TokenQuelle
Lizenz
Falcon LicenseQuelle
Eingaben
TextQuelle
Ausgaben
TextQuelle