Zum Hauptinhalt springen
Sprachmodell

Phi-3 Medium (14B)

Microsoft

Veröffentlicht
Mai 2024
Eingabe
Text
Ausgabe
Text

Phi-3 Medium (14B) ist Microsofts offenes Instruct-Modell für viel Fähigkeit bei begrenzter Rechen- und Latenzreserve. Die Modellkarte unterscheidet eine 4K- und eine 128K-Variante. Der lange 128K-Checkpoint nutzt synthetische und gefilterte öffentliche Daten sowie SFT und DPO im Nachtraining, die laut Microsoft besonders auf Code, Mathematik, Logik und das Befolgen von Anweisungen zielen.

Das große Fenster unterscheidet die 128K-Variante von der kurzen Phi-3-Konfiguration. Der Checkpoint ist instruktionsoptimiert und laut Modellkarte für englische allgemeine, kommerzielle und Forschungsanwendungen beschrieben.

Technische Daten und Zugang

AngabeWert und Quelle
Gewichte
Open WeightsQuelle
Parameter
14 Mrd.Quelle
Kontextfenster
131.072 TokenQuelle
Lizenz
Eingaben
TextQuelle
Ausgaben
TextQuelle