Motif 3

Motif 3 ist Motif Technologies’ großes offenes Mixture-of-Experts-Modell mit 314 Milliarden Gesamtparametern und 13,2 Milliarden aktiven Parametern pro Token. Die Modellkarte beschreibt 384 geroutete Experten, acht aktive Experten plus einen gemeinsamen Experten sowie ein natives Kontextfenster von 262.144 Token. Der Zuschnitt zielt auf Agenten, Werkzeugnutzung, Code, Mathematik und mehrsprachige Aufgaben, mit besonderem Fokus auf Koreanisch sowie Rechts- und Finanztexte.

Die geringe aktive Zahl macht Motif 3 nicht zu einem kleinen Modell. Die 314 Milliarden Gesamtparameter bleiben für Gewichte und Betrieb relevant, auch wenn pro Token nur ein Teil der Experten rechnet. Die offizielle Karte dokumentiert vLLM und separate quantisierte Checkpoints; die MIT-Lizenz gilt für den veröffentlichten Gewichtsstand.