Yi-1.5 34B

Yi-1.5 34B ist 01.AIs überarbeitete 34B-Linie. Die Modellkarte beschreibt ein weiteres Vortraining auf 500 Milliarden hochwertigen Token und eine Feinabstimmung auf 3 Millionen Beispielen. Laut 01.AI verbessert das Code, Mathematik, Schlussfolgern und das Befolgen von Anweisungen, während Sprachverständnis und Allgemeinwissen erhalten bleiben sollen. Das Kontextfenster umfasst 4.096 Token.

Gegenüber dem älteren Yi-34B ist Yi-1.5 34B ausdrücklich als aktualisierte Trainingsstufe dokumentiert. In der Yi-1.5-Familie existieren weiterhin getrennte Base- und Chat-Varianten.