ALLaM-2-7b

ALLaM-2-7b ist ein arabisch-englischer Instruct-Checkpoint aus der ALLaM-Familie des National Center for Artificial Intelligence von SDAIA. Die offizielle Modellkarte trägt den Namen ALLaM-7B-Instruct-preview und beschreibt ein von Grund auf trainiertes 7B-Modell mit 4.096 Token Kontext. Das Vortraining kombiniert 4 Billionen englische Token mit 1,2 Billionen gemischten englischen und arabischen Token, gefolgt von Instruction- und Preference-Daten.

ALLaM-2-7b ist auf arabisch-englische Sprachwerkzeuge zugeschnitten, nicht als allgemeiner 7B-Chatbot dokumentiert. Die Karte zeigt einen optionalen eigenen System-Prompt, obwohl das Modell ohne vordefinierten Prompt optimiert ist. Das Preview-Modell bleibt auf 4K Kontext begrenzt und führt Instruction- sowie Preference-Daten getrennt aus.