Sarvam 30B

Sarvam 30B ist ein sparsames Mixture-of-Experts-Modell mit 2,4 Milliarden aktiven Nicht-Embedding-Parametern. Sarvam richtet es auf praktische Bereitstellung, indische Sprachen, Code, Schlussfolgern, Gespräche und Werkzeugaufrufe aus. Die Karte hebt außerdem mehrsprachige Sprachanrufe hervor. GQA reduziert den KV-Cache, während das 128.000-Token-Fenster lange Eingaben mit dem Fokus auf ressourcenärmere Inferenz verbindet.

Der offizielle Veröffentlichungsbeitrag beschreibt 30B als Produktionsmodell und nennt API-Zugang sowie herunterladbare Gewichte. Sarvam 105B verfolgt dieselbe offene Modellidee in größerem Maßstab, ist aber ein anderer MoE-Zuschnitt. Sarvam dokumentiert Optimierungen für Server, L40S und Apple Silicon; die Karte nennt außerdem 22 indische Sprachen.