Die eine Jev-Alternative gibt es nicht.
Zumindest keine, für die es mehr gibt als Versprechen der Hersteller. Für fast jede Aufgabe gibt es trotzdem eine sinnvolle Wahl.
Du nutzt Jev und suchst Ersatz, weil Datenschutz, deutscher Text oder Selbstbetrieb zählen? Die üblichen Listen sortieren nach Selbstbetrieb und GitHub-Sternen, gehostete Dienste und Deutsch fehlen fast immer. Mich hat genau das gestört, denn ich nutze Jev selbst in meinen KI-Agenten.
Jev von TypeSafe AI schreibt keinen Text. Es beantwortet Fragen zu einem Zustand, den du mitschickst, und wählt aus vorgegebenen Optionen. Mehr dazu steht in den Anwendungsfällen für Jev.
Grundlage ist eine Dokumentenrecherche zu über 50 Projekten. Keine der 26 Alternativen habe ich selbst getestet, meine Meinung ist also eine Einschätzung und kein Testergebnis.
Nach dem Lesen weißt du, welche Alternative passt und wie du vor dem Wechsel auf eigenen Fällen testest.
- Einen Ersatz, der Jev überall schlägt, gibt es nicht. Welche der 26 Alternativen passt, hängt davon ab, wofür du sie brauchst.
- Der Preis allein trägt einen Wechsel selten. Die gehosteten Dienste liegen zwischen 0,02 $ (Perplexity) und 0,24 $ (Cloudflare Clef) je Million Eingabetokens. Jev liegt mit 0,042 $ im unteren Bereich.
- Teste vor dem Wechsel mit deinen eigenen Fällen, gegen höchstens drei Alternativen und ein unverändertes Basismodell.
Welche Jev-Alternative passt zu deiner Aufgabe?
Eine Alternative, die überall besser ist als Jev, kann ich dir nicht nennen.
Für jede Aufgabe ein Vertreter
Das ist keine Ausrede. Es gibt schlicht keine unabhängigen Vergleiche, die über die Aufgaben der Anbieter hinausgehen. Ein Vergleich gilt immer nur für die Kombination aus Modell, Laufzeit und Anbieter. Darum bekommst du von mir keine Rangliste, dafür für jede typische Aufgabe einen Vertreter und meine Einschätzung dazu:
- Vertrauliche Daten und deutsche Texte: Privatemode Decisions. Hier würde ich zuerst hinschauen, weil der Anbieter als Einziger deutsche Zahlen und eine prüfbare Verarbeitung nennt.
- Der niedrigste Preis je Entscheidung: Perplexity Decisions API mit 0,02 $ je Million Eingabetokens.
- Azure-Vertrag und derselbe Preis wie Jev: Microsoft-Decision-1.
- Gehosteter Dienst, nah an Jev: milliseconds.ai deckt Auswahl, Bewertung und Extraktion ab.
- Schwierige Fälle mit zusätzlichem Nachdenken: Fastino GLiDE, zum mehr als dreifachen Preis.
- Deine Daten liegen in Databricks: ai_decide, direkt per SQL.
- Viele offene Modelle per API ausprobieren: Codiv, solange du es als Experiment behandelst.
- Günstig experimentieren, mit Einladung: Djev, mit einigen Vorbehalten.
- Schon im OpenAI-Ökosystem: die Decisions API von OpenAI, sobald es Preise und Dokumentation gibt.
- Jev-Integration behalten, gehostet und schneller: Cloudflare Clef, mit offenen Gewichten für später.
- Große GPU, Bilder und sehr langer Kontext: Surogate Rune.
- Jev-Schnittstelle behalten und selbst betreiben: Kev, wahlweise auch über OpenRouter. Das wäre mein pragmatischer Weg.
- Kleiner Jev-kompatibler Server auf einer GPU: Lev, für englische Fälle.
- Deutsche Aufgaben auf eigener Hardware: Standard One nennt Deutsch unter den Trainingssprachen.
- Entscheidungen auf Edge-Geräten: Liquid d1-3B, wenn die Lizenz zu deinem Umsatz passt.
- Viele Optionen mit gemeinsamem Kontext: Mapika Decider erlaubt bis zu 255 Optionen je Frage.
- Englisch auf einer einzelnen GPU: JevK5 mit Jev-Schnittstelle.
- Lokal auf dem Laptop experimentieren: Strands Decider 2B.
- Jev auf eigener großer GPU nachbilden: AutoTrust JEV-27B.
- Mehrere Fragen über denselben Text oder dieselben Bilder: Intern-Decision.
- Prüfen, ob ein unverändertes Basismodell reicht: Cygnet. Damit würde ich jeden Test beginnen.
- Wahrscheinlichkeiten direkt aus einem Basismodell lesen: SemIf.
- Eine Entscheidung dauerhaft gleich treffen: AnyJev, wenn du geprüfte Beispiele sammelst.
- Feste deutsche Kategorien mit eigenen Beispielen: SetFit.
- Wechselnde Kategorien ohne Trainingsdaten: GLiClass.
- Felder und Entitäten statt Urteile: GLiNER2.5.
Wie unterschiedlich die 26 wirklich sind, siehst du am besten nebeneinander. Achte dabei auf die Spalte zu Deutsch. Bei den meisten steht dort „Unbekannt“.
Alle 26 Jev-Alternativen auf einen Blick
Die Tabelle hat Lücken, und die sind Absicht.
Wo der Anbieter nichts dazu sagt, steht „k. A.“ oder „Unbekannt“ in der Zelle. Ein erfundener Wert wäre schlimmer als eine Lücke.
Oben steht Jev als Referenz, darunter die 26 Alternativen. Du kannst nach jeder Spalte sortieren und nach Kategorie filtern.
| Jev | API | Gehostet | 0,042 $/Mio. | Englisch primär | Keine Angabe in der Quelle | Referenz | Keine Angabe in der Quelle |
| Privatemode Decisions | API + Proxy | Gehostet | 0,20 €/Mio. | Ja | MIT | Nein | Keine Angabe in der Quelle |
| Perplexity Decisions API | API + Modell | Gehostet / Selbst | 0,02 $/Mio. | Unbekannt | Apache-2.0 | Nein | Keine Angabe in der Quelle |
| Microsoft-Decision-1 | API | Azure / OpenRouter | 0,042 $/Mio. | Unbekannt | Kommerziell | Teilweise | Keine Angabe in der Quelle |
| milliseconds.ai | API | Gehostet | 0,04 $/Mio. | Unbekannt | Kommerziell | Teilweise | Keine Angabe in der Quelle |
| Fastino GLiDE | API | Gehostet | 0,15 $/Mio. | Unbekannt | Kommerziell | Teilweise | Keine Angabe in der Quelle |
| Databricks ai_decide | SQL + API | In Databricks | Keine Angabe in der Quelle | Unbekannt | Kommerziell | Ja | Beta |
| Codiv | Plattform | Gehostet | Kostenlos | Unbekannt | Apache-2.0 | Ja | Experiment |
| Djev | API | Gehostet, Einladung | 0,035 $/Mio. | Unbekannt | Apache-2.0 | Nein | Preview |
| OpenAI Decisions API | API | Gehostet | Keine Angabe in der Quelle | Unbekannt | Kommerziell | Keine Angabe in der Quelle | Preview |
| Cloudflare Clef | Modelle + API | Gehostet / Selbst | ab 0,09 $/Mio. | Unbekannt | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| Surogate Rune | Modell | Selbst (96 GB) | Open Source | Unbekannt | Apache-2.0 | Teilweise | Keine Angabe in der Quelle |
| Kev | Modell | Selbst / OpenRouter | Open Source | Unbekannt | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| Lev | Adapter | Selbst (1 GPU) | Open Source | Nein | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| Standard One | Modell | Selbst (SGLang) | Open Source | Ja | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| Liquid d1 | Modelle | Selbst (Edge, GPU) | Offene Gewichte | Ja | LFM 1.0 | Nein | Keine Angabe in der Quelle |
| Mapika Decider | Modelle | Selbst | Open Source | Unbekannt | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| JevK5 | Modell | Selbst (1 GPU) | Open Source | Nein | Apache-2.0 | Ja | Keine Angabe in der Quelle |
| Strands Decider | Adapter | Selbst (CPU, GPU) | Open Source | Unbekannt | Apache-2.0 | Teilweise | Keine Angabe in der Quelle |
| AutoTrust JEV-27B | Modell | Selbst (große GPU) | Open Source | Unbekannt | Apache-2.0 | Nein | Keine Angabe in der Quelle |
| Intern-Decision | Modell | Selbst (Bibliothek) | Open Source | Unbekannt | Apache-2.0 | Nein | Keine Angabe in der Quelle |
| Cygnet | Framework | Selbst (vLLM) | Open Source | Unbekannt | MIT | Teilweise | Keine Angabe in der Quelle |
| SemIf | Framework | Selbst / Browser | Open Source | Unbekannt | MIT | Keine Angabe in der Quelle | Forschung |
| AnyJev | Bibliothek | Selbst (vLLM) | Open Source | Unbekannt | Apache-2.0 | Nein | Forschung |
| SetFit | Framework | Selbst trainieren | Open Source | Teilweise | Apache-2.0 | Nein | Keine Angabe in der Quelle |
| GLiClass | Klassifikator | Selbst | Open Source | Unbekannt | Apache-2.0 | Nein | Keine Angabe in der Quelle |
| GLiNER2.5 | Extraktion | Selbst (CPU, GPU) | Open Source | Teilweise | Apache-2.0 | Nein | Keine Angabe in der Quelle |
Bevor es an die einzelnen Alternativen geht, sage ich dir, woher meine Meinung kommt. Sie hat mit meinen eigenen Agenten zu tun.
Warum ich Jev selbst nutze, und was ich von einem Ersatz erwarte
Ich nutze Jev nicht als Entscheider, sondern als zusätzliche, beratende Einschätzung.
In meinen eigenen KI-Agenten läuft Jev an mehreren Stellen mit, zum Beispiel hier:
- Faktencheck für Content: Bei Newsletter-Entwürfen prüft zuerst ein festes Skript Zahlen und Quellenangaben. Zusätzlich vergleicht Jev eine verlinkte Behauptung mit einem lokal gespeicherten Snapshot der Quelle, aber nur, wenn die Adresse exakt passt. Gibt die Quelle zu wenig her, lautet das Ergebnis „reicht nicht für ein Urteil“ statt „stimmt nicht“.
- E-Mail-Agent: Beim Sortieren meines Postfachs bekommt Jev einen kurzen Auszug. Daraus schätzt es ein, ob eine Mail eine persönliche Antwort verlangt, eine konkrete Frist nennt oder ein allgemeiner Werbe-Pitch ist. Absenderadresse, Header und Anhänge bekommt der Dienst nicht.
- Meeting-Digest: Jev prüft, ob eine Zusage aus einer Meeting-Zusammenfassung im Transkript an genau dieser Zeitmarke gedeckt ist.
- Executor-Agent: Bei der Abnahme einer Aufgabe geht Jev jedes Kriterium unter „Fertig wenn“ durch. Es prüft, ob das Kriterium erfüllt, nicht nachgewiesen oder widerlegt ist.
Überall gilt dieselbe Regel. Jev liefert einen Hinweis, entschieden wird anderswo, beim Faktencheck, im Meeting-Digest und beim Executor sogar von festen Prüfungen. Feste Konfidenzschwellen zwischen 0,75 und 0,80 bestimmen, ob ein Punkt zur Prüfung markiert wird.
Meine Maßstäbe für einen Ersatz
Daraus ergeben sich meine Maßstäbe für eine Alternative. Ich frage nicht zuerst nach dem besten Benchmark. Ich frage, ob die Schnittstelle bleibt und ob ich der Konfidenz trauen kann.
Und ich frage, ob die Kosten bei vielen kleinen Anfragen nicht ins Gewicht fallen. Für jede Alternative unten sage ich dir, wie sie bei diesen Fragen abschneidet, soweit die Anbieter etwas dazu sagen.
Mit diesem Maßstab gehe ich jetzt die 26 Alternativen durch, sortiert in vier Gruppen. Los geht es mit zehn gehosteten Diensten, bei denen du nichts betreiben musst. Nur einer davon hat deutsche Zahlen.
1. Privatemode Decisions
Privatemode Decisions kommt von Edgeless Systems und ist eine Jev-Alternative für alle, die vertrauliche Daten oder deutsche Texte verarbeiten. Die Bibliothek arbeitet mit einem lokalen Proxy, darunter läuft GLM-5.3-Flash. Ein nachtrainiertes Jev-Modell steckt nicht drin.
Die Eingabe kostet laut Anbieter 0,20 € je Million Tokens, die Ausgabe 0,65 €, jeweils zuzüglich Umsatzsteuer. Beim Datenschutz beschreibt der Anbieter Ende-zu-Ende-Verschlüsselung und eine Attestierung der Verarbeitung.
Als einziger Anbieter nennt Privatemode deutsche Zahlen, deshalb würde ich hier zuerst hinschauen. Was mich stört, ist, dass alle Zahlen vom Anbieter selbst stammen. Externe Benchmarks gibt es nicht. Ich würde sie mit meinen eigenen Fällen nachprüfen, bevor ich etwas umbaue.
- Der Anbieter veröffentlicht einen Benchmark mit fünf deutschen Datensätzen. Auf 28 gemeinsam beantwortbaren Datensätzen fand er keinen signifikanten Genauigkeitsunterschied zu Jev.
- Die Ausführung ist laut Anbieter Ende-zu-Ende verschlüsselt, und die Attestierung der Umgebung wird vor dem Senden geprüft.
- Bis zu 191 Optionen je Frage, bis zu 1 Mio. Tokens Kontext und Bilder neben dem Text sind dokumentiert.
- Der Anbieter nennt rund 150 ms je Entscheidung inklusive Netz. Ein Anbieterlauf aus Deutschland maß im Median 180 ms gegenüber 264 ms für Jev.
2. Perplexity Decisions API
Die Perplexity Decisions API ist ein gehosteter Entscheidungsdienst von Perplexity und die günstigste Jev-Alternative in dieser Liste. Darunter laufen die eigenen Modelle pplx-decider-v1-27b und pplx-decider-v1.1-27b, Version 1.1 gibt es seit dem 6. Oktober 2026.
Die API kostet laut Dokumentation 0,02 $ je Million Eingabetokens, die Ausgabe ist kostenlos. Das ist weniger als die Hälfte des Jev-Preises. Die Gewichte stellt Perplexity zusätzlich unter Apache-2.0 auf Hugging Face, Basis ist Qwen3.8-27B.
Zählt bei vielen kleinen Anfragen jeder Cent, würde ich hier zuerst testen. Was mich bremst, ist der eigene Endpunkt statt der Jev-Schnittstelle. Zu Deutsch und zum Umgang mit deinen Daten sagt die Dokumentation außerdem nichts.
- Die Eingabe kostet 0,02 $ je Million Tokens, die Ausgabe ist kostenlos, und eine Gebühr je Anfrage gibt es nicht.
- Eine Anfrage darf bis zu 128 Fragen und knapp 262.144 Eingabetokens enthalten, Choice erlaubt bis zu 255 Optionen.
- Als Zustand gehen Text, JSON und Bilder.
- Perplexity nennt für v1.1 einen Decision-Index-Wert von 61,56 gegenüber 57,9 für Jev (Herstellerangabe).
3. Microsoft-Decision-1
Microsoft-Decision-1 kommt von Microsoft und ist eine Jev-Alternative für alle, die ohnehin mit Azure arbeiten. Das Modell ist seit dem 9. Oktober 2026 in Microsoft Foundry und über OpenRouter verfügbar. Laut Microsoft basiert es auf einem nachtrainierten Qwen3.5-9B.
Der Preis ist mit 0,042 $ je Million Eingabetokens derselbe wie bei Jev, die Ausgabe ist kostenlos. In Foundry heißt der Endpunkt /v1/systemone, und die Dokumentation nennt das Anfrageschema ähnlich zu einer System-One-API. Mit dem Bereitstellungstyp DataZoneStandard bleibt die Verarbeitung laut Microsoft in der gewählten Datenzone.
Für Teams mit Azure-Vertrag ist das der bequemste Weg zu einem Jev-ähnlichen Dienst. Die Bestwerte bei Genauigkeit und Geschwindigkeit stammen allerdings aus Microsofts eigenem Vergleich.
- Der Preis ist derselbe wie bei Jev (0,042 $ je Million Eingabetokens), die Ausgabe ist kostenlos.
- Mit DataZoneStandard bleibt die Verarbeitung laut Microsoft innerhalb der gewählten Datenzone.
- Neben Foundry ist das Modell auch über OpenRouter erreichbar.
- Microsoft nennt 1,3 % geänderte Entscheidungen bei leicht veränderten Eingaben (Herstellerangabe).
4. milliseconds.ai
milliseconds.ai ist ein gehosteter Entscheidungsdienst und vor allem für alle interessant, die erst einmal kostenlos ausprobieren wollen. Das Modell decision-machine-1 kommt dem Umfang von Jev nahe. Es beantwortet laut Anbieter Ja-Nein-Fragen, klassifiziert, bewertet und zieht Felder aus Text und Bildern.
Die Eingabe kostet 0,04 $ je Million Tokens, die Ausgabe ist frei. Für die Produktion brauchst du mindestens 10 $ Guthaben. Gegenüber Jev mit 0,042 $ ist der Preisabstand klein und für sich kein Wechselgrund.
Ich würde milliseconds.ai als gehosteten Vergleich nehmen, allein wegen des großzügigen Testschlüssels. Ob deutscher Text gut klappt, kann ich dir nicht sagen, dazu gibt es schlicht keine Zahlen.
- Ein Modell deckt Ja-Nein-Fragen, Klassifikation, Bewertung, Antworten aus Quellen, Extraktion, Entitäten und Verifikation ab.
- Testschlüssel bekommen 125 Mio. freie Eingabetokens im Monat, erneuert monatlich.
- Text und Bilder werden verarbeitet.
- Die Ausgabe ist kostenlos, und freie Testtokens werden nach Angaben des Anbieters nicht vom Produktionsverbrauch abgezogen.
5. Fastino GLiDE
GLiDE kommt von Fastino Labs und ist ein gehostetes Entscheidungsmodell für alle, die bei schwierigen Fällen mehr Genauigkeit wollen. Es startet laut Fastino mit einer schnellen Einschätzung und denkt bei Unsicherheit zusätzlich nach. Verfügbar ist es seit dem 30. September 2026 über die Fastino API.
Die Eingabe kostet laut Preisliste 0,15 $ je Million Tokens, die Ausgabe ist kostenlos. GLiDE nutzt dieselbe System-One-Struktur wie Jev. Fastino schreibt aber selbst, dass der Wechsel kein reiner Austausch ist, denn Basis-URL, Authentifizierung und Modellname unterscheiden sich.
GLiDE würde ich testen, wenn Jev bei kniffligen Fragen danebenliegt und der mehr als dreifache Preis kein Problem ist. Den Vorsprung im Decision Index hat Fastino selbst gemessen, auf der öffentlichen Rangliste steht GLiDE nicht.
- Bei Unsicherheit rechnet das Modell laut Fastino zusätzlich nach, statt sofort zu antworten.
- Die Anfragestruktur entspricht der von Jev, Fastino liefert eine Migrationsanleitung mit.
- Choice erlaubt 2 bis 255 Optionen, Score bis zu 255 Stufen.
- Fastino nennt 64,81 Punkte im Decision Index gegenüber 57,91 für Jev (eigener Lauf).
6. Databricks ai_decide
ai_decide kommt von Databricks und ist eine Jev-Alternative für alle, deren Daten ohnehin in Databricks liegen. Die Funktion ist seit dem 30. September 2026 als Beta verfügbar. Sie läuft per SQL direkt auf Tabellen oder über eine REST-API für Echtzeitanwendungen.
Laut Databricks ist ai_decide direkt kompatibel mit der TypeSafe-API. Einen eigenen Preis je Million Tokens nennt die Dokumentation nicht, sie verweist auf die SQL-Preise von Databricks. Welches Modell darunter läuft, verrät Databricks ebenfalls nicht.
Außerhalb von Databricks ergibt ai_decide keinen Sinn. Wer dort aber Tickets, Dokumente oder Agenten-Ergebnisse in großen Mengen bewerten will, spart sich einen externen Dienst.
- Entscheidungen laufen per SQL direkt auf den Daten, ohne Export zu einem externen Dienst.
- Laut Databricks ist die Funktion direkt kompatibel mit der TypeSafe-API.
- Choice erlaubt 1 bis 255 Optionen, Score 2 bis 10 Stufen.
- Databricks speichert laut Dokumentation die übergebenen Parameter nicht, nur Metadaten des Laufs.
7. Codiv
Codiv ist eine Plattform, die mehrere offene Entscheidungsmodelle hinter einer Jev-kompatiblen Schnittstelle bündelt, und vor allem zum Vergleichen interessant. Zu den Modellen zählen OpenJev 0.1, Laya 1.0, Verdict 1.4, CLM 0.1 und JevK5 0.2. Mit OpenJev ist razorback16/openjev gemeint, denn es gibt mehrere Projekte mit diesem Namen. Laut Anbieter genügt es, die Basis-URL zu wechseln.
Jeder Schlüssel darf 60 Anfragen je Minute stellen, dazu kommen 100 Millionen System-One-Tokens je Konto, ohne Karte.
Zum Datenschutz schreibt Codiv in der Datenschutzerklärung, dass die gesendeten Inhalte nicht gespeichert werden. Das ist eine Angabe des Anbieters. Prüf vor vertraulicher Nutzung den Vertrag.
Für mich ist Codiv ein Ort zum Vergleichen, nicht zum Betreiben. Auf einen Produktivbetrieb würde ich mich nach dem Stand der Quellen nicht verlassen.
- Laut Anbieter genügt ein Wechsel der Basis-URL, die Python- und TypeScript-SDKs von TypeSafe laufen unverändert.
- Hinter einem Schlüssel liegen OpenJev 0.1, Laya 1.0, Verdict 1.4, CLM 0.1 und JevK5 0.2.
- Jedes Konto bekommt 100 Mio. System-One-Tokens ohne Karte.
- Die Datenschutzerklärung sagt, gesendete Inhalte würden nicht gespeichert (Anbieterangabe).
8. Djev
Djev ist eine günstige Jev-Alternative für alle, die mit einem Research Preview leben können, der nur auf Einladung läuft. Die Implementierung ist offen (Davipar/djev-dev, Apache-2.0) und nutzt DiffusionGemma mit vLLM. Der ausgewiesene Preis liegt bei 0,035 $ je Million Eingabetokens, die Ausgabe ist kostenlos.
Der Preis reizt mich, der Rest bremst mich. Ohne Einladungscode kommst du nicht hinein. Und dass Anfragen mindestens sieben inaktive Tage auf dem Server bleiben, würde ich bei vertraulichen Daten nicht akzeptieren.
- Der ausgewiesene Preis liegt mit 0,035 $ je Million Eingabetokens unter Jev (0,042 $) und milliseconds.ai (0,04 $), die Ausgabe ist kostenlos.
- Als Zustand gehen Text, JSON und Bilder, Optionen können selbst Bilder sein, und die Oberfläche kann Kamerabilder als Live-Frames auswerten.
- Eine Anfrage darf bis zu 32 Fragen, 20.000 Zeichen Zustand und sechs Bildanhänge enthalten.
- Die Implementierung ist offen (Apache-2.0) und läuft auf DiffusionGemma mit vLLM.
9. OpenAI Decisions API
Die Decisions API kommt von OpenAI und ist eine Jev-Alternative für alle, die ohnehin mit der OpenAI-API arbeiten. OpenAI hat sie am 29. September 2026 auf dem DevDay vorgestellt. Sie richtet das Modell Luna auf einen selbst definierten Fragenkatalog mit vorgegebenen Antworten aus, als Kontext gehen Text und Bilder.
Bisher gibt es die API nur als begrenzte Vorschau, die breite Veröffentlichung hat OpenAI für die kommenden Tage angekündigt. Preis, Kontextgrenze und Fragetypen hat OpenAI noch nicht veröffentlicht.
Ich würde die Decisions API auf die Liste setzen, aber noch nicht einplanen. Ohne Preis und Dokumentation lässt sie sich nicht sinnvoll gegen Jev rechnen.
- Laut OpenAI klassifiziert sie Inhalte, leitet Anfragen weiter und wählt die nächste Aktion eines Agenten aus.
- Als Kontext nimmt sie Text und Bilder.
- Wer schon mit OpenAI-Schlüssel und OpenAI-Abrechnung arbeitet, braucht keinen weiteren Anbieter.
10. Cloudflare Clef
Clef kommt von Cloudflare und ist eine Jev-Alternative für alle, die ihre bestehende Jev-Integration behalten und schneller entscheiden wollen. Seit dem 1. Oktober 2026 laufen die beiden Modelle Clef (27B) und Clef-flash (9B) auf Workers AI.
Clef kostet laut Modellseite 0,24 $ je Million Eingabetokens, Clef-flash 0,09 $. Die Gewichte stellt Cloudflare unter Apache-2.0 auf Hugging Face, Clef baut auf Qwen3.8-27B auf. Zum Datenschutz sichert Cloudflare zu, Anfragen und Antworten weder zu lesen noch zu speichern oder damit zu trainieren. Das gilt, solange du das Fine-Tuning nicht nutzt.
Für mich ist Clef der spannendste Neuzugang, weil er gehosteten Betrieb und offene Gewichte verbindet. Die Benchmark- und Latenzzahlen stammen aber von Cloudflare selbst, und zu Deutsch sagt Cloudflare nichts.
- Clef folgt der System-One-API, laut Changelog genügt der Wechsel von Endpunkt und Modell.
- Eine Anfrage darf bis zu 64 Fragen der Typen noul, choice und score enthalten, bei 64k Tokens Kontext.
- Cloudflare nennt im Median 209 ms für Clef und 39 ms für Clef-flash. Für Jev misst der Hersteller im eigenen Lauf 524 ms.
- Die offenen Gewichte erlauben später einen Selbstbetrieb.
Wer die Daten gar nicht erst an einen Dritten schicken will, betreibt selbst. Kontrolle klingt nach Freiheit, in der Praxis ist es eine Wartungsaufgabe, so wie bei jedem LLM, das du lokal betreibst.
Für den Selbstbetrieb gibt es keinen Tarif und keine Zahlen zu Betriebskosten. Bei den Laufzeiten gilt außerdem Vorsicht, denn die Entscheidungsschnittstelle von Ollama gibt es in Version 0.35.0 nur als Vorabversion. Du solltest sie nicht als stabiles Feature voraussetzen.
11. Surogate Rune
Surogate Rune kommt von Invergent und ist ein offenes Entscheidungsmodell für große GPUs, Bilder und sehr langen Kontext. Version 3 hat 26B Parameter, davon 4B aktiv, und steht unter Apache-2.0. Dazu gibt es laut SDK eine gehostete API, einen öffentlichen Tarif gibt es aber nicht.
Ich lese „4B aktiv“ nicht als „läuft auf meinem Laptop“. Wenn du keine große GPU hast, spar dir den Aufwand.
- Eine Anfrage liefert in einem Vorwärtsdurchlauf eine Wahl mit Wahrscheinlichkeiten über alle Optionen, dazu Noul und Score.
- Das Modell hat 262k Tokens Kontext und nimmt Text, strukturierte Daten und Bilder mit Text.
- Der Hersteller nennt 90 bis 180 ms je Entscheidung auf einer RTX PRO 6000 ohne Netzwerkweg. Eine Bildentscheidung dauert 0,18 s.
- Optionales „Denken“ bis 512 Tokens greift nur bei Fragen, bei denen das Modell unter 70 % sicher ist (Herstellerangabe).
12. Kev
Kev ist eine Jev-Alternative für alle, die ihre Jev-Schnittstelle behalten und das Modell selbst betreiben wollen. Die Modellfamilie von Jared Palmer basiert auf Qwen3.5 und kommt in den Größen 0,8B, 4B und 9B.
Laut Readme kommt Kev-27B dazu. Der Code steht unter Apache-2.0, laut Readme gilt das auch für die Qwen-Basismodelle. Die Trainingsdaten haben eigene Lizenzen.
Kev läuft auf Nvidia-Grafikkarten und auf Apple Silicon. Über OpenRouter gibt es Kev-4B beim Anbieter SiliconFlow für 0,042 $ je Million Eingabetokens bei 8k Kontext.
Beim Server lohnt ein zweiter Blick. Er ist standardmäßig offen. Eine Authentifizierung gibt es, sie ist aber optional und wird über die Variable KEV_API_KEY eingeschaltet.
Wenn du mich fragst, ist Kev der pragmatischste Weg, falls deine Jev-Integration bleiben soll und nur das Modell wechselt. Den offenen Server würde ich vor dem ersten Einsatz absichern.
- Das Readme sagt, das TypeSafe Python SDK laufe gegen einen Kev-Server unverändert.
- Es gibt vier Größen von 0,8B für den Laptop bis 27B für eine 80-GB-Karte, Startempfehlung ist Kev-4B.
- NVIDIA und Apple Silicon sind dokumentiert, ein eigener HTTPS-Endpunkt auf Modal ist ein Befehl und skaliert auf null.
- Über OpenRouter läuft Kev-4B seit dem 25.09.2026 bei SiliconFlow für 0,042 $ je Million Eingabetokens mit 8K Kontext.
13. Lev
Lev kommt von Interfaze und ist eine Jev-Alternative für alle, die ein kleines Jev-kompatibles Modell auf eigener GPU betreiben wollen. Es ist ein LoRA-Adapter auf Qwen3.5-4B unter Apache-2.0, veröffentlicht am 24. September 2026.
Laut Ankündigung spricht Lev das Protokoll /v1/systemone, Code für das TypeSafe-SDK läuft nach einem Wechsel der Basis-URL. Den Server bringt Lev selbst mit. Die Modellkarte sagt aber auch klar „English only“.
Lev ist neben Kev der zweite Weg, die Jev-Schnittstelle selbst zu betreiben. Im eigenen Vergleich von Interfaze liegt Lev mit 68,9 % deutlich hinter Jev mit 76,1 %. Für einen Ersatz ist mir das zu viel Abstand, für Tests mit englischen Fällen reicht es.
- Lev spricht /v1/systemone, TypeSafe-Clients laufen nach dem Wechsel der Basis-URL.
- Ein eigener Server liegt bei.
- Mehrere Fragen laufen in einem Durchlauf, eine Choice mit 60 Optionen kostet so viel wie eine Ja-Nein-Frage.
- Interfaze nennt 69 ms Rechenzeit auf einer H100 (Herstellerangabe).
14. Standard One
Standard One kommt von Standard Thinking und ist ein Entscheidungsmodell für deutsche Aufgaben auf eigener Hardware. Deutsch steht unter seinen neun Trainingssprachen.
Die 8B- und 3B-Variante basieren auf Ministral 3, aktuell ist Version 2 vom 26. September 2026. Die Lizenz ist Apache-2.0. Es verarbeitet bis zu 8.192 Tokens und 26 Optionen.
Die Modellkarte nennt Schwächen selbst. Die deutschen Messwerte auf der Herstellerseite stammen von Version 1.1, nicht von der zweiten Version. Sie arbeiten außerdem mit anderen Optionsmengen als die Jev-Werte. Ein Vergleich wäre schief.
Für deutsche Aufgaben mit wechselnden Regeln auf eigener Hardware ist Standard One mein erster Kandidat. Fachsprache würde ich separat testen.
- Deutsch gehört zu den neun Trainingssprachen, die Modellkarte listet de.
- Die Karte weist Basismodell, Adapter, zusammengeführte Gewichte und Server als Apache-2.0 aus, aktuell ist v2 vom 26.09.2026.
- Ein vorgeschalteter jev-adapter stellt /v1/systemone bereit, mit 8.192 Tokens und bis zu 26 Optionen.
- Der Hersteller nennt Schwächen selbst, das erleichtert die Testplanung, weil du weißt, wo du zuerst nachmessen musst.
15. Liquid d1
d1 kommt von Liquid AI und ist eine Familie von Entscheidungsmodellen für kleine Hardware bis hinunter zum Jetson. Am 7. Oktober 2026 hat Liquid AI d1-3B und das experimentelle d1-omni-600M veröffentlicht, beide mit offenen Gewichten.
d1-3B basiert auf LFM2.5-VL-3B, verarbeitet Text und Bilder und hat 32.768 Tokens Kontext. Die Modellkarte führt Deutsch unter 16 Sprachen. Die Lizenz LFM Open License v1.0 erlaubt die kommerzielle Nutzung aber nur Unternehmen mit weniger als 10 Mio. $ Jahresumsatz.
Für deutsche Entscheidungen auf Edge-Geräten ist d1-3B für mich der interessanteste Neuzugang. Die Lizenzgrenze würde ich vor dem Einsatz genau prüfen, und Messwerte für Deutsch gibt es auch hier nicht.
- Liquid AI nennt 8 ms je Frage auf einer RTX 4090 und 50 ms auf einem Jetson Orin Nano (Herstellerangabe).
- Als Zustand gehen Text und Bilder, d1-omni-600M nimmt zusätzlich bis zu 30 Sekunden Sprache.
- Die Modellkarte führt Deutsch unter 16 Sprachen.
- Mit 48,57 Punkten im Decision Index 0.2.1 laut Hersteller das beste Entscheidungsmodell unter 10B.
16. Mapika Decider
Mapika Decider ist eine offene Modellfamilie für Entscheidungen mit sehr vielen Optionen über einen gemeinsamen Kontext. Choice akzeptiert 2 bis 255 Optionen, Score 2 bis 10 Stufen und die Hauptmodelle nehmen bis zu 32k Kontext. Die Lizenz ist Apache-2.0, die Modellkarte ist englisch.
Die aktuellen Stände 2B v11 und 4B v2.1 haben laut den Autoren nicht alle Freigaberegeln erfüllt. Ältere Versionen bleiben unter Tags erreichbar.
Mapika ist einen Test wert, wenn du viele Optionen über einen gemeinsamen Kontext abfragst und Englisch reicht. Dass die Autoren ihre Freigaberegeln offenlegen, spricht für sie. Es ist aber auch eine Warnung.
- Choice akzeptiert 2 bis 255 Optionen, Score 2 bis 10 Stufen.
- decide_batch bewertet viele Zustände mit vielen Fragen in einem Aufruf.
- Die Request-Form entspricht Jev (POST /v1/systemone), im Prozess oder über HTTP.
- Mit abstain_below=t gibt eine Entscheidung unter der Konfidenzschwelle None zurück.
17. JevK5
JevK5 ist ein englischsprachiges Entscheidungsmodell mit Jev-Schnittstelle und vor allem für Entscheidungen auf einer einzelnen GPU interessant. Es stammt von allebee und ist nicht mit TypeSafe verbunden. Es gibt die Modelle JevK5-4B v0.3 und JevK5-9B v0.3.3 unter Apache-2.0. Der Server nimmt die TypeSafe-Form von /v1/systemone entgegen.
Für deutsche Texte fällt JevK5 raus, da gibt es nichts zu deuteln. Für englische Entscheidungen auf einer einzelnen GPU mit rund 9 GB Speicher ist es einen Versuch wert.
- Die Lizenz ist Apache-2.0. Die Readme nennt rund 9 GB GPU-Speicher für 4B und rund 19 GB für 9B in bf16.
- Der Server akzeptiert die TypeSafe-Form von /v1/systemone mit den drei Typen.
- Bis zu 16 Optionen werden in einem Durchlauf bewertet, mehr Optionen in mehreren Durchläufen.
- Für v0.3 legt der Entwickler die Trainingsdaten offen. Es sind nur Trainingssplits, ohne MMLU und MMLU-Pro, RACE-Anteile sind entfernt (Herstellerangabe).
18. Strands Decider
Strands Decider 2B kommt von Strands Labs und ist ein kleines offenes Entscheidungsmodell zum Experimentieren auf dem eigenen Rechner. Strands Labs ist das Team hinter dem Agenten-SDK Strands Agents. Es ist ein LoRA-Adapter mit kleinem Entscheidungskopf auf Qwen3.5-2B-Base unter Apache-2.0, vorgestellt am 1. Oktober 2026.
Der mitgelieferte Server nimmt Anfragen unter /v1/systemone in derselben Form wie Jev an. Eine ausdrückliche Kompatibilitätszusage macht das Team aber nicht. Das Modell läuft auf Nvidia-GPUs, Apple Silicon und der CPU.
Für mich ist Strands Decider ein Spielplatz, kein Ersatz für den Produktivbetrieb. Für schnelle lokale Tests auf dem Laptop passt es gut, bei langen Dokumenten nennt das Team selbst die Schwachstelle.
- Das Team nennt im Median 115 ms auf einer RTX 3090 und 153 ms auf einem M3-MacBook (Herstellerangabe).
- Der Server nimmt /v1/systemone mit Zustand und benannten Fragen entgegen.
- Die Zahl der Optionen je Frage ist laut Readme nicht begrenzt.
- Im öffentlichen JevBench beantwortet es 176 von 231 Aufgaben richtig (Herstellerangabe).
19. AutoTrust JEV-27B
AutoTrust JEV-27B kommt vom AutoTrust AI Lab und ist ein offenes Modell für Entscheidungen und normale Textgenerierung in einem Checkpoint. Es setzt einen trainierten Entscheidungsblock auf ein unverändertes Qwen3.8-27B. Seit dem 30. September 2026 gibt es zusätzlich die Bildvariante JEV-27B-VL.
Laut Modellkarte bildet der Entscheidungsteil Jev 1.13 nach und liegt im eigenen Vergleich mit 84,07 Punkten knapp vor Jev (83,85). Die Gewichte brauchen rund 54 GB, und der mitgelieferte Server nutzt einen eigenen Endpunkt.
Ein Nachbau, der laut Modellkarte auch Jevs Fehler übernimmt, ist für mich kein Ersatz. Er ist ein Werkzeug für Teams mit großer GPU, die Jev lokal nachbilden wollen.
- Ein Checkpoint liefert Noul, Choice und Score und kann zusätzlich normal Text generieren.
- Choice erlaubt 2 bis 256 Optionen, Prompts bis 256k Tokens.
- Das Team nennt 137 ms je Einzelanfrage auf einer B200 (Herstellerangabe).
- Die Lizenz ist Apache-2.0, dazu kommt eine Variante für Bilder.
20. Intern-Decision
Intern-Decision kommt von InternLM und ist eine lokale Bibliothek für mehrere Fragen über denselben Text oder dieselben Bilder. Die Modelle gibt es in den Größen 0,8B, 2B und 4B auf Basis von Qwen3.5. Über eine DecisionEngine laufen mehrere typisierte Fragen über denselben Zustand, ein abgesicherter Produktionsserver ist es aber nicht.
Die Herstellerzahlen klingen gut. Eine gehostete API gegen ein lokales Modell zu stellen, ist aber nicht sauber vergleichbar. Ich würde sie als Anlass zum Nachmessen lesen, nicht als Grund zum Wechsel.
- Mehrere typisierte Fragen laufen über denselben Zustand, die Felder teilen sich einen kausalen Vorwärtsdurchlauf.
- Der Hersteller nennt für 4B 90,02 % Durchschnittsgenauigkeit über sieben Suiten gegenüber 88,74 % für Jev. Protokolle und Umfang weichen laut Hersteller ab.
- Die mittlere lokale Latenz beträgt 44,16 ms auf einer RTX 4090. In derselben Herstellertabelle steht Jev mit 109,70 ms. Die Messbedingungen unterscheiden sich.
- Bis zu acht Bilder pro Anfrage sind möglich, Training, Inferenz und Kalibrierung liegen als Code vor, die Gewichte sind Apache-2.0.
Bevor du Hardware bestellst, kommt die unbequeme Frage, ob deine Aufgabe vielleicht etwas viel Einfacheres löst. Deshalb gehört in jeden Vergleich ein Kontrollarm, und die nächsten drei Einträge sind genau das.
21. Cygnet
Cygnet kommt von Blockbrain und ist ein Kontrollarm, also eine Variante ohne Spezialmodell, gegen die du die anderen misst. Es setzt auf ein unverändertes Gemma-4-12B-it ohne Fine-Tuning und läuft mit dem Standard-vLLM. Es verarbeitet bis zu 26 Optionen und 16.384 Tokens Kontext. Kalibriert wurde es auf 241 selbst erzeugten Beispielen, nicht auf den öffentlichen JevBench-Aufgaben.
Nimm Cygnet als Maßstab für deine Tests. Schafft ein aufwendiger Nachbau auf deinen Fällen nicht mehr als Cygnet mit einer unveränderten Basis, brauchst du ihn nicht.
- Es braucht kein Fine-Tuning und läuft mit dem unveränderten vLLM 0.30.0.
- Die Kalibrierung (T = 3,4) stammt von 241 selbst erzeugten Beispielen, die öffentlichen JevBench-Aufgaben dienten nur zum Messen.
- Der Autorenlauf zählt 203 von 231 öffentlichen JevBench-Aufgaben richtig (87,9 %), bei 0,050 bis 0,066 s Median-Latenz auf einer 48-GB-Karte.
- Jede Entscheidung erzeugt nur ein Ausgabetoken, die Kosten hängen fast nur an den Eingabetokens.
22. SemIf
SemIf ist ein Framework, das die Wahrscheinlichkeiten für Optionen direkt aus Basismodellen ausliest, und vor allem als schlanker Kontrollarm interessant. Es stammt von TheoLeeCJ und steht unter MIT-Lizenz. Das Projekt hieß früher OpenJev und ist ausdrücklich nicht mit TypeSafe verbunden.
Mich überzeugt vor allem, dass andere Projekte darauf aufbauen. Die Kalibrierung musst du trotzdem selbst prüfen.
- Es liest die Wahrscheinlichkeiten für vorgegebene Optionen direkt aus einem Basismodell, ein eigenes Training ist nicht nötig.
- Backends gibt es für CUDA, Apple MLX, PyTorch/MPS und CPU über llama.cpp mit GGUF, dazu eine Browser-Demo.
- Auf Apple Silicon laufen parallele Entscheidungen über einen gemeinsamen Zustand.
- Andere Projekte bauen darauf auf, JevK5 nutzt ausdrücklich die Optionsauswertung von SemIf.
23. AnyJev
AnyJev kommt von Nokia Applied Research und Tencent Hunyuan und ist eine Python-Bibliothek für dauerhaft gleiche Entscheidungen. Sie legt Kalibrierungsschichten auf unveränderte Basismodelle, steht unter Apache-2.0 und hat den Status Forschung.
Dafür brauchst du geprüfte Beispiele. Für einmalige, ständig wechselnde Fragen ist es mir zu schwergewichtig.
- Die Stufen L0 (ohne Labels, mit Optionsrotation), L1 (Temperatur) und L2 (kleiner Kopf) arbeiten auf einem unveränderten Basismodell.
- Für L2 nennt die Readme 100 bis 300 gelabelte Beispiele und „one closed-form solve“.
- Fertige Köpfe für fünf Qwen3-Modelle liegen bei, 23 Köpfe je Modell in einer Datei von 1,8 bis 4,4 MB.
- Die adaptive Rotation kommt mit 7,2 statt 18 Rotationen bei einer bescheinigten Abweichung von 1 % aus (Autorenwert).
Bei festen Kategorien kann ein Klassifikator reichen. Das ist die schlichteste Lösung, und sie wird oft unterschätzt.
24. SetFit
SetFit kommt von Hugging Face und ist ein Few-Shot-Framework für feste Kategorien, die sich selten ändern. Es baut auf Sentence Transformers mit mehrsprachigen Basismodellen auf. Laut Dokumentation genügen schon „only 8 labeled examples“, du brauchst allerdings eigene Labels und eine saubere Datenaufteilung. Neue Kategorien bedeuten erneutes Training.
Bei festen deutschen Kategorien, die sich selten ändern, würde ich immer zuerst fragen, ob ich wirklich ein Entscheidungsmodell brauche. Ein Klassifikator ist dann die schlichtere Lösung.
- Auf dem Sentiment-Datensatz Customer Reviews genügen laut Dokumentation „only 8 labeled examples“ je Klasse.
- Das Framework kommt ohne Prompts aus („prompt-free“) und braucht keine großen Modelle wie T0, Llama oder GPT-4.
- Mit einem mehrsprachigen Sentence-Transformer-Checkpoint lassen sich Texte in mehreren Sprachen klassifizieren.
- Training und Inferenz sind laut Dokumentation typischerweise eine Größenordnung schneller als bei großen Modellen.
25. GLiClass
GLiClass kommt von Knowledgator und ist ein Zero-Shot-Klassifikator für Kategorien, die sich oft ändern. Die Labels gibst du erst zur Laufzeit an, die Lizenz ist Apache-2.0. Für allgemeine, regelbezogene Urteile taugt es nicht als Ersatz.
Wechseln deine Kategorien oft und hast du keine Trainingsdaten, ist GLiClass der leichteste Start. Für Urteile nach Regeln würde ich es nicht nehmen. Zu Geschwindigkeit, Größe und Genauigkeit nennt die Readme keine konkreten Zahlen.
- Die Labels gibst du erst zur Laufzeit an, ein Training auf deinen Kategorien entfällt (Zero-Shot).
- Mehrfachklassifikation mit Schwellenwert ist eingebaut (classification_type='multi-label', threshold).
- Für lange Texte gibt es Chunk-Strategien wie SlidingWindowStrategy und EveryNTokensStrategy.
26. GLiNER2.5 multilingual
GLiNER2.5 multilingual kommt von Fastino und ist ein Extraktionsmodell für alle, die Felder und Entitäten statt Urteile brauchen. Es hat 287M Parameter und basiert auf mDeBERTa-v3-base. Die Karte nennt nur „Multilingual“, Deutsch steht nicht ausdrücklich darin.
Willst du keine Ja-Nein-Urteile, sondern Felder aus Text, gehört GLiNER2.5 auf deine Liste. Ob es deutsche Geschäftsdokumente gut liest, musst du selbst prüfen. Damit steht die Auswahl, und es bleibt die Frage nach Deutsch und Datenschutz.
- Ein Modell liefert Entitäten, Klassifikation, strukturierte Records und Relationen.
- Es hat 287M Parameter und rund 594 MB Gewichte, lokal ohne externe API.
- Die Familie gibt es auch als 74M- und 194M-Variante (englisch) mit derselben API.
- Die Karte nennt Apache-2.0 und eine Fenstergröße von max_len=4096 sowie einen Abschnitt für lange Dokumente.
Wie gut klappt deutscher Text, und wo bleiben deine Daten?
Auf Deutsch gibt es genau eine Zahlenreihe, und sie stammt von einem Anbieter.
Deutscher Text im Vergleich
Jev nennt Englisch als primäre Trainingssprache und rät, andere Sprachen auf eigenen Inhalten zu testen. Direkte deutsche Vergleichszahlen liefert nur ein Anbieterbenchmark von Privatemode, also von einem Beteiligten.
Er enthält fünf deutsche Datensätze. Die Grafik zeigt die Trefferquoten von Jev und Privatemode in Prozent. Jev steht jeweils oben, Privatemode darunter.
Eine einheitliche Richtung gibt es nicht. Bei zwei Aufgaben liegt Jev vorn, bei drei Privatemode. Die Streuung der Wiederholungen liegt bei Jev zwischen 0,2 und 0,9 Prozentpunkten, bei Privatemode zwischen 0,0 und 1,3. Einen Abstand wie 1,3 Prozentpunkte bei Massive Intent würde ich deshalb nicht überbewerten.
Fünf Aufgaben, die ein beteiligter Anbieter selbst ausgewählt hat, beweisen für mich nicht, dass beide gleich gut sind. Sie sind aber mehr, als es für jede andere Alternative gibt.
Für die übrigen Kandidaten fehlen deutsche Messwerte. Standard One nennt Deutsch als Trainingssprache, Liquid AI führt Deutsch in den Sprachangaben von d1-3B.
Wer Entitäten und Felder aus deutschen Texten holen will, findet GLiNER2.5 multilingual. Seine Karte nennt „Multilingual“, Deutsch aber nicht ausdrücklich. Und „mehrsprachig“ ist keine Qualitätsgarantie für deutsche Geschäftsdokumente.
Datenschutz und Betriebsort
Beim Thema LLM-Datenschutz zählt vor allem, wo deine Daten verarbeitet werden. Privatemode beschreibt eine attestierte Verarbeitung, die sich laut Anbieter aus der Ferne überprüfen lässt. Codiv schreibt in der Datenschutzerklärung, dass es die gesendeten Inhalte nicht speichert. Cloudflare sichert für Clef zu, Anfragen weder zu lesen noch zu speichern oder damit zu trainieren.
Microsoft hält die Verarbeitung mit DataZoneStandard in der gewählten Datenzone, und Databricks speichert die übergebenen Parameter laut Dokumentation nicht. Djev speichert angenommene Anfragen dagegen mindestens sieben inaktive Tage. Das sind Herstellerangaben, und Perplexity sagt in der Dokumentation zur Datenhaltung gar nichts.
Bei Kev über OpenRouter läuft deine Anfrage über zwei Zwischenstationen, OpenRouter und SiliconFlow. Der Selbstbetrieb hält die Daten im Haus. Rechtskonform macht er deinen Einsatz aber nicht automatisch. Für vertrauliche Inhalte würde ich deshalb zuerst Privatemode oder den Selbstbetrieb prüfen und alles andere hintanstellen.
Nehmen wir an, du hast dich entschieden. Dann fangen die eigentlichen Probleme erst an.
Was beim Wechsel wirklich schiefgeht
Wer Jev ersetzen will, denkt zuerst an den Preis. Aber der Preis trägt den Wechsel selten.
Preis pro Token ist nicht Preis pro Fall
Am günstigsten ist die Perplexity Decisions API mit 0,02 $ je Million Eingabetokens.
Jev, Microsoft-Decision-1 und Kev über OpenRouter kosten 0,042 $, milliseconds.ai 0,04 $ und Djev 0,035 $. Darüber liegen Cloudflare Clef mit 0,09 bis 0,24 $ und Fastino GLiDE mit 0,15 $. OpenAI und Databricks nennen keinen eigenen Preis je Million Tokens. Privatemode rechnet in Euro, was sich ohne Wechselkurs nicht sauber vergleichen lässt.
Zur Größenordnung hilft eine Rechenannahme, keine Prognose. Bei 1.000 Eingabetokens je Entscheidung kosten 100.000 Entscheidungen bei Jev 4,20 $ und bei Perplexity 2,10 $. Bei kleinen und mittleren Mengen rechtfertigt die reine API-Ersparnis damit keinen eigenen GPU-Betrieb. Eigene Mengen rechnest du mit dem API-Kostenrechner nach.
Große Optionsmenüs können mehrere Aufrufe auslösen, bei Privatemode etwa über 128 auszulesenden Wahrscheinlichkeiten. Das verändert die Kosten je Fall.
Der Konfidenzwert ist nicht übertragbar
Jev berechnet den Konfidenzwert (in der Schnittstelle das Feld confidence) aus der Verteilung über die Optionen. Ein Wert von 0,9 bedeutet anderswo etwas anderes, je nachdem ob ein System Maximalwahrscheinlichkeit, Entropie oder eine normierte Größe nutzt.
Meine Schwellen von 0,75 bis 0,80 gelten deshalb nur für Jev. Eine Regel wie „ab 0,9 automatisch ausführen“ musst du für jedes Modell neu kalibrieren. Die Schwelle von einem System auf ein anderes zu kopieren, ist der schnellste Weg zu stillen Fehlern.
Kompatibel hat fünf Bedeutungen
Wenn ein Anbieter „kompatibel“ sagt, kann er fünf verschiedene Dinge meinen:
- Transport, also dieselbe Form der Anfrage.
- Schema, also dieselbe Struktur der Antwort.
- Semantik, also dieselbe Bedeutung der Felder.
- Wahrscheinlichkeit, also vergleichbare Werte.
- Betrieb, also gleiche Grenzen und Verfügbarkeit.
Erst wenn alle fünf stimmen, hast du einen Ersatz für Jev. Bei den Grenzen lohnt ein Blick in die Grafiken, denn Kontext und Optionen unterscheiden sich stark. Zuerst der Kontext in Tokens, dann die Zahl der Optionen je Frage.
gradually.aigradually.aiDazu kommt eine Falle im Wort „offen“. Ein offenes Modell ist nicht automatisch kommerziell frei, und die Lizenz des Codes ist nicht die Lizenz der Gewichte. Ein Beispiel dazu kommt gleich.
Auch bei der Auswahl gibt es Fallen. Ein paar Namen tauchen in mehreren Listen auf und fehlen hier trotzdem, mit gutem Grund.
Warum manche bekannten Namen fehlen
Bekannt heißt nicht empfehlenswert. Die Auswahl von 26 Einträgen aus über 50 Projekten sagt nichts über Qualität aus. Sie folgt den typischen Aufgaben und dem, was über die Projekte bekannt ist. Diese Auslassungen sind mir am wichtigsten:
- Laya: Die Basischeckpoints schneiden laut Pinggy-Blog zero-shot „near chance“ ab, taugen also nur mit Anpassung. Das ist die Beobachtung eines Blogs, kein unabhängiger Test. Über Codiv kannst du Laya trotzdem ausprobieren.
- Hopper: Die Modellkarte sagt „Do not use this adapter commercially“. Das ist das Warnbeispiel für Lizenzfallen.
- Decision 1.0: Die Gewichte liegen vor, der Pull Request #4086 für den Standardbetrieb ist aber noch offen.
- Tev1 und FlyMy Decision-2B: Bei Tev1 ist die Lizenz der Gewichte noch in Finalisierung. Bei FlyMy Decision-2B sind Fragen zur Nutzung offen.
Dazu kommen Winnow, OneJev, reflex, jqv, Von, Verdict und einige mehr. Ich habe mich bei ihnen bewusst nicht entschieden.
Manche brauchen ein Basismodell zum Adapter, manche haben eine Gemma-Lizenz, manche liegen im Medienfokus. Schlecht sind sie deshalb nicht. Anwendungen, die nur Jev nutzen, zählen nicht als Alternativen.
Bleibt die Frage, wie du selbst herausfindest, was zu dir passt.
So testest du, bevor du wechselst
Der beste Test ist langweilig. Du nimmst deine eigenen Fälle mit sauberen Antworten und vergleichst so, dass du es morgen wiederholen kannst.
Sechs Schritte reichen dafür:
- Halte den Vertrag fest. Schreib Modell-ID, Revision, Quantisierung und Laufzeit auf und mische keine Versionen.
- Sammle eigene Fälle mit Referenzantworten und trenne die Fälle zum Einstellen von denen zum Prüfen.
- Lege Mindestmetriken und die akzeptable Fehlerquote fest, bevor du das erste Ergebnis siehst.
- Prüfe die Robustheit. Stell die Frage allein, mit irrelevanten Zusatzfragen und in vertauschter Reihenfolge. Benenne außerdem Kategorien neutral um, denn typkorrekte Antworten können laut einem Preprint trotzdem die falsche Bedeutung wählen.
- Lass die Alternative im Schattenbetrieb neben dem Bestehenden laufen.
- Plane einen Rückfallpfad, bevor du umschaltest.
Dabei gilt eine Obergrenze. Nimm höchstens eine Referenz, drei Alternativen und einen Kontrollarm. Betragsgrenzen und Berechtigungen gehören in deinen Anwendungscode, nicht ins Modell.
Als Kontrollarm eignet sich ein unverändertes Basismodell wie bei Cygnet oder ein schlanker Klassifikator wie SetFit. Dazu kommt ein naheliegender dritter Weg, ein Sprachmodell mit vorgegebenem Ausgabeformat (Structured Outputs). Wie gut das im Vergleich zu Jev funktioniert, wurde für diesen Artikel nicht recherchiert. Deine eigenen Fälle zeigen es.
Wenn du bis hier gelesen hast, kennst du die Landkarte. Fehlt nur der Satz zum Mitnehmen.
Fazit
Kurzum:
Die eine Jev-Alternative gibt es nicht. Deine gibt es. Sie hängt davon ab, ob dir Datenschutz, deutscher Text, Selbstbetrieb oder ein einfacher Kontrollarm am wichtigsten ist. Über den Wechsel entscheiden deine eigenen Fälle.
Wenn ich dir nur eines mitgeben dürfte, dann das. Ein sauberer Kontrollarm schlägt jede Bestenliste, denn er misst auf deinen Fällen und nicht auf fremden.
Wo du Jev selbst sinnvoll einsetzt, zeigen dir die Anwendungsfälle für Jev.
Bevor du umbaust, lass deine echten Fälle samt richtiger Antwort gegen Jev, höchstens drei Alternativen und ein unverändertes Basismodell laufen.
Du musst nicht über 50 Modelle kennen. Ein sauberer Testlauf mit deinen eigenen Fällen sagt dir mehr als jede Bestenliste, und der ist kein Hexenwerk.
Offene Fragen klären die sieben Antworten unten.
Häufig gestellte Fragen zu Jev-Alternativen
Jev ist ein System-One-Modell von TypeSafe AI. Es erzeugt keinen Text, sondern beantwortet typisierte Fragen zu einem Zustand, den du mitschickst.
Choice wählt aus Optionen, Score bewertet auf Stufen, Noul liefert einen Ja-Wert zwischen 0 und 1. Die Jev-API nutzt den Endpunkt POST /v1/systemone. Du passt Jev über Zustand und Fragenformulierung an, nicht durch Nachtraining.
